Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
Авіашоу Radom 2025 у Польщі скасували через аварію винищувача F-16. Трагедія сталася під час репетиції заходу, коли багатофункціональний літак Повітряних сил Польщі зазнав катастрофи. Інцидент зафіксували місцеві авіаспотери, а очевидці опублікували відео моменту аварії. За даними, літак розбився під час виконання складного акробатичного маневру “мертва петля”. Пілот, Мацєй Краковян, не зміг вчасно набрати висоту, що […]
Китай завершив будівництво та відкрив перший глибоководний порт у Південній Америці — порт Чанкай, що розташований за 80 км від столиці Перу, Ліми. Цей об’єкт стане ключовим вузлом для експорту китайських товарів на континент і імпорту природних ресурсів із Південної Америки до Китаю. На церемонії відкриття був присутній голова КНР Сі Цзіньпін, який у межах […]
Центральне розвідувальне управління США повідомило про суттєві пошкодження ключових об’єктів ядерної програми Ірану внаслідок нещодавніх цілеспрямованих ударів. Про це йдеться у заяві директора ЦРУ Джона Реткліффа, оприлюдненій 26 червня на офіційному сайті відомства. За словами Реткліффа, сукупність достовірних розвідувальних даних свідчить про серйозну шкоду, завдану інфраструктурі ядерної програми. Йдеться про кілька об’єктів, які були зруйновані […]
Європейська комісія попередила Грузію, що подальші переговори про вступ до Європейського Союзу можуть бути призупинені, якщо країна не вдасться до суттєвих змін у внутрішньополітичному курсі. У звіті, підготовленому Єврокомісією, особливо акцентована увага на проблемах із забезпеченням демократичних виборів і відсутності прогресу в ключових реформах, найважливіших для відповідності критеріям членства в ЄС. Якщо Грузія не змінить […]
Народний депутат від фракції “Батьківщина” Сергій Власенко заявив про системні порушення у практиці призначення експертиз антикорупційними органами України. Він звинуватив ці органи у використанні схем, схожих на ті, що застосовувались за часів президента Віктора Януковича, зокрема в контексті заниження вартості експертних послуг. Власенко повідомив, що тимчасова слідча комісія отримала заяви про випадки, коли експерти, спочатку […]
Увечері 25 червня поблизу румунського села Таріверде сталася дорожньо-транспортна пригода за участю автобуса, в якому перебували 55 громадян України. За інформацією місцевого видання Ziua de Constanta, серед пасажирів було 8 чоловіків, 37 жінок та 9 дітей. Аварія трапилася близько 19:00 за місцевим часом на виїзді з населеного пункту у напрямку міста Констанца. За попередніми даними […]
Вранці вчора, в Оманській затоці, військово-морські сили Ірану захопили нафтовий танкер St Nikolas, який плавав під прапором Мальти. Інформація про напад стала відома після повідомлення про підняття на борт озброєних осіб. Іранське державне інформаційне агентство IRNA визнало захоплення танкера із зазначенням, що це сталося в результаті рішення суду, хоча конкретне судно не було ідентифіковано. Раніше […]
Засновник Amazon, мільярдер Джефф Безос, готується укласти один із найскладніших шлюбних контрактів в історії напередодні весілля з нареченою Лорен Санчес. Як повідомляє видання Hello Magazine, юристи працюють над документом кілька місяців, аби надійно захистити статки Безоса, оцінені у $220 мільярдів. Особливу увагу у контракті приділять захисту акцій компаній бізнесмена та нерухомості у 10 країнах світу. […]