Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
Міністр оборони Латвії Андріс Спрудс повідомив, що уряд країни наразі оцінює можливість закриття східного сухопутного кордону з Росією. Він пояснив, що остаточне рішення ухвалюватиметься з урахуванням міркувань безпеки держави та потенційного впливу на економіку та народне господарство. Спрудс підкреслив, що якщо уряд ухвалить рішення про закриття кордону, Міністерство оборони Латвії буде готове вжити конкретних дій […]
Італійський модний дім Prada придбає відомий бренд Versace у компанії Capri Holdings за 1,375 мільярда доларів готівкою. Це стане найбільшою угодою за всю 112-річну історію Prada. Як повідомляє агентство Bloomberg, завершення операції очікується в другій половині 2025 року. Придбання буде профінансоване завдяки новому борговому фінансуванню на 1,5 мільярда євро. Завдяки цьому кроку Prada значно зміцнить […]
Міністр закордонних справ Великої Британії, Девід Кемерон, оголосив, що Велика Британія висловлює готовність невдовзі офіційно визнати палестинську державу. Він вказав, що для цього палестинському народу потрібно досягти “незворотнього прогресу” у вирішенні питання двох держав. Кемерон розглядає можливість формального дипломатичного визнання Палестини не в рамках остаточної мирної угоди між Ізраїлем і ХАМАС, а на етапі самого […]
Міністерство закордонних справ України оголосило про створення посади спеціального посла, який займатиметься питаннями військовополонених. Основним завданням нового представника стане координація процесів, що стосуються обміну та повернення українців, які потрапили в російський полон.
У відомстві підкреслили, що створення цієї посади має на меті підвищення міжнародної діяльності у сфері захисту п...
На президентських виборах у Польщі перемогу здобув кандидат від консервативної партії “Право і справедливість”, голова Інституту національної пам’яті Кароль Навроцький. За офіційними даними Державної виборчої комісії, він отримав 50,89% голосів, випередивши мера Варшави Рафала Тшасковського на 1,78%. Загальна різниця у кількості голосів склала близько 369 тисяч, при цьому Навроцького підтримали понад 10,6 мільйона виборців. Спочатку […]
Сьогодні на тлі популярності здорового харчування та альтернативних напоїв все більше людей починають замінювати традиційну ранкову чашку кави на чашку кісткового бульйону. І хоча це може здатися дивним, ця зміна має безліч корисних ефектів для здоров’я. Чим же кістковий бульйон відрізняється від кави, і які переваги може принести такий ранок? Основна причина, чому багато людей […]
При обиранні подарунка для людини, у якої вже є все або вона нічого не потребує, важливо врахувати її інтереси та цінності. Якщо ви не впевнені, що подарувати, завжди можна запитати їх прямо. Тим не менше, пропонуємо п’ять ідей для найкращих подарунків таким особам, які підходять на різноманітні заходи, такі як дні народження, урочисті події або […]