Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
Нападник «Ан-Насра» Кріштіану Роналду висловився про рівень чемпіонату Саудівської Аравії, порівнявши його з американською МЛС. На думку португальця, саудівська ліга недооцінена і значно перевершує своїх критиків. «Коли я вирішив приїхати сюди, то не думав, що саудівська ліга зростатиме так швидко. Але я знав, що через рік чи два вона стане першокласною, як зараз. Люди нічого […]
Прем’єр-міністр Грузії Іраклій Кобахідзе заявив, що Захід чинить тиск на його країну, намагаючись спонукати її до відкриття «другого фронту» проти Росії. Ця заява прозвучала в контексті коментарів щодо невдоволення Заходу грузинським законом про іноземних агентів. За словами Кобахідзе, з початку 2022 року Захід проявляє серйозний інтерес до відкриття в Грузії «другого фронту», який би відволік […]
На початку 2000-х років проблема бездомних тварин в Європі стала надзвичайно актуальною, зокрема в Києві, Ірпені та Бородянці. Багато країн стали свідками великого припливу викинутих домашніх улюбленців. З цього приводу виникло кілька комплексних підходів для вирішення проблеми. На сьогоднішній день деякі західні країни можуть похизуватися тим, що в них відсутні бездомні тварини або їх відсоток […]
25 квітня 2025 року на кордоні Пакистану та Індії сталися збройні зіткнення, які загострили ситуацію в регіоні після заяв про можливу ескалацію військового конфлікту між двома країнами. Індійська сторона стверджує, що обстріли, які сталися в кількох точках лінії розмежування, були спровоковані пакистанською армією, але, згідно з повідомленнями індійських військових, вони дали “ефективну відповідь” на обстріли. […]
У Судані сталася трагедія: військовий літак Антонов зазнав аварії під час зльоту з авіабази Ваді-Сейдна, що розташована на захід від столиці Хартума. Літак впав на житлові будинки, що призвело до великої кількості жертв. Згідно з офіційними даними, принаймні 46 осіб загинули, а ще 10 отримали поранення. Серед загиблих – військові, що перебували на борту літака, […]
Сьогоднішні вибори до Європейського парламенту обіцяють стати поворотним моментом у політичній історії континенту. Згідно з інформацією, наданою Politico, крайні праві партії набирають силу, що може суттєво змінити політичний ландшафт Європи. Заголовок статті говорить: «Настав момент Трампа в Європі». Видання зазначає, що по всій Європі радикальні праві, які опонують нинішній владі ЄС, перебувають на підйомі. У […]
Сьогодні вранці приватна резиденція прем’єр-міністра Ізраїлю Беньяміна Нетаньягу в місті Кесарія зазнала атаки з безпілотника, запущеного з території Лівану. За інформацією, опублікованою в ізраїльських ЗМІ, у момент атаки Нетаньягу та його дружина не були вдома, що, на щастя, запобігло жертвам серед цивільного населення. Офіс прем’єр-міністра Ізраїлю підтвердив, що “приватна резиденція прем’єр-міністра в Кесарії була атакована […]
Начальник Головного управління розвідки Міністерства оборони України Кирило Буданов розповів про масштабну військову співпрацю між Росією та Північною Кореєю. За його словами, Москва передає Пхеньяну передові військові технології, які можуть суттєво змінити баланс сил на Корейському півострові. Буданов повідомив, що Росія і КНДР домовилися про створення виробничих потужностей на території Північної Кореї для випуску безпілотних […]