Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
Президент США Дональд Трамп підписав указ, який призупиняє на 90 днів всі програми зовнішньої фінансової допомоги. Це рішення дасть час для перевірки відповідності цих програм політичним цілям держави, зазначається у повідомленні Associated Press (AP). Указ ставить під сумнів ефективність іноземної допомоги, заявивши, що “індустрія іноземної допомоги та бюрократія не відповідають американським інтересам” і в деяких […]
Єврокомісія закликає до швидкого досягнення угоди щодо фінансової допомоги Україні на суму 50 мільярдів євро, розрахованих на найближчі чотири роки. Представниця Єврокомісії, Ана Пізонеро, підкреслила важливість укладення угоди до кінця поточного року, щоб Київ міг продовжити отримувати допомогу від ЄС із початку 2024 року. “Важливо досягти угоди до кінця року, щоб забезпечити отримання Україною нашої […]
Європейський союз запропонував Лівану фінансовий пакет у розмірі одного мільярда євро для підтримки його економіки та сил безпеки, повідомила президентка Єврокомісії Урсула фон дер Ляєн під час свого візиту до Бейрута. Фон дер Ляєн зазначила, що цей пакет підтримки сприятиме зміцненню базових послуг у Лівані, зокрема в галузі охорони здоров’я та освіти. Вона також висловила […]
У Японії на 116-му році життя померла Томіко Ітока, яка була визнана найстарішою людиною у світі. Сумну звістку повідомили представники міської влади Асії, міста, де довгожителька провела свої останні роки. Жінка померла 29 грудня в будинку для людей похилого віку, але офіційно про це стало відомо лише сьогодні. Томіко Ітока народилася 23 травня 1908 року […]
Як повідомляє Fox News, лідер республіканців заявив, що його позиція в цьому питанні залишається незмінною: спершу США зобов’язані забезпечити безпеку на своєму південному кордоні, і тільки потім можна буде обговорювати допомогу Україні. Позиція спікера палати представників Майка Джонсона щодо України та міграційної політики “залишилася незмінною”, навіть незважаючи на тиск під час “напруженої” зустрічі в Білому […]
У Конгресі Сполучених Штатів виникла серйозна стурбованість щодо можливого дефіциту високоточних ракет великої дальності у разі війни з Китаєм. За даними конгресменів, США могли б вичерпати свої запаси таких ракет “менш ніж за тиждень”. Двопартійна група конгресменів надіслала лист заступнику голови Пентагону Кетлін Хікс, в якому виражається серйозна турбота з приводу можливого конфлікту в Азії […]
Єврокомісія направила Європейській Раді перший скринінговий звіт щодо кластера “Основи переговорів про членство України в ЄС”. Документ, надісланий 16 січня 2025 року, стане основою для обговорень між державами-членами. Процес вступу до ЄС поділено на 35 розділів, згрупованих у шість кластерів. Перший кластер, “Основи”, містить базові положення та критерії, які країна-кандидат повинна виконати для подальшого просування […]
У світлі сучасної політичної ситуації та потреб України в забезпеченні власної обороноздатності, екскомандувач військ США в Європі, генерал-лейтенант у відставці Бен Годжес, висловив свою жорстку думку щодо необхідності розширення виробництва боєприпасів в Україні. У своєму інтерв’ю “Голосу Америки”, Годжес висловив певне розчарування у відносинах із Заходом, запитавши: “Що ви робили від 2014 року?” та зазначив, […]