Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
У Вашингтоні лідер іранської опозиції Алі Реза Резазаде повідомив про новий наступ Ізраїлю на місто Газа. Після того, як Ізраїль видав накази про евакуацію, палестинці очікували наступу і втекли з північного міста, спустошеного війною. Ізраїльські переговорники планували відправитися до Єгипту для мирних переговорів щодо припинення вогню, спрямованих на завершення дев’ятимісячної війни з ХАМАСом, яка зруйнувала […]
Колишній президент США і кандидат на пост президента від Республіканської партії Дональд Трамп привітав президента Росії Володимира Путіна з успішним обміном заручниками, який відбувся днями. У своїй заяві Трамп назвав Путіна “очевидним переможцем” цього обміну, який призвів до звільнення кількох американських громадян, що перебували в ув’язненні в Росії. Кандидат від Республіканської партії США Дональд Трамп […]
Станом на початок травня 2025 року борг киян за спожиту електроенергію перевищив 1,2 мільярда гривень. Це на понад 220 мільйонів гривень більше, ніж у той же період минулого року, повідомляє енергетична компанія YASNO, передає The Page. Попри значний рівень заборгованості, YASNO поки не передає заявки на відключення неплатників оператору системи розподілу, який відповідає за фізичне […]
Голова Військового комітету ЄС генерал Роберт Брігер висловив переконання, що досягнення припинення вогню в Україні можливе через створення міжнародної місії під мандатом ООН. В інтерв’ю виданню Welt він розповів, що країни Європейського Союзу можуть надати значні сили для контролю припинення вогню, однак для ефективного нагляду за демілітаризованою зоною знадобиться значна військова присутність. Брігер наголосив, що […]
Ситуація навколо колишньої першої леді Франції Карли Бруні стала об’єктом значної уваги після того, як судові слідчі допитали її у рамках кримінального розслідування. За звинуваченнями, які висуваються проти неї, входять “підтасовка свідків і шахрайство в організованій банді”. Карлу Бруні, колишню першу леді Франції та супермодель, звинуватили в корупційних злочинах. Її підозрюють у змові з метою […]
У 2025 році вихід ультратонких моделей Galaxy S25 Edge і iPhone Air не виправдав очікувань виробників. Продажі цих пристроїв виявилися значно нижчими порівняно зі звичними аналогами, і бренди всерйоз замислилися над доцільністю подальшого розвитку цього форм-фактора. Опитування, проведене експертами PhoneArena, показало, що майже 53% користувачів не вірять у майбутнє надтонких смартфонів. Причиною невдачі стали компроміси […]
Китай, ймовірно, став першою країною, яка підняла у повітря винищувач шостого покоління. Виявлений новий літак, який здивував фахівців, за своїми характеристиками може бути першим бойовим літаком нового покоління. Це помітили завдяки кадрам, на яких новий літак летить поруч із Chengdu J-20 — китайським винищувачем п’ятого покоління, одним із найсучасніших бойових апаратів, що вже перебувають на […]
Увечері 5 серпня в секторі Газа сталася трагедія — щонайменше 20 людей загинули, ще понад 30 отримали поранення внаслідок перекидання вантажівок з гуманітарною допомогою. Інцидент трапився на південний схід від Дейр-аль-Балаха, в центральній частині анклаву. Про це повідомляє **BBC** із посиланням на речника агентства цивільної оборони Гази Махмуда Басала. За офіційною інформацією, чотири вантажівки втратили […]