Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
Прем’єр-міністр Бельгії Александр Де Кроо став об’єктом серйозної загрози після того, як в його офіс надійшли листи із токсичною речовиною – стрихніном. Про це повідомила бельгійська прокуратура після отримання результатів аналізів порошку, виявленого в одному з листів. 22 листопада 2024 року одна з працівниць прем’єрського офісу відкрила лист і невдовзі відчула нездужання. Жінку негайно доставили […]
Європейська комісія затвердила виділення 1,3 млрд євро для розвитку штучного інтелекту та кібербезпеки в рамках програми “Цифрова Європа” (DIGITAL) на 2025-2027 роки. Це стане частиною масштабної ініціативи ЄС щодо посилення цифрової безпеки та інновацій у технологічній сфері. Програма DIGITAL спрямована на впровадження новітніх технологій у сфері штучного інтелекту, кібербезпеки та цифрових компетенцій. Основна частина фінансування […]
Вчора, на брифінгу в Києві, держсекретар Сполучених Штатів Америки Ентоні Блінкен оголосив про ініціативу укладення угоди про безпеку між США та Україною на наступні 10 років. Згідно з його заявою, ця угода передбачає широкий спектр підтримки з боку Сполучених Штатів у забезпеченні української безпеки та оборони. “У нашій угоді, розрахованій на 10 років, США підтримуватимуть […]
На північному заході Китаю, у басейні Цзинчуань Ордос, виявлено перше у світі надвелике родовище урану. Про це повідомило агентство «Сіньхуа» з посиланням на Управління геологічної розвідки, яке підпорядковується Міністерству природних ресурсів КНР. Це відкриття є першим у світі випадком виявлення надвеликого родовища урану в регіоні, де переважає еоловий пісковик. Подібні форми рельєфу охоплюють близько 200 […]
У першому кварталі 2025 року Україна витратила понад 1,2 трильйона гривень із загального фонду державного бюджету. Про це повідомив прем’єр-міністр Денис Шмигаль під час публічного звіту. Основна частина цих коштів була спрямована на потреби сектору безпеки та оборони, який залишається головним пріоритетом у воєнний час. За словами глави уряду, понад 60% усіх видатків загального фонду […]
Сполучені Штати Америки оголосили про намір підвищити тарифи на імпорт з Колумбії та припинити фінансову допомогу цій країні. Про це заявив президент США Дональд Трамп, повідомляють Економічні новини. Заява пролунала на тлі різкої критики колумбійської влади. Трамп назвав чинного президента Колумбії Густаво Петра «незаконним лідером наркотиків». Як пояснив міністр оборони США, американські військові нещодавно завдали […]
Адміністрація Байдена ще не прийшла до висновку, що Ізраїль порушив міжнародні закони війни, але процес оцінки триває і ще не надав остаточного рішення. Про це повідомив речник Держдепартаменту США, Меттью Міллер. За його словами, адміністрація зобов’язана подати звіт до Конгресу до 8 травня згідно з лютневим меморандумом про національну безпеку, який нагадує країнам, які отримують […]
Понад половина жителів Німеччини підтримують ідею відправлення миротворчих сил в Україну в разі укладення перемир’я з Росією. Це підтверджує опитування, проведене наприкінці грудня соціологічною службою YouGov, передає DW 2 січня. Згідно з результатами опитування, 56% респондентів виступають за участь миротворців. Водночас лише 23% із них підтримують участь німецьких військовослужбовців у складі таких сил. Третина опитаних […]