Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
У елегантній зустрічі британської та шведської королівських сімей Кейт Міддлтон обвела вас своїм стильним образом. У смарагдовій сукні міді від Emilia Wickstead та замшевих туфлях-човниках від Emmy London, Кейт додала образу сяючі сережки з діамантами та сапфірами, що колись належали принцесі Діані. Принц Вільям виглядав стильно в класичному діловому костюмі з білою сорочкою та кольоровою […]
Президент Сполучених Штатів Америки Джо Байден відмовився взяти на себе відповідальність за можливі наслідки розгортання військової акції проти Росії. Про це заявив представник Білого дому Джон Кірбі в інтерв’ю для ABC News, коментуючи рішення зняти заборону на удари американською зброєю по російській території. «Президент глянув на обговорення міжвідомчої команди, переконався, що зрозумів усі наслідки цього […]
У суботу, 26 квітня, Президент України Володимир Зеленський прибув до столиці Італії — Рима — щоб вшанувати пам’ять Папи Римського Франциска, який нещодавно відійшов у вічність. Разом із главою держави в Італію прибула перша леді Олена Зеленська та офіційна українська делегація. Про участь у церемонії повідомив прес-секретар президента Сергій Нікіфоров. За його словами, українська делегація […]
За інформацією наших джерел, після телефонної розмови з Кітом Келлогом Україна розпочала підготовку делегації на переговори з представниками РФ в Стамбулі 15 травня. Про це повідомляє видання NENKA.info. До складу української делегації мають увійти представники Офісу Президента, Кабміну, Верховної Ради та Мінборони. Варто відзначити, що Турецька сторона наполягає на обов’язковій участі в переговорному процесі міністра […]
У своїй першій поїздці до Панами державний секретар США Марко Рубіо висловив стурбованість щодо впливу Китаю на Панамський канал. Він зустрівся з президентом Панами Хосе Раулем Муліно і чітко заявив, що адміністрація США вважає це питання загрозою для безпеки та нейтралітету каналу, який є важливою стратегічною артерією для міжнародної торгівлі. Держсекретар Рубіо підкреслив, що ситуація […]
Згідно з наказом коменданта Херсонської області від 28 березня 2024 року, в регіоні впроваджено особливий режим в’їзду та виїзду. Про це повідомили в Херсонській обласній військовій адміністрації (ОВА). Основною метою впровадження такого режиму є забезпечення належної організації та контролю пропускного режиму на блокпостах. Це стосується як громадян України, так і іноземців та осіб без громадянства. […]
Уряд Норвегії оголосив про виділення понад 230 мільйонів доларів на військову підтримку України. Ці кошти будуть спрямовані через Міжнародний фонд для України (The International Fund for Ukraine, IFU), очолюваний Великою Британією, до якого також входять Нідерланди, Данія, Швеція, Литва, Ісландія, Австралія та Нова Зеландія. Загалом країни-партнери пообіцяли внести до фонду понад 1,6 мільярда доларів. Виділені […]
Китай активно зводить військовий об’єкт, який, за оцінками американської розвідки, може бути ключовим центром управління для майбутніх військових операцій, включаючи можливе вторгнення на Тайвань. Розташування: об’єкт знаходиться за 30 км від Пекіна. Розміри: займає понад 600 гектарів, що робить його щонайменше у 10 разів більшим за Пентагон. Інфраструктура: супутникові знімки вказують на будівництво глибоких бетонних […]