Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
У середу, 29 листопада, уряд Словаччини під керівництвом прем’єр-міністра Роберта Фіцо прийняв рішення про продовження заборони на імпорт агропродукції з України та зміцнення правил транзиту, повідомляє Novinky.cz. Заборона буде розповсюджена на імпорт таких продуктів, як мед, цукор, солод, та соя, додатково до вже встановленої на пшеницю, кукурудзу, насіння ріпаку та соняшнику. За пропозицією міністра сільського […]
У інтерв’ю для чеського видання Novinky президент Чехії Петр Павел висловив сумнів щодо можливості досягнення “справедливого миру” для України в результаті завершення війни. За його словами, повне відновлення контролю України над усією своєю територією, включаючи Крим, а також компенсація за завдані війною збитки є “ілюзією”, а реальність буде дещо іншою. “Якщо розглядати справедливий мир як […]
Сьогодні українське видання Kyiv Post опублікувало статтю з заголовком “США придбали у Казахстану радянські літаки для передачі Україні”. З посиланням на джерела, заявило, що Сполучені Штати придбали десятки радянських літаків у Казахстані з метою передачі їх Україні. Казахстан таку угоду спростував. За даними видання, у жовтні Казахстан виставив на продаж на аукціоні 117 старих бойових […]
Сполучені Штати Америки заявили про надію на завершення повномасштабної війни в Україні. Як повідомляє агентство Reuters, віце-президент США Джей Ді Венс у п’ятницю, 18 квітня, заявив, що нині тривають переговори, які можуть наблизити завершення бойових дій між Росією та Україною. Про це він розповів перед початком зустрічі з прем’єр-міністеркою Італії Джорджою Мелоні в Римі. Зустріч […]
Відома українська співачка Ані Лорак та її 12-річна донька Софія викликали резонанс, з’явившись на світському заході у Москві. Фотографії з заходу, який мав місце днями, були опубліковані в Instagram. Артистка отримала негативні оцінки за своє рішення привести дитину на подібну вечірку в російській столиці, особливо враховуючи сучасну політичну ситуацію та відносини між Україною та Росією. […]
Згідно з повідомленням “Новой Газеты Европа”, брат відомого російського коміка Максима Галкіна, який виступив проти війни в Україні, виявився великим постачальником зброї для потреб російської армії. Це новина, яка викликає низку парадоксів та запитань. Компанія Дмитра Галкіна «Збройові майстерні» виробляє роботів, боєприпаси, бронетранспортери та автомобілі спеціального призначення. Нещодавно російські силовики провели в ній обшуки у […]
Американська співачка Мадонна публічно висловила свою підтримку трансгендерним людям на тлі останніх дій адміністрації Дональда Трампа, спрямованих на обмеження прав представників ЛГБТК+. У своїх інстаграм-сторіз співачка зробила репост публікації трансгендерної акторки Карли Софії Гаскон, відомої за роллю у фільмі «Емілія Перес». Гаскон нещодавно потрапила у скандал через свої старі «расистські» твіти щодо ісламу, вбивства Джорджа […]
Сенатор від Флориди Марко Рубіо, який є одним з ключових представників Республіканської партії в Сенаті, може стати новим державним секретарем США в адміністрації Дональда Трампа. Рубіо заявив, що планує забезпечувати “мир через силу”, якщо буде номінований на посаду. Він також підкреслив, що готовий працювати над реалізацією зовнішньополітичного порядку денного Трампа, завжди ставлячи інтереси Америки та […]