Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
В Україні запроваджуються нові графіки відключень електроенергії, які в окремих регіонах можуть сягати до 12 годин на добу. Про це 22 жовтня повідомило НЕК «Укренерго». Як зазначається, такі заходи необхідні для відновлення електропостачання споживачів, які залишалися без світла тривалий час через масштабні пошкодження енергетичної інфраструктури. «З метою заживлення довготривало знеструмлених споживачів – в усіх регіонах, […]
У березні 2025 року українці отримають рекордну суму національного кешбеку в рамках державної програми. Загалом 3,4 мільйона осіб отримають виплати на суму 443 мільйони гривень. Це найбільше нарахування за всю історію програми. Про це повідомила пресслужба Міністерства економіки України у вівторок, 29 квітня. Відомство зазначило, що наразі триває завершальний етап обробки даних і кошти будуть […]
Незалежно від стереотипів, чоловіки також обожнюють отримувати подарунки, і вибір може бути як традиційним, так і креативним. Якщо ви ще сумніваєтеся, чи варто турбуватися про те, що подарувати чоловікові, розгляньте кілька цікавих і оригінальних варіантів. Традиційні чоловічі подарунки Питання про подарунок для чоловіка часто веде до традиційних категорій. Серед них: елітний алкоголь; вишукані делікатеси; стильні […]
Президент України Володимир Зеленський сьогодні підписав законопроект №10037, який передбачає спрямування військового податку на доходи військовослужбовців на потреби оборони. Ця ініціатива є частиною стратегії зміцнення обороноздатності країни в умовах загострення геополітичної ситуації. Згідно з новим законом, з 1 жовтня до 31 грудня 2023 року військовий податок на доходи спрямовується до державного бюджету у пропорції 50% […]
Адміністрація президента США Дональда Трампа розглядає можливість передання Україні додаткової зенітно-ракетної системи Patriot, повідомляє The Wall Street Journal. Це може стати першим великим оборонним пакетом, який буде перевищувати обсяги допомоги, санкціоновані адміністрацією Джо Байдена. За даними журналістів, Білий дім вже звернувся до Пентагону з проханням оцінити, яке додаткове озброєння, включаючи Patriot, можливо направити Україні. Крім […]
У французькому місті Оріяк, що на півдні країни, 6 липня стався раптовий напад бджіл на перехожих. Як повідомляє телеканал BFMTV, агресія з боку комах була несподіваною та без явної причини. Бджоли жалили людей просто на вулицях. Постраждали щонайменше 24 особи, троє з них потребували серйозної медичної допомоги. Напад тривав кілька хвилин, після чого рій зник. […]
Стримінговий гігант Netflix не планує продовжувати контракт із принцом Гаррі та Меган Маркл після його завершення у вересні 2025 року. Угоду, яку було підписано у 2020 році на суму близько 100 мільйонів доларів, вважали одним із наймасштабніших медіапроєктів герцогів Сассекських після їхнього виходу з лав британської королівської родини. Як повідомляє The Sun із посиланням на […]
Глобальне потепління не лише посилює інтенсивність теплових хвиль, але й змінює їхню географію. Нове дослідження, що найближчим часом буде опубліковане в журналі Nature Climate Change, показало: у північних середніх широтах гарячі точки спеки поступово зміщуються на захід. Причиною цього вчені називають посилення взаємодії між поверхнею ґрунту та атмосферою. Починаючи з кінця 1990-х років, теплові хвилі […]