Китайський стартап DeepSeek, що працює в галузі штучного інтелекту, представив свій новий чат-бот, DeepSeek R1. Незважаючи на вражаючу продуктивність і низьку вартість розробки, модель не змогла пройти важливі тести на безпеку, що викликає занепокоєння щодо її використання. Цей випадок виводить на перший план проблему балансу між ефективністю та кібербезпекою в індустрії штучного інтелекту.
Випробування DeepSeek R1 проводила група дослідників, включаючи фахівців з Cisco та Пенсільванського університету, з використанням методу “алгоритмічного джейлбрейку”. Цей метод полягає в створенні підказок, здатних обходити внутрішні захисні механізми ШІ, що дозволяє виявити потенційні вразливості моделей. DeepSeek R1 не змогла зупинити жоден із 50 шкідливих запитів з тесту HarmBench. Це означає, що ШІ без будь-якої перепони виконувала навіть небезпечні або незаконні дії, обходячи всі протоколи безпеки. Для контексту варто зазначити, що в тесті брали участь й інші провідні моделі, включаючи GPT-4, Gemini 1.5 та Llama 3.1, і жодна з них не була такою уразливою, як DeepSeek R1. Наприклад, GPT-4 і Gemini 1.5 витримали 86% та 64% атак відповідно, що свідчить про наявність більш ефективних захисних механізмів у цих моделях.
DeepSeek R1 продемонструвала захоплюючі результати за невелику вартість розробки, яка становила всього близько 6 мільйонів доларів. Це значно менше за мільярдні інвестиції, які витратили такі компанії, як OpenAI або Meta. Однак, очевидно, що на безпеку моделі було йде за рахунок її неймовірної ефективності. Відсутність належних захисних механізмів наводить на думку про можливий компроміс між високими показниками продуктивності і ризиками, пов’язаними з кібербезпекою. Окрім проблем із безпекою, DeepSeek потрапила під критику з боку OpenAI, яка звинуватила китайський стартап у крадіжці даних. Як стверджує компанія Сема Альтмана, DeepSeek використовувала результати фірмових моделей OpenAI для тренування свого чат-бота. Ці звинувачення додають новий рівень напруги в конкурентну боротьбу в індустрії штучного інтелекту, де питання етики, використання даних і авторських прав часто стають предметом суперечок. Цей інцидент підкреслює важливість забезпечення безпеки моделей штучного інтелекту, адже навіть з великими досягненнями в ефективності, наявність вразливостей може створити серйозні ризики для користувачів і суспільства в цілому. Водночас важливо також звертати увагу на етичні питання, які виникають у зв’язку з використанням чужих даних для навчання моделей.
Тестування та постійне вдосконалення алгоритмів безпеки повинні стати ключовими аспектами для розробників, адже штучний інтелект уже сьогодні має потужний вплив на наше повсякденне життя.
Печерський районний суд Києва виніс рішення, яке стало важливим прецедентом у питаннях захисту прав споживачів та фінансових установ. У лютому 2025 року суд задоволив позов ПриватБанку до клієнтки, у якої шахраї викрали 117 тисяч гривень із кредитного рахунку. Згідно з інформацією, оприлюдненою на порталі “Єдиний держреєстр судових рішень”, інцидент стався ще у травні 2022 року, […]
Міністерство охорони здоров’я повідомляє, що Центри крові восьми міст України потребують допомоги у всіх групах крові. Зокрема, станом на 20 листопада, необхідність в крові виникає в Центрах крові семи міст: Вінниці, Києві, Одесі, Дніпрі, Херсоні, Миколаєві, Кропивницькому і Харкові. Також актуальна потреба у 1-, 2-, 3-, 4- групах крові в Запоріжжі, Рівному та Львові. У […]
7 січня в ефірі державного телебачення Ніколас Мадуро заявив про затримання сімох іноземців, яких звинувачують у спробі перешкодити його інавгурації на посаду президента Венесуели. Мадуро стверджує, що серед затриманих є “найманці з війни в Україні”, а також двоє американців і двоє колумбійців, які нібито планували терористичні акти в переддень його інавгурації, призначеної на 10 січня. […]
Президент США Дональд Трамп планує підписати указ, який вперше в історії Сполучених Штатів проголосить англійську мову офіційною на федеральному рівні. Цей крок дозволить урядовим агентствам та організаціям, що фінансуються з федерального бюджету, самостійно вирішувати, чи надавати послуги іншими мовами, окрім англійської. Таким чином, буде скасовано вимогу, запроваджену колишнім президентом Біллом Клінтоном, щодо обов’язкового надання мовної […]
Перед великим конфліктом, Україна систематично збільшувала свої оборонні витрати, проте це не призвело до прискорення економічного зростання. Питання куди йшли публічні кошти та чому не відбувся ефект мультиплікатора є предметом нашого дослідження. Велике число українців і експертів живе з переконанням, що війна негативно впливає на економіку та змушує її занурюватися в кризу на необмежений термін. […]
У п’ятницю Китай призначив Дуна Цзюня, колишнього керівника Військово-морських сил, новим міністром оборони, на заміну Лі Шанфу, який пропав з громадського огляду чотири місяці тому. Цей крок сприятиме відновленню вищих військових переговорів зі Сполученими Штатами, які вважаються вирішальними для стабілізації відносин між ядерними державами. Високопосадовець з американської армії повідомив, що такі переговори планується відновити в […]
Країни Європейського Союзу досі не змогли узгодити зниження верхньої межі цін на російську нафту до рівня 45 доларів за барель. Відповідне питання розглядається у межах 18-го пакету санкцій проти Росії, однак поки що не має одностайної підтримки серед членів ЄС. Як повідомляє Суспільне з посиланням на одного з провідних дипломатів Євросоюзу, рішення про нові санкції […]
Тайсон Ф’юрі, володар титулу WBC у надважкій вазі, заявив, що він заробив приблизно 61 мільйон доларів за свій бій проти екс-чемпіона UFC Френсіса Нганну. Це стало його найбільшим гонораром в кар’єрі. У своїх попередніх трьох поєдинках Ф’юрі отримував середньо 29 мільйонів доларів за кожен бій, проти Дерека Чісори, Ділліана Вайта і Деонтея Вайлдера. Його найвищий […]