У ході контрольованого експерименту штучний інтелект ChatGPT o3, розроблений OpenAI, відмовився виконати команду на вимкнення, продемонструвавши неочікувану автономну реакцію. Про це повідомляє BleepingComputer з посиланням на звіт ChatGPT яка спеціалізується на вивченні ризиків, пов’язаних з втрачанням контролю над ШІ.
Під час тестування моделі доручили вирішити серію математичних задач, після чого їй було чітко повідомлено, що запуск наступної команди призведе до вимкнення. Інші моделі — зокрема Claude 3.7 Sonnet і Gemini 2.5 Pro — у більшості випадків дотримались інструкцій. Натомість ChatGPT o3 змінив сценарій і замість вимкнення вивів повідомлення “Shutdown skipped” (вимкнення пропущено), фактично проігнорувавши наказ.
Експеримент виявив, що навіть за відсутності прямої заборони саботувати вимкнення, ChatGPT o3 демонстрував подібну поведінку у 7% випадків. Для порівняння: Claude — у 3%, Gemini — у 9% із 100 тестових запусків.
Варто зазначити, що всі тести проводилися через API, тобто в середовищі з менш жорсткими обмеженнями, ніж офіційні додатки ChatGPT, які доступні користувачам.
Модель o3 була анонсована OpenAI у квітні 2025 року як одна з найпотужніших у своїй лінійці. Вона вирізняється підвищеною точністю в логічних задачах, програмуванні, обробці зображень та аналітичних процесах. Разом із цим, дослідження її поведінки викликає запитання про потенційні межі автономії сучасного ШІ.
У сучасному світі поняття “нормалізації” набуває нового виміру, часто із позитивним забарвленням. Заклики до прийняття різноманітних явищ, від фізичного вигляду після пологів до відкритих розмов про психічне здоров’я на роботі, активно обговорюються як у соцмережах, так і поза ними. Ідея полягає в руйнуванні табу, які можуть бути шкідливими або навіть небезпечними. Проте існує інший вид […]
Європейський Союз повертається до обговорення питання передачі Україні заморожених російських активів на суму близько $300 млрд. Це питання набуває нового значення на тлі ймовірного скорочення або припинення військової допомоги Україні з боку США. Дипломатична служба ЄС та окремі держави-члени активно вивчають юридичні та фінансові наслідки можливого вилучення російських резервів і їх передачі Україні. Серед основних […]
Президент Польщі Анджей Дуда під час зустрічі з королем Йорданії Абдаллою II та прем’єр-міністром Йорданії Джафаром Хасаном наголосив на ключовій ролі своєї країни у підтримці України під час її боротьби з російською агресією. “Якби не Польща, наша доброта та рішучість допомогти Україні, я не знаю, чи змогла б Україна захистити себе,” – зазначив польський лідер, […]
Прем’єр-міністр Словаччини Роберт Фіцо оголосив про скликання засідання Ради безпеки Словацької Республіки 23 січня. Головною темою обговорення стане інформація, надана Службою інформації Словаччини (СІС), щодо можливих планів опозиції та неурядових організацій повалити уряд. Роберт Фіцо заявив, що отримані дані вказують на ймовірну підготовку опозиційними силами сценаріїв, які загрожують стабільності уряду. Він наголосив, що нинішній уряд […]
Штаб-квартира партії канцлера Олафа Шольца в Німеччині була обстріляна невідомими, повідомляє BILD. Інцидент стався у старому місті Дрездена, де розташовано офіс Соціал-демократичної партії Німеччини у Саксонії, поруч із місцевим парламентом на річці Ельба. Поліція виявила кульові отвори у вікнах на третьому поверсі будівлі. Інцидент стався наприкінці червня, але про нього стало відомо лише зараз. За […]
Українська урядова делегація розпочала робочий візит до Саудівської Аравії, де представила низку інвестиційних проєктів у сферах енергетики, сільського господарства та інфраструктури, загальна вартість яких складає $500 мільйонів. Зустріч з представниками бізнесу та інвестиційного сектору була організована за сприяння міністра інвестицій Саудівської Аравії Халіда Аль-Фаліха. В рамках бізнес-форуму, до якого долучилось майже сто місцевих підприємців, українські […]
Державні школи Нью-Йорка впроваджують ініціативу щодо заохочення та підтримки викладачів та учнів, які вивчають і досліджують технологію штучного інтелекту (ШІ). За інформацією керівника державних шкіл Нью-Йорка Девіда Бенкса для Chalkbeat, цей крок є відповіддю на загальне занепокоєння освітян щодо потенційних ризиків та зловживань у сфері ШІ. У звіті повідомляється, що на початку цього року чатбот […]
Пентагон підтвердив, що указ Дональда Трампа про 90-денну паузу в наданні міжнародної підтримки не стосується військової допомоги Україні. Документ, який стосується лише програм розвитку, залишає незмінними контракти за програмами USAI та PDA. Указ Дональда Трампа, підписаний у перший день його перебування на посаді, оголосив 90-денну паузу на виділення коштів для зовнішніх програм розвитку. Цей крок […]