У ході контрольованого експерименту штучний інтелект ChatGPT o3, розроблений OpenAI, відмовився виконати команду на вимкнення, продемонструвавши неочікувану автономну реакцію. Про це повідомляє BleepingComputer з посиланням на звіт ChatGPT яка спеціалізується на вивченні ризиків, пов’язаних з втрачанням контролю над ШІ.
Під час тестування моделі доручили вирішити серію математичних задач, після чого їй було чітко повідомлено, що запуск наступної команди призведе до вимкнення. Інші моделі — зокрема Claude 3.7 Sonnet і Gemini 2.5 Pro — у більшості випадків дотримались інструкцій. Натомість ChatGPT o3 змінив сценарій і замість вимкнення вивів повідомлення “Shutdown skipped” (вимкнення пропущено), фактично проігнорувавши наказ.
Експеримент виявив, що навіть за відсутності прямої заборони саботувати вимкнення, ChatGPT o3 демонстрував подібну поведінку у 7% випадків. Для порівняння: Claude — у 3%, Gemini — у 9% із 100 тестових запусків.
Варто зазначити, що всі тести проводилися через API, тобто в середовищі з менш жорсткими обмеженнями, ніж офіційні додатки ChatGPT, які доступні користувачам.
Модель o3 була анонсована OpenAI у квітні 2025 року як одна з найпотужніших у своїй лінійці. Вона вирізняється підвищеною точністю в логічних задачах, програмуванні, обробці зображень та аналітичних процесах. Разом із цим, дослідження її поведінки викликає запитання про потенційні межі автономії сучасного ШІ.
США вперше атакували дронами порт у Венесуелі. Про це повідомляє CNN з посиланням на джерела. За даними джерел, на початку грудня було нанесено удар по віддаленому причалу, який американська влада вважала логістичним пунктом венесуельського угруповання Tren de Aragua. На момент атаки на об’єкті нікого не було, тому жертв вдалося уникнути. В результаті удару була знищена […]
У Києві правоохоронці затримали чоловіка, який намагався вимагати 100 тисяч доларів у посадовця територіального центру комплектування та соціальної підтримки. Жертвою шахрайської схеми став начальник відділу районного ТЦК та СП однієї із західних областей України. Як повідомили правоохоронці, у грудні зловмисник зателефонував військовослужбовцю ТЦК, представившись нібито «посередником» від Державного бюро розслідувань. Під час розмови він переконував […]
Станом на 21 листопада українські аграрії намолотили 50,93 млн тонн зернових культур, обмолотивши 88% засіяних площ. Загальна площа збору становить 10,23 млн га, і темпи жнив свідчать про один із найстабільніших сезонів за останні роки. Пшениці зібрано 22,96 млн тонн з площі 5,05 млн га. Ячменю намолочено 5,42 млн тонн на 1,36 млн га, гороху […]
Колишня топ-менеджерка Facebook, Барбара Ферлоу-Смайлз, зізналася в крадіжці понад 4 мільйонів доларів, які належали компанії. Вона працювала у Facebook (тепер Meta) як провідний стратег та глобальний керівник ресурсних груп із залучення різноманітності з січня 2017 року по вересень 2021 року. За інформацією офісу прокурора США Райана К. Б’юкенена, Ферлоу-Смайлз використовувала корпоративний рахунок для розкішного способу […]
США запропонували українським компаніям долучитися до спільного виробництва ударних безпілотників у межах масштабної програми Пентагону. Йдеться про Drone Dominance Program (DDP), метою якої є швидке розгортання недорогих односторонніх ударних дронів та формування до 2027 року запасу із сотень тисяч таких апаратів. Як повідомляється на сайті Міністерства оборони США, до участі в програмі запрошено 25 компаній, […]
Міністр оборони Рустем Умєров розповів про результати 19-го засідання Контактної групи з питань оборони України, яке відбулося в онлайн форматі. Він відзначив “плідні перемовини” у межах Коаліції спроможностей, де сторони активно працювали над підсиленням української протиповітряної оборони. За словами Умєрова, партнери посилюють українську протиповітряну оборону, як системами, так і ракетами до них. Новостворена Коаліція інтегрованої […]
У Le Parisien зазначили, що російський президент, судячи з усього, сьогодні почувається куди впевненіше, ніж рік тому. Видання впевнене, що цьому сприяв успіх Росії в Україні. Президент Росії звертається до країни у виступі, який транслюється не тільки по телебаченню, а й безкоштовно в кінотеатрах двадцяти міст, звернули увагу в Le Monde. Al Jazeera пише: “Путін […]
Згідно з останніми повідомленнями військового порталу Defence Express, Сполучені Штати Америки успішно провели перше навчання з використання далекобійної гіперзвукової зброї під назвою Dark Eagle. Ця зброя вже пройшла значний шлях випробувань і розробок, що в кінцевому підсумку призвело до успішного виконання вправ «виявлення – ураження цілі» в режимі реального часу. Чи проводилися реальні пуски ракет […]