Популярні чат-боти зі штучним інтелектом після тривалого спілкування з користувачами починають демонструвати більше помилок і неточностей. Таких висновків дійшли дослідники Microsoft Research спільно з Salesforce, повідомляє Windows Central.
Під час дослідження було проаналізовано понад 200 тисяч розмов із чат-ботами на основі великих мовних моделей. Результати показали, що сумарний рівень помилок у довгих діалогах може зростати більш ніж на 100%. Користувачі найчастіше скаржаться на так звані «галюцинації» — вигадані або неточні факти.
Експеримент охопив провідні моделі, зокрема GPT-4.1, Gemini 2.5 Pro, Claude 3.7 Sonnet та DeepSeek R1.
Якщо під час одноразових запитів такі системи демонструють приблизно 90% успішних відповідей, то у тривалих розмовах із додатковими уточненнями цей показник знижується до 65%. З ускладненням контексту ефективність моделей помітно падає.
Дослідники також зафіксували явище «роздування відповідей»: у багатоходових діалогах тексти ставали довшими на 20–300%. Водночас разом із обсягом зростала кількість припущень та помилкових тверджень, які закріплювалися в контексті та впливали на подальші відповіді.
Навіть моделі з розширеними можливостями міркування, такі як OpenAI o3 та DeepSeek R1, не змогли повністю уникнути цього ефекту.
Автори підкреслюють, що мова не йде про буквальне «тупішання» моделей. Йдеться радше про обмеження в утриманні великого обсягу інформації та коректній інтерпретації складного контексту під час тривалого діалогу.
Як зазначає Windows Central, ці особливості варто враховувати під час інтеграції чат-ботів у продукти, орієнтовані на довгу взаємодію з користувачами. Адже помилки та «галюцинації» можуть вводити людей в оману — особливо якщо ШІ використовується як джерело точної або критично важливої інформації.
Президент США Дональд Трамп підписав указ, який переглядає правила експорту військового обладнання, що має значно спростити процес продажу зброї американськими оборонними компаніями за кордон. Це рішення, на думку аналітиків, може призвести до зростання продажів таких гігантів, як Lockheed Martin, RTX (колишня Raytheon Technologies) та Boeing. У середу, 9 квітня, Трамп підписав указ, що дозволить американським […]
Плани Москви на найближчу перспективу включають терористичні акти в Білорусі з наступним звинуваченням у цьому білоруських добровольців, що воюють на боці України. Такі кроки спрямовані на кілька цілей, включаючи посилення ефекту після теракту у Підмосков’ї та створення “підстав” для обвинувачень України у тероризмі. За інсайдами, отриманими від однієї з європейських спецслужб, Москва планує організувати терористичні […]
Місія Crew-12 може бути відправлена на Міжнародну космічну станцію 12 лютого, але дата запуску ще не остаточна і залежить від погодних умов. Уже понад місяць на МКС перебувають лише троє астронавтів, що є мінімально можливим для нормальної роботи станції. Для забезпечення стабільної діяльності станції потрібно, щоб на борту перебувало сім осіб, тому відправка астронавтів місії […]
Лідер Північної Кореї Кім Чен Ин особисто відвідав випробування нових безпілотних літальних апаратів та розпорядився вдосконалити їхні можливості за рахунок штучного інтелекту. Про це 19 вересня повідомляє Reuters із посиланням на державне агентство KCNA. За даними ЗМІ, північнокорейський диктатор спостерігав за демонстрацією тактичного ударного дрона «Кумсон» та стратегічного розвідувального апарата. Випробування залишили Кіма задоволеним, і […]
Згідно з новими даними, суперкомп'ютер Opta оновив свої прогнози щодо чемпіонату світу з футболу 2026 року. Після завершення групового етапу на перше місце вийшла збірна Франції, яка обійшла чинних чемпіонів світу – команду Аргентини.
На основі останніх розрахунків, шанси Франції на перемогу оцінюються в 18,66%. Аргентина, яка раніше очолювала рейтинг, тепер займає другу позицію з ймовірністю 16,...
Національний банк України оголосив новий офіційний курс гривні на вівторок, 9 червня. На валютному ринку спостерігається змішана тенденція: американський долар продовжує зростати, в той час як євро значно знижується в ціні.
Згідно з оприлюдненими даними, курс долара США піднявся на 15 копійок, досягнувши 44,51 грн за долар. Водночас європейська валюта втратила в ціні 28 копійок, і на сьогоднішні...
Спецслужби США прагнуть знайти загадковий звіт про втручання Росії у вибори в Сполучених Штатах 2016 року, який, за повідомленнями, зник після того, як опинився в руках екс-президента Дональда Трампа. Останній раз конфіденційні документи були в Білому домі протягом останніх днів Трампового президентства. За даними розслідування CNN, американські спецслужби нещодавно виявили втрату підшивки, де містилися секретні […]
Нещодавно американські науковці провели великий експеримент, щоб оцінити можливості сучасних систем штучного інтелекту у виявленні правдивості наукових тверджень. В рамках дослідження ChatGPT було запропоновано проаналізувати понад 700 наукових гіпотез і визначити їхню істинність чи хибність.
На перший погляд, результати виглядали досить обнадійливо: у 2024 році точність відповідей становила 76,5...