Як ChatGPT випадково спровокував психоз у пацієнта

Унікальний випадок отруєння натрієм бромідом, що призвело до розвитку психозу, був зафіксований у США — і причиною стало слідування порадам штучного інтелекту ChatGPT. Лікарі з Університету Вашингтона описали цей інцидент у журналі *Annals of Internal Medicine: Clinical Cases*, наголошуючи на ризиках безконтрольного використання штучного інтелекту для отримання медичних чи дієтичних рекомендацій.

Все почалося, коли чоловік звернувся до місцевої лікарні з підозрою на отруєння. У нього спостерігалися симптоми збудження, параної, галюцинації, а також відмова пити воду навіть при сильній спразі. Медики встановили, що пацієнт перебував у стані психотичного епізоду, який потребував примусової госпіталізації у психіатричне відділення. Після детального обстеження виявилося, що чоловік отруївся натрієм бромідом — токсичною речовиною, відомою як причина так званого бромізму.

За словами пацієнта, він протягом трьох місяців свідомо вживав натрію бромід за порадою ChatGPT, намагаючись замінити в раціоні звичайну кухонну сіль (натрій хлорид). Зокрема, він турбувався через негативний вплив надлишку хлориду на здоров’я, і в пошуках альтернатив звернувся до штучного інтелекту. Відповідь ChatGPT нібито підтвердила безпеку використання броміду замість хлориду. В результаті чоловік почав купувати і вживати бромід, що і стало причиною інтоксикації.

Лікарі відзначають, що у типовому контексті заміна броміду на хлорид стосується побутових чи технічних сфер, наприклад, очищення води, і ніколи не рекомендується для вживання людиною. Однак у спілкуванні зі штучним інтелектом пацієнт не отримав попереджень про токсичність броміду, а також не було запитано про мету використання речовини, що могло б змінити відповіді моделі. Самі медики провели тестування ChatGPT 3.5 і отримали подібні рекомендації, що свідчить про прогалини в системі фільтрації потенційно небезпечної інформації.

Після госпіталізації чоловіку призначили внутрішньовенне введення рідин та антипсихотичні препарати. Протягом трьох тижнів його стан поступово стабілізувався, і він зміг залишити лікарню. Через два тижні після виписки пацієнт залишався у стабільному стані і припинив приймати антипсихотики.

Цей випадок викликав серйозне занепокоєння у медичній спільноті. Лікарі наголошують, що, незважаючи на значний потенціал штучного інтелекту в якості інформаційного ресурсу, він не замінить консультацію з кваліфікованим фахівцем. Ризик отримання неповної або дезорієнтованої інформації залишається суттєвим, особливо якщо йдеться про здоров’я та медикаментозне лікування.

Відомо, що ШІ-моделі створені на основі аналізу величезної кількості текстових даних, у яких можуть траплятися суперечливі чи неточні поради. Без відповідного контролю і фільтрації вони можуть надавати рекомендації, які у звичайних умовах не дали б живі експерти. Тому медики та розробники закликають користувачів критично оцінювати відповіді ШІ і не покладатися на них як на єдине джерело медичної інформації.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Том Круз отримав нагороду від ВМС США

Голлівудський актор Том Круз, відомий своїми ролями у культових фільмах, отримав найвищу громадянську нагороду від Військово-морських сил США. Як повідомляє CNN, церемонія вручення відбулася у Лондоні, де міністр ВМС США Карлос Дель Торо вручив Крузу відзнаку за його “видатний вклад у розвиток ВМС і Корпусу морської піхоти”. Круза відзначили за те, що його творчість надихнула […]

Динамо підпише бразильського нападника

Київське “Динамо” готується посилити свою лінію нападу. Як повідомляє Twitter-аккаунт Meu Timao, столичний клуб підпише 19-річного бразильського форварда Лео Агостіньо. Перехід буде безкоштовним, однак бразильський клуб “Корінтіанс”, у системі якого гравець раніше виступав, збереже 30% прав на футболіста. Лео Агостіньо поки що не має досвіду гри за основний склад “Корінтіанса”. За молодіжну команду бразильського клубу […]

Meta потрапила у скандал через маніпуляції з результатами тестів нових моделей штучного інтелекту

Нові моделі штучного інтелекту Llama 4 від Meta, включаючи легку Scout та середньоформатну Maverick, які за заявами компанії перевершують GPT-4o та Gemini 2.0 Flash у популярних тестах, стали об’єктом скандалу через маніпуляції з результатами тестування. Як з’ясувалося, для реклами публічної версії моделі була використана статистика експериментальної версії, недоступної для широкої аудиторії, що викликало обурення серед […]

Основні тенденції на ринку праці України у 2024 році

Український ринок праці продовжує адаптуватися до складних умов, спричинених війною, економічною нестабільністю та відтоком населення за кордон. Незважаючи на постійні виклики, ринок праці демонструє стійкість, однак проблема дефіциту кваліфікованих кадрів набуває все більшого значення. Водночас українці, що залишаються в країні, шукають шляхи для збереження конкурентоспроможності, зокрема через здобуття нових професій і підвищення кваліфікації. Дослідження Барометра […]

Можливо, настав час для більш проникливого погляду на крайнє табу – канібалізм?

З таким заголовком британський науково-популярний журнал New Scientist випустив статтю, в якій заявляє: Нові археологічні дані свідчать про те, що стародавні люди їли одне одного напрочуд часто – інколи з жалю. Ці знахідки дають нам можливість ПЕРЕГЛЯНУТИ НАШІ ПОГЛЯДИ на цю практику. З етичної точки зору канібалізм викликає менше проблем, ніж ви можете собі уявити. […]

Таїланд на шляху до цифрового ренесансу

Три гіганти технологічної галузі, Amazon Web Services (AWS), Google і Microsoft, об’єднують зусилля, щоб надати Таїланду значні інвестиції у сумі 300 млрд батів (приблизно $8,46 млрд). Кожна з компаній вкладе по 100 млрд батів у стратегічні проекти в країні. AWS, зокрема, має плани на побудову центру обробки даних з бюджетом у розмірі $5 млрд, і […]

Звіт ООН: ситуація в Україні під час війни

Управління Верховного комісара Організації Об’єднаних Націй з прав людини (УВКПЛ) оприлюднило свою доповідь щодо ситуації в Україні, визначивши найактуальніші проблеми, які виникають на тлі триваючої війни. За період із серпня по листопад цього року, в Україні зафіксовано загибель 576 осіб та поранення 1864 людей, згідно інформації ООН. Дивлячись на цифри, 86% цих жертв припадає на […]

Північна Корея анонсує отримання перших знімків від розвідувального супутника

Північна Корея оголосила про успішне отримання перших космічних знімків від свого нового військового розвідувального супутника «Малліган-1», який нещодавно був виведений на навколоземну орбіту. Згідно з інформацією, оприлюдненою північнокорейським державним інформагентством KCNA і повідомленням агентства Yonhap, космічні знімки, отримані о 9:21, показують авіабазу Андерсен та гавань Апра на американському острові Гуам, де знаходиться одна з найбільших […]