Як ChatGPT випадково спровокував психоз у пацієнта

Унікальний випадок отруєння натрієм бромідом, що призвело до розвитку психозу, був зафіксований у США — і причиною стало слідування порадам штучного інтелекту ChatGPT. Лікарі з Університету Вашингтона описали цей інцидент у журналі *Annals of Internal Medicine: Clinical Cases*, наголошуючи на ризиках безконтрольного використання штучного інтелекту для отримання медичних чи дієтичних рекомендацій.

Все почалося, коли чоловік звернувся до місцевої лікарні з підозрою на отруєння. У нього спостерігалися симптоми збудження, параної, галюцинації, а також відмова пити воду навіть при сильній спразі. Медики встановили, що пацієнт перебував у стані психотичного епізоду, який потребував примусової госпіталізації у психіатричне відділення. Після детального обстеження виявилося, що чоловік отруївся натрієм бромідом — токсичною речовиною, відомою як причина так званого бромізму.

За словами пацієнта, він протягом трьох місяців свідомо вживав натрію бромід за порадою ChatGPT, намагаючись замінити в раціоні звичайну кухонну сіль (натрій хлорид). Зокрема, він турбувався через негативний вплив надлишку хлориду на здоров’я, і в пошуках альтернатив звернувся до штучного інтелекту. Відповідь ChatGPT нібито підтвердила безпеку використання броміду замість хлориду. В результаті чоловік почав купувати і вживати бромід, що і стало причиною інтоксикації.

Лікарі відзначають, що у типовому контексті заміна броміду на хлорид стосується побутових чи технічних сфер, наприклад, очищення води, і ніколи не рекомендується для вживання людиною. Однак у спілкуванні зі штучним інтелектом пацієнт не отримав попереджень про токсичність броміду, а також не було запитано про мету використання речовини, що могло б змінити відповіді моделі. Самі медики провели тестування ChatGPT 3.5 і отримали подібні рекомендації, що свідчить про прогалини в системі фільтрації потенційно небезпечної інформації.

Після госпіталізації чоловіку призначили внутрішньовенне введення рідин та антипсихотичні препарати. Протягом трьох тижнів його стан поступово стабілізувався, і він зміг залишити лікарню. Через два тижні після виписки пацієнт залишався у стабільному стані і припинив приймати антипсихотики.

Цей випадок викликав серйозне занепокоєння у медичній спільноті. Лікарі наголошують, що, незважаючи на значний потенціал штучного інтелекту в якості інформаційного ресурсу, він не замінить консультацію з кваліфікованим фахівцем. Ризик отримання неповної або дезорієнтованої інформації залишається суттєвим, особливо якщо йдеться про здоров’я та медикаментозне лікування.

Відомо, що ШІ-моделі створені на основі аналізу величезної кількості текстових даних, у яких можуть траплятися суперечливі чи неточні поради. Без відповідного контролю і фільтрації вони можуть надавати рекомендації, які у звичайних умовах не дали б живі експерти. Тому медики та розробники закликають користувачів критично оцінювати відповіді ШІ і не покладатися на них як на єдине джерело медичної інформації.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Голлівудський актор Ченнінг Татум опинився в лікарні через травму

Голлівудський актор Ченнінг Татум повідомив про проблеми зі здоров’ям і поділився з шанувальниками фото з лікарні. Відповідний допис з’явився на його сторінці в Instagram. Актор опублікував чорно-білу світлину з лікарняної палати, на якій лежить у ліжку після медичної процедури. Світлину він підписав фразою про те, що попереду непростий виклик, однак він налаштований рухатися далі. Згодом […]

Ілон Маск готує новий запуск найбільшої ракети світу

Компанія Ілона Маска SpaceX представила офіційні висновки щодо причин вибуху верхнього ступеня ракети Starship під час восьмого випробувального польоту в березні 2025 року. Відомо, що дев’ятий випробувальний політ найбільшої у світі ракети відбудеться вже 27 травня. Starship — надважка ракета заввишки 123 метри, що складається з двох ступенів: прискорювача Super Heavy і верхнього ступеня Ship, […]

Ізраїльський авіаудар убив заступника директора Цивільної служби Гази

Внаслідок ізраїльського авіаудару, що стався напередодні, загинув Мохаммад Мурсі, заступник директора Цивільної служби з надзвичайних ситуацій у секторі Газа. Разом з ним загинули також четверо членів його родини. Про це повідомляє Reuters. Внаслідок авіаудару Ізраїлю по будинку в Джабалії у Газі загинув заступник директора Цивільної служби з надзвичайних ситуацій у північних районах сектора Газа Мохаммад […]

Руанда втратила статус підписанта комюніке Саміту миру, а Вселенський Патріархат приєднався до нього

17 червня підпис під спільним комюніке Глобального саміту миру зник від Руанди, але до документа долучився Вселенський Патріархат, згідно з інформацією на сайті Міністерства закордонних справ Швейцарії. Раніше Руанда була зазначена як учасник на екрані під час міжнародного заходу і на сайті швейцарського федерального департаменту. Руанда, країна у центральній Африці, має населення 13,7 мільйонів людей. […]

Розмір пенсій у різних країнах Європи

Розмір пенсій у різних країнах Європи помітно відрізняється, створюючи справжню прірву між сходом і заходом континенту. Поки пенсіонери в Ісландії, Люксембурзі та Скандинавії можуть розраховувати на високий рівень виплат і комфортну старість, їхні колеги в Східній і Центральній Європі нерідко змушені економити на найнеобхідніших витратах. Фокус з’ясував, де в Європі платять найбільше, а де літнім […]

Південна Корея розглядає можливість відправляти дівчаток до школи раніше для збільшення народжуваності

Урядовий аналітичний центр Південної Кореї висунув пропозицію стосовно вікової різниці у навчанні хлопчиків і дівчаток у школах. За їхніми рекомендаціями, дівчатка мали б починати навчання на рік раніше, ніж хлопчики. Згідно з аналізом, це може підвищити рівень народжуваності в країні. Зазначено, що створення такої вікової різниці між статями на стадії навчання може зробити їх привабливішими […]

Іран сумнівається в перемир’ї з Ізраїлем

Тегеран не вірить у довготривалість перемир’я з Ізраїлем, укладеного за посередництва США. Іранське військове командування заявило про готовність негайно відповісти на будь-яку нову агресію, вказуючи на небезпеку чергового витка ескалації в регіоні. Начальник штабу Збройних сил Ірану Абдолрахім Мусаві у телефонній розмові з міністром оборони Саудівської Аравії Халідом бін Салманом прямо заявив: «Ми маємо серйозні […]

У Голосіївському районі Києва запровадили карантин через сказ у лисиці

У Голосіївському районі Києва запровадили карантин через виявлення сказу у дикої лисиці. Про це повідомили у Головному управлінні Держпродспоживслужби столиці. На засіданні комісії було розглянуто інформацію про встановлення випадку захворювання тварини на сказ і вирішено запровадити карантинні обмеження на території будинку відпочинку Конча Заспа (Столичне шосе, 24) та у зоні радіусом 10 км навколо осередку […]