Як ChatGPT випадково спровокував психоз у пацієнта

Унікальний випадок отруєння натрієм бромідом, що призвело до розвитку психозу, був зафіксований у США — і причиною стало слідування порадам штучного інтелекту ChatGPT. Лікарі з Університету Вашингтона описали цей інцидент у журналі *Annals of Internal Medicine: Clinical Cases*, наголошуючи на ризиках безконтрольного використання штучного інтелекту для отримання медичних чи дієтичних рекомендацій.

Все почалося, коли чоловік звернувся до місцевої лікарні з підозрою на отруєння. У нього спостерігалися симптоми збудження, параної, галюцинації, а також відмова пити воду навіть при сильній спразі. Медики встановили, що пацієнт перебував у стані психотичного епізоду, який потребував примусової госпіталізації у психіатричне відділення. Після детального обстеження виявилося, що чоловік отруївся натрієм бромідом — токсичною речовиною, відомою як причина так званого бромізму.

За словами пацієнта, він протягом трьох місяців свідомо вживав натрію бромід за порадою ChatGPT, намагаючись замінити в раціоні звичайну кухонну сіль (натрій хлорид). Зокрема, він турбувався через негативний вплив надлишку хлориду на здоров’я, і в пошуках альтернатив звернувся до штучного інтелекту. Відповідь ChatGPT нібито підтвердила безпеку використання броміду замість хлориду. В результаті чоловік почав купувати і вживати бромід, що і стало причиною інтоксикації.

Лікарі відзначають, що у типовому контексті заміна броміду на хлорид стосується побутових чи технічних сфер, наприклад, очищення води, і ніколи не рекомендується для вживання людиною. Однак у спілкуванні зі штучним інтелектом пацієнт не отримав попереджень про токсичність броміду, а також не було запитано про мету використання речовини, що могло б змінити відповіді моделі. Самі медики провели тестування ChatGPT 3.5 і отримали подібні рекомендації, що свідчить про прогалини в системі фільтрації потенційно небезпечної інформації.

Після госпіталізації чоловіку призначили внутрішньовенне введення рідин та антипсихотичні препарати. Протягом трьох тижнів його стан поступово стабілізувався, і він зміг залишити лікарню. Через два тижні після виписки пацієнт залишався у стабільному стані і припинив приймати антипсихотики.

Цей випадок викликав серйозне занепокоєння у медичній спільноті. Лікарі наголошують, що, незважаючи на значний потенціал штучного інтелекту в якості інформаційного ресурсу, він не замінить консультацію з кваліфікованим фахівцем. Ризик отримання неповної або дезорієнтованої інформації залишається суттєвим, особливо якщо йдеться про здоров’я та медикаментозне лікування.

Відомо, що ШІ-моделі створені на основі аналізу величезної кількості текстових даних, у яких можуть траплятися суперечливі чи неточні поради. Без відповідного контролю і фільтрації вони можуть надавати рекомендації, які у звичайних умовах не дали б живі експерти. Тому медики та розробники закликають користувачів критично оцінювати відповіді ШІ і не покладатися на них як на єдине джерело медичної інформації.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Вашингтон не бачить сенсу в переговорах без припинення бойових дій

Сполучені Штати Америки заявили, що наразі не бачать підстав для початку переговорів про остаточне досягнення миру в Україні. Про це 10 квітня на пресконференції повідомила речниця Державного департаменту США Теммі Брюс. «Усе наше керівництво, зокрема президент Трамп і держсекретар Рубіо, чітко дали зрозуміти, що поставлено на карту, коли йдеться про природу завершення цієї ситуації. Це […]

Китай виступає за скликання міжнародної мирної конференції з участю Росії

Китай закликає зібрати мирну конференцію щодо України “з рівною участю всіх сторін”, включно з Росією. Про це заявив посол Китаю в РФ Чжан Ханьхуей. “Китай підтримує своєчасне скликання міжнародної мирної конференції, яку схвалять і російська, і українська сторони, з рівною участю всіх сторін і чесним обговоренням усіх варіантів мирного плану”, – заявив посланник російським “Известиям”. […]

Швейцарія полегшує доступ до роботи для біженців з України

Швейцарія оголосила про нові заходи, які спрощують працевлаштування для українських біженців, що перебувають у країні з гуманітарними статусами. Федеральна рада Швейцарії повідомила, що громадяни України зі статусом захисту S більше не будуть потребувати дозволу для роботи в різних кантонах, що раніше часто вимагало додаткових платних процедур. Відповідно до нових правил, безробітні українці, які мають статус […]

Європейський Союз продовжує імпорт російського металу попри санкції

Європейський Союз за підсумками першого півріччя 2024 року імпортував 2,87 млн тонн металургійної сировини російського походження, витративши на це 1,4 мільярда євро. Ці дані, отримані з розрахунків GMK Center на основі інформації Eurostat, підкреслюють тривалість економічних зв’язків між ЄС і Росією попри санкції. Основний обсяг імпорту припадає на напівфабрикати, зокрема на сляби та заготовки, з […]

У Польщі перевіряють тисячі об’єктів на придатність як укриття

У Польщі розгорнулася масштабна кампанія з перевірки бомбосховищ після нещодавніх атак російських дронів. За даними RMF24, станом на 18 вересня вже проведено понад 2000 інспекцій із запланованих майже 4000. За результатами перевірок, понад тисяча споруд відповідають вимогам Міністерства внутрішніх справ та адміністрації Польщі й можуть використовуватися як укриття або місця для переховування у випадку небезпеки. […]

Відбулася презентація могутнього гібридного кросовера Toyota Crown Sport

На ринку з’явилася високопродуктивна версія преміального кросовера Toyota Crown Sport, розширюючи асортимент моделей. Згідно з інформацією, опублікованою на офіційному веб-сайті Toyota, цей автомобіль вже доступний для покупки в Японії за початковою ціною від 7,65 мільйонів єн ($52,900), а обсяг виробництва обмежено 300 одиницями щомісяця. Новинка, як і стандартна Toyota Crown Sport, є гібридом, але цей […]

Україна втратила позиції в Індексі сприйняття корупції 2024

У 2024 році Україна отримала 35 балів з 100 у Індексі сприйняття корупції (CPI) і зайняла 105 місце серед 180 країн, що свідчить про незначне падіння позицій порівняно з попереднім роком. Основними факторами, що вплинули на цей результат, залишаються реформи, спрямовані на євроінтеграцію та виконання міжнародних зобов’язань. Проте, низка негативних аспектів, таких як саботаж реформ, […]

Рішення Трампа і ключова роль США в майбутньому України

Після перемоги Дональда Трампа на президентських виборах у США українське суспільство опинилося в новій політичній реальності, де передбачення майбутнього розвитку конфлікту стають дедалі складнішими. Його риторика про можливі конструктивні відносини з Росією, яку змінили заяви про введення жорстких санкцій, лише підсилила дебати навколо того, як його президентство вплине на перебіг війни в Україні. Зокрема, британські […]