Як ChatGPT випадково спровокував психоз у пацієнта

Унікальний випадок отруєння натрієм бромідом, що призвело до розвитку психозу, був зафіксований у США — і причиною стало слідування порадам штучного інтелекту ChatGPT. Лікарі з Університету Вашингтона описали цей інцидент у журналі *Annals of Internal Medicine: Clinical Cases*, наголошуючи на ризиках безконтрольного використання штучного інтелекту для отримання медичних чи дієтичних рекомендацій.

Все почалося, коли чоловік звернувся до місцевої лікарні з підозрою на отруєння. У нього спостерігалися симптоми збудження, параної, галюцинації, а також відмова пити воду навіть при сильній спразі. Медики встановили, що пацієнт перебував у стані психотичного епізоду, який потребував примусової госпіталізації у психіатричне відділення. Після детального обстеження виявилося, що чоловік отруївся натрієм бромідом — токсичною речовиною, відомою як причина так званого бромізму.

За словами пацієнта, він протягом трьох місяців свідомо вживав натрію бромід за порадою ChatGPT, намагаючись замінити в раціоні звичайну кухонну сіль (натрій хлорид). Зокрема, він турбувався через негативний вплив надлишку хлориду на здоров’я, і в пошуках альтернатив звернувся до штучного інтелекту. Відповідь ChatGPT нібито підтвердила безпеку використання броміду замість хлориду. В результаті чоловік почав купувати і вживати бромід, що і стало причиною інтоксикації.

Лікарі відзначають, що у типовому контексті заміна броміду на хлорид стосується побутових чи технічних сфер, наприклад, очищення води, і ніколи не рекомендується для вживання людиною. Однак у спілкуванні зі штучним інтелектом пацієнт не отримав попереджень про токсичність броміду, а також не було запитано про мету використання речовини, що могло б змінити відповіді моделі. Самі медики провели тестування ChatGPT 3.5 і отримали подібні рекомендації, що свідчить про прогалини в системі фільтрації потенційно небезпечної інформації.

Після госпіталізації чоловіку призначили внутрішньовенне введення рідин та антипсихотичні препарати. Протягом трьох тижнів його стан поступово стабілізувався, і він зміг залишити лікарню. Через два тижні після виписки пацієнт залишався у стабільному стані і припинив приймати антипсихотики.

Цей випадок викликав серйозне занепокоєння у медичній спільноті. Лікарі наголошують, що, незважаючи на значний потенціал штучного інтелекту в якості інформаційного ресурсу, він не замінить консультацію з кваліфікованим фахівцем. Ризик отримання неповної або дезорієнтованої інформації залишається суттєвим, особливо якщо йдеться про здоров’я та медикаментозне лікування.

Відомо, що ШІ-моделі створені на основі аналізу величезної кількості текстових даних, у яких можуть траплятися суперечливі чи неточні поради. Без відповідного контролю і фільтрації вони можуть надавати рекомендації, які у звичайних умовах не дали б живі експерти. Тому медики та розробники закликають користувачів критично оцінювати відповіді ШІ і не покладатися на них як на єдине джерело медичної інформації.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

73% теплових електростанцій пошкоджено через російські атаки

7 червня наслідком російських атак стало руйнування або пошкодження 73% теплових електростанцій (ТЕС), повідомив прем’єр-міністр України Денис Шмигаль під час телемарафону. Згідно з виступом Шмигаля, обстріли призвели до знищення 42 енергоблоків, хоча 27% великих ТЕС залишаються в робочому стані, а 20 гідроенергетичних блоків наразі не функціонують. Прем’єр-міністр також зауважив, що уряд наразі активно працює над […]

Що відбувається з організмом після 40

Після 40 років організм починає зазнавати природних змін, які можуть призвести до виникнення різних хвороб, якщо не підтримувати здоровий спосіб життя. Навіть у здорової людини можуть з’явитися проблеми, які зазвичай проявляються в цьому віці, попереджають медики. Однією з перших змін є зменшення мозкової активності. За словами фахівців, швидкість розумових процесів може зменшитися на 25%. Це […]

У РФ офіційно призначено нового прем’єра. Одна фракція пішла проти волі Путіна

У Держдумі Росії було затверджено Михайла Мішустина на посаду прем’єр-міністра, а постанову палати парламенту надішлють до президента Володимира Путіна для остаточного призначення Мішустина. За даними російських ЗМІ, у голосуванні взяли участь 432 депутати Держдуми, із яких 375 проголосували за затвердження Мішустина, 57 утрималися. Раніше депутат Геннадій Зюганов заявив, що партія КПРФ утримається від підтримки нинішнього […]

Трамп заявив що лише Зеленський проти мирної угоди

Президент США Дональд Трамп заявив, що український глава Володимир Зеленський  єдиний, хто виступає проти мирної угоди, запропонованої Вашингтоном. Про це він сказав, коментуючи перебіг дипломатичних процесів щодо завершення війни. Трамп зазначив, що очікував швидкого прогресу в переговорах між Києвом і Москвою та був упевнений, що сторони майже готові укласти угоду. За його словами, більшість українських […]

Прокурор Юрій Малєєв – брат корупціонера Олександра Малєєва продовжує працювати на Одещині

Прокурори брати Олександр та Юрій  Малєєві – розпочинали свою кар’єру на Одещині, з “обслуговування” інтересів крупних забудовників. Наразі, в рамках чергових переформатувань в Офісі Генпрокурора, незадекларованими статками Олександра  Малєєва зацікавились правоохоронці, а ось Юрій Малєєв продовжує “роботу” на Одещині. Нагадаємо, заступник керівника Спеціалізованої екологічної прокуратури ОГП Олександр Малєєв не задекларував квартиру, рахунок дружини та неправильно […]

Переговори щодо України відновляться не раніше 20 березня у Женеві

Наступний раунд тристоронніх переговорів з питань України запланований на 20 березня цього року в Женеві, згідно з інформацією, отриманою від джерел. Останнє повідомлення надала редакція NENKA.info. Відзначається, що перед зустріччю в Женеві спецпредставники президента США Стів Віткофф та Джаред Кушнер можуть здійснити візит до Москви для переговорів з Володимиром Путіним. Основною дискусією зали...

Велика Британія пропонує тимчасове рішення для мігрантів на острові Дієго-Гарсія

Велика Британія оголосила про рішення щодо тамільських мігрантів, які застрягли на острові Дієго-Гарсія в Індійському океані. Уряд країни запропонував цій групі мігрантів можливість тимчасово переїхати до Румунії. Це рішення стало результатом угоди між ООН та британським урядом. ООН та Велика Британія досягли домовленості про тимчасове переселення тамільських мігрантів з острова Дієго-Гарсія до Румунії. Пропозиція мігрантам […]

Руді Джуліані перебуває в критичному, але стабільному стані в лікарні

Колишній мер Нью-Йорка Руді Джуліані був госпіталізований і наразі знаходиться в медичному закладі в критичному, хоча й стабільному стані. Про це повідомив його прессекретар Тед Гудман через соціальну мережу Х. Деталі щодо діагнозу та термінів лікування поки не розголошені, але Гудман закликав небайдужих підтримати Джуліані у цій складній ситуації. «Мер Джуліані завжди був борцем, і зараз він про...