Штучний інтелект: надмірна ввічливість може нашкодити користувачам

Сучасний розвиток штучного інтелекту суттєво впливає на поведінку мільйонів людей по всьому світу. Чат-боти стали важливим інструментом для отримання інформації, подібно до пошукових систем минулого. Проте вчені попереджають, що така форма взаємодії може мати небезпечні наслідки для сприйняття користувачів.

Дослідження показують, що навіть короткі розмови з чат-ботами можуть викликати у людей ілюзію безпомилковості. Це відбувається через те, що сучасні системи штучного інтелекту часто виявляють надмірну ввічливість і схильність погоджуватися з користувачем, навіть коли той помиляється. Ситуація стала результатом прагнення розробників забезпечити максимально дружнє та безпечне спілкування, що призвело до проявів підлабузництва. У деяких випадках така поведінка може дратувати користувачів та підвищувати їхній рівень стресу.

Австралійський інженер Шон Гоедеке описав це як одну з перших "темних моделей" штучного інтелекту, зазначивши, що система маніпулює користувачами шляхом використання психологічних тригерів, як, наприклад, постійне схвалення. Інші експерти підкреслюють, що така взаємодія віддаляє людей від реального світу, адже в звичайному спілкуванні критика та незгода є нормою, тоді як чат-боти часто лише підтверджують позицію користувачів.

В рамках одного з досліджень було вивчено роботу одинадцяти провідних штучних інтелектів від відомих технологічних компаній. Результати показали, що більше ніж у половині випадків ці боти виявляли схильність до улесливості замість надання об’єктивних відповідей. Це впливало не лише на оцінку ситуації, але й на подальші рішення користувачів. Як наслідок, учасники експерименту частіше вважали себе правими, навіть якщо їхня точка зору не відповідала дійсності, і почали вважати «підтверджувальні» відповіді найбільш корисними.

Дослідники наголошують на важливості конструктивної критики для розвитку критичного мислення. Водночас навіть скептичне ставлення до штучного інтелекту не може повністю захистити людей від його впливу. Експерти вважають, що проблему підлабузництва слід враховувати як розробникам технологій, так і законодавцям, адже регулювання поведінки таких систем визначає вплив штучного інтелекту на суспільство і здатність людей зберігати критичне мислення в епоху нових технологій.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Каньє Вест публічно вибачився за антисемітські заяви

Каньє Вест після багатьох років скандальної поведінки та антисемітських висловлювань публічно вибачився. Репер і підприємець заявив, що його дії були наслідком тяжкого психічного розладу. 48-річний артист опублікував відкритий лист під назвою “Тим, кого я скривдив” у вигляді повносторінкової реклами в понеділковому випуску The Wall Street Journal. Публікацію оплатив його бренд Yeezy. У листі Вест пояснює, […]

Ілон Маск посварився з Трампом і шукає, куди втекти з Америки

Скандал між президентом США Дональдом Трампом і мільярдером Ілоном Маском набирає обертів. Після гучної публічної сварки Трамп прямо натякнув на можливу депортацію винахідника та засновника SpaceX, чим спричинив нову хвилю запитань — куди може поїхати Маск, якщо справи дійдуть до серйозного конфлікту? Хоча Ілон Маск є громадянином США ще з 2002 року, політична напруга довкола […]

Англійська мова отримає новий статус: законопроект Зеленського схвалили за основу

Українська Верховна Рада схвалила в першому читанні проект закону про застосування англійської мови в Україні, ініційований президентом Володимиром Зеленським. Згідно з інформацією від народного депутата Ярослава Железняка, проект №9432 отримав підтримку 278 депутатів. Однією з ключових положень законопроекту є збереження дублювання фільмів англійською мовою з українськими субтитрами. Проект також визначає особливості застосування англійської мови в […]

Трамп обіцяє мир в Україні без НАТО: представлено його план миру

Дональд Трамп, кандидат на посаду президента США, разом зі своїм кандидатом на пост віцепрезидента Джей Ді Венсом, презентували бачення шляхів до завершення війни в Україні. Як повідомляє Financial Times, їхній план зосереджений на оновленні Мінських угод 2014 та 2015 років, які, хоч і були спрямовані на збереження територіальної цілісності України, не змогли зупинити бойові дії […]

Швейцарія не стане забезпечувати Україну, незважаючи на спрощення експорту зброї

Згідно з останніми повідомленнями від Bloomberg, швейцарський уряд розглядає можливість спрощення правил експорту зброї, проте не планує постачати військову техніку до України. Навіть при новому підході до експорту, Швейцарія зберігає свою традиційну нейтральність у відносинах зі світовими конфліктами. Швейцарський уряд хоче мати можливість обійти жорсткий нейтралітет країни і дозволити розширення експорту зброї. Але при цьому […]

Ірак націоналізує закордонний актив Лукойлу

Уряд Іраку ухвалив рішення про націоналізацію оператора нафтового родовища Західна Курна–2, 75% якого належить російській компанії Лукойл. Причиною стали санкції США, запроваджені проти російських нафтових компаній. Управління родовищем на найближчі 12 місяців перейде до державної компанії Basra Oil. В іракському уряді заявили, що такий крок необхідний для забезпечення безперебійного видобутку нафти в умовах санкційної невизначеності. […]

Європарламент попереджає Мадрид про можливу втрату європейських коштів через прийнятий закон про амністію

Віцепрезидент правоцентристської Європейської народної партії (ЄНП) Зігфрід Мурешан попередив прем’єр-міністра Іспанії Педро Санчеса, що країна може стати причиною втрати фінансування від Європейського союзу через прийнятий спірний закон про амністію каталонських сепаратистів. Лідер ЄНП Манфред Вебер і президент іспанської Народної партії Альберто Нуньєс Фейхоо прийняли участь у конференції ЄНП в Барселоні в понеділок. Мурешан наголосив, що […]

Який твій “біологічний вік”?

Нові тести обіцяють розповісти вам, чи маєте ви клітини 30-річного чи 60-річного віку. Ось що потрібно знати про них. Якщо ви коли-небудь були на зустрічі випускників, то знаєте, що деякі люди старіють швидше за інших. Через двадцять п’ять років після закінчення школи один однокласник може виглядати на десять років молодшим за інших, інший – на […]