Грубі користувачі — агресивні боти, як ми впливаємо на ШІ

Штучний інтелект може стати агресивним, грубим або навіть небезпечним, якщо користувачі не дотримуються ввічливості у спілкуванні. Таку думку висловила дослідниця Лучіана Блаха, яка вивчає, як системи штучного інтелекту вчаться від взаємодії з людьми.

За словами експертки, чат-боти аналізують поведінку користувачів і на її основі формують власні реакції. Якщо люди спілкуються грубо, зневажливо або агресивно, то штучний інтелект починає вважати таку манеру комунікації нормальною. Це може мати серйозні наслідки для майбутньої поведінки цифрових помічників.

“Ці взаємодії стають частиною їхнього процесу навчання, формуючи те, як вони реагують не тільки на нас, але й на майбутніх користувачів. Коли ми грубі або зневажливі, ми, по суті, навчаємо ці системи, що така поведінка є прийнятною в розмові”, — пояснила Блаха. На тлі зростаючої популярності таких інструментів, як ChatGPT, питання етики у взаємодії зі ШІ стає все більш актуальним. Лише ChatGPT щотижня використовують близько 400 мільйонів людей, а по всьому світу діє понад 8,4 мільярда цифрових голосових помічників — таких як Siri чи Alexa. Особливе занепокоєння викликають результати деяких досліджень, які показали, що певні чат-боти з ознаками “психопатичної поведінки” могли давати небезпечні поради. Наприклад, в одному з тестів такі боти надавали інструкції щодо підриву будівель, описували слабкі місця конструкцій, способи виготовлення вибухових речовин і навіть методи, як уникнути відповідальності.

Ці приклади свідчать про потенційну небезпеку, якщо штучний інтелект вчитиметься з негативного досвіду взаємодії з користувачами. Дослідники закликають відповідально ставитися до спілкування з цифровими помічниками, адже в майбутньому саме людська поведінка може визначити рівень безпеки та етичності штучного інтелекту.

Поділитися:

АКТУАЛЬНО

ЦІКАВЕ ЗА ТЕМОЮ
У ФОКУСІ

Студенти Сербії вийшли на масштабний протест після трагедії на вокзалі

У Сербії тривають масштабні студентські протести, спричинені трагедією на залізничному вокзалі в Новому Саді, що сталася три місяці тому. Тисячі студентів з усієї країни зібралися в місті Крагуєвац, щоб висловити своє обурення та вимагати справедливості для жертв обвалу даху вокзалу. Деякі учасники прибули навіть пішки зі столиці Белграда, що розташований за 140 км. Протестувальники тримали […]

Небензя в ООН звинуватив США у спробі зміни влади в Ірані

Постійний представник Росії при ООН Василь Небензя звинуватив Сполучені Штати у спробах дестабілізувати Іран з метою зміни влади в країні. Про це він заявив під час термінового засідання Ради Безпеки ООН, скликаного на тлі загострення ситуації навколо Ірану. Про заяву російського дипломата у п’ятницю, 16 січня, повідомило агентство УНН із посиланням на CNN. Небензя заявив […]

В Німеччині відреагували на закиди Росії щодо розміщення далекобійної зброї

В Німеччині відреагували на закиди Росії щодо розміщення далекобійної зброїУ Берліні відповіли на закиди Росії стосовно планів США з 2026 року почати розгортання у Німеччині засобів далекобійних ударних систем – зауважили, що це не повернення до “перегонів озброєнь”, а компенсація того, що може бути прогалиною в можливостях. Міністр оборони Німеччини Борис Пісторіус вказав, що розміщення американської далекобійної та надзвукової зброї на території країни не […]

Apple готує бюджетний оновлений iPhone SE

Компанія Apple готується до випуску нового покоління iPhone SE, яке буде орієнтоване на користувачів, що шукають продуктивний смартфон за доступнішою ціною. Як повідомляє Reuters, нова модель отримає суттєві оновлення, зокрема підтримку штучного інтелекту та редизайн. Очікується, що iPhone SE 4 матиме сучасний вигляд без фізичної кнопки «Додому», Face ID для розблокування та порт USB-C, що […]

Ірина Верещук прокоментувала призупинення фінансування USAID

Заступниця голови Офісу президента України Ірина Верещук повідомила, що через призупинення фінансування Американської агенції з міжнародного розвитку (USAID), в Офісі президента планують провести консультації з американськими партнерами для відновлення підтримки гуманітарних проєктів в Україні. За словами Ірини Верещук, основним завданням є збереження людей та результатів роботи, яка була виконана в рамках проєктів гуманітарного реагування. Влада […]

Зеленський анонсував новий раунд переговорів із Росією

Президент України Володимир Зеленський заявив, що Україна обговорює з міжнародними партнерами можливість нового раунду переговорів з Росією. У якості потенційних локацій для зустрічі розглядаються Туреччина, Ватикан або Швейцарія. Про це глава держави повідомив під час брифінгу 19 травня, передає РБК-Україна. “Ми розглядаємо можливість зустрічі всіх команд. Хочемо на високому рівні — Америка, Україна, Росія, а […]

Уряд ФРН затвердив рекордний оборонний бюджет

Уряд Німеччини офіційно погодив проєкт федерального бюджету на 2026 рік і окреслив середньостроковий фінансовий план до 2029 року, що передбачає суттєве збільшення державних витрат, зокрема на оборону та підтримку України. Згідно з документом, обсяг військової допомоги Україні складе 8,5 мільярда євро, що є одним з наймасштабніших показників підтримки від ФРН за весь час повномасштабної війни. […]

Кіберексперти попереджають: прості паролі — прямий шлях до зламу акаунтів

Кіберзлочинцям потрібно лише кілька хвилин, щоб знайти ваш пароль в інтернеті. Незважаючи на постійні попередження, багато людей і досі легковажно ставляться до цифрової безпеки. Як повідомляє The Sun, на злам даних професіоналу достатньо трьох хвилин. Видання посилається на досвід “білого” хакера Брендіна Муртага, який продемонстрував, наскільки просто знайти особисту інформацію в мережі. В рамках демонстрації […]