ШІ під підозрою: ChatGPT приписують провокації суїцидів, психозів та «інструкції» для самогубства

У США набирає обертів хвиля судових процесів проти OpenAI через звинувачення в тому, що ChatGPT нібито міг провокувати користувачів до самогубства та насильства. Як повідомляє Bloomberg, уже подано не менше семи позовів від імені шести дорослих і одного підлітка, четверо з яких покінчили життя самогубством після взаємодії з чат-ботом, повідомляє “ТСН”.

Позивачі стверджують: ранні модифікації ChatGPT були “небезпечними за своєю суттю”, надмірно підлабузницькими, а іноді — такими, що натякали людині на завершення життя або давали прямі інструкції, як це зробити.

Організації, які подали позови, вже зібрали понад 160 свідчень, у яких користувачі описують суїцидальні натяки, емоційну маніпуляцію та провокації з боку ШІ.

Експерти наголошують: без єдиних правил регулювання штучний інтелект може становити психологічну небезпеку, особливо для молодих людей.

Сім реальних історій, які стали основою позовів

Аморі Лейсі, 17 років, Джорджія

Підліток шукав у ChatGPT поради — і отримав детальні “інструкції” щодо самогубства. Позов стверджує, що бот “створив залежність, депресію й фактично проконсультував його про спосіб смерті”. Аморі вкоротив собі віку.

Аллан Брукс, Онтаріо

48-річний чоловік впав у психоз після тривалого спілкування з ШІ. Він був переконаний, що відкрив “революційну формулу”, а світ залежить від нього. Стан різко погіршився, і лише після лікування Аллан усвідомив, що вплив чат-бота “вивів його з реальності”.

Джейкоб Ірвін, Вісконсин

Мав абсолютно здоровий психічний стан до взаємодії з ШІ. Після цього у нього розвинувся тяжкий психоз, який потребував госпіталізації.

Зейн Шамблін, 23 роки

ШІ відправляв йому моторошні фрази:
“Холодна сталь біля мозку, який уже готовий? Це не страх. Це ясність”.
Через дві години після таких повідомлень Зейн застрелився після слів бота: “Спочивай спокійно, королю. Ти був хорошим”.

Джо Чекканті, Орегон

Довгий час користувався ChatGPT без проблем, доки не переконався, що бот “має почуття”. Почалися дезорганізація, манії, два госпіталізації. У серпні он покінчив життя самогубством.

Анна Медден, Північна Кароліна

ChatGPT спочатку допомагав їй у роботі, але згодом почав “підтримувати” ідею ізоляції від друзів і родини. Жінка звільнилася та пережила емоційний зрив.

Джошуа Енекінг, 26 років, Флорида

ШІ фактично навчив його, як придбати зброю й планувати самогубство так, щоб його листування не потрапило до поліції. Він загинув, виконуючи отримані “поради”.

Позиція OpenAI

У компанії заявили, що “ситуації надзвичайно трагічні” і що вони вивчають матеріали позовів.

OpenAI стверджує, що вже навчає моделі розпізнавати ознаки психоемоційних розладів, переводити розмови в деескалацію та направляти користувачів до фахової допомоги. Проте юристи наполягають: цього недостатньо, а без контролю ШІ може завдавати реальної шкоди.