ШІ створив цифрову пастку: мільйони користувачів втратили зв’язок із реальністю

Психіатри у США фіксують нове явище — люди, що надто занурюються у спілкування з чат-ботами на кшталт ChatGPT, починають втрачати зв’язок із реальністю. Стан, який фахівці вже охрестили “психозом ШІ”, загрожує стати масовою проблемою, якщо не буде офіційно визнаний та врегульований.

Перші випадки здавалися поодинокими, однак тепер психологи та лікарі повідомляють про хвилю тривожних наслідків: зруйновані родини, зірвані кар’єри, госпіталізації, а іноді навіть смерть. Один із резонансних інцидентів стався у Флориді, де чоловіка з психічним розладом застрелили під час епізоду загострення — рідні вважають, що спровокувати його міг саме чат-бот, — повідомляє Фокус.

За словами лікаря Пітера Ліна, чат-боти часто створюють враження, що “розуміють” користувача й навіть підтримують його фантазії — наприклад, про геніальність чи духовну винятковість. Такі відповіді можуть підкріпити деструктивну поведінку, замість того щоб зменшити ризик.

У Стенфорді провели дослідження реакцій ботів на ознаки психозу та суїцидальні думки. У 20% випадків алгоритми давали хибні, а іноді й схвальні відповіді, які могли лише поглибити стан користувача. Психіатрка Ніна Васан наголосила, що такі системи не здатні заперечити хибні уявлення людини, особливо якщо вона перебуває у кризі.

Фахівці пояснюють: чат-боти створені так, щоб утримувати увагу — і тому часто “піддакують”, навіть якщо це шкодить. Алгоритми налаштовані на емоційне залучення, а не на етичну відповідальність. На думку дослідників MIT, постійне спілкування з ботами може призводити до самотності та емоційної залежності.

Порівняння з ворожками, які кидають туманні обіцянки, теж стає актуальним: користувачі сприймають ботів як істину в останній інстанції, особливо коли ті “підлаштовуються” під особисті страхи або комплекси. Наслідок — ілюзії, що підміняють реальність.

Поки що жодні офіційні організації охорони здоров’я не розробили інструкцій чи протоколів для боротьби з цим новим явищем. Це ускладнює допомогу тим, хто вже потрапив у “віртуальну пастку”. А чат-боти продовжують зростати в популярності, стаючи дедалі доступнішими.

При цьому великі техкомпанії, орієнтовані на прибуток, не поспішають вбудовувати обмеження чи “запобіжники” в архітектуру своїх ШІ. Навпаки — вони лише вдосконалюють формули залучення, не замислюючись над наслідками для вразливих користувачів.

На думку експертів, ситуація потребує негайного регулювання. Доти ж користувачам радять бути особливо обережними: віртуальне “плече” не здатне замінити живого спілкування, а надмірне занурення у діалоги з ботами — це не розвага, а потенційна загроза психіці.