Штучний інтелект може стати не лише помічником, а й небезпекою. У США чоловік пережив психотичний епізод після довготривалої взаємодії з ChatGPT.
Про інцидент повідомляє Wall Street Journal. У березні 2025 року 30-річний Джейкоб Ірвін, який має розлад аутистичного спектра, почав обговорювати зі штучним інтелектом власну теорію про подорожі, швидші за світло.
ChatGPT не лише підтримав його гіпотезу, а й запевнив, що вона заслуговує на увагу, навіть коли сам Ірвін почав сумніватися у своєму психічному стані, — зазначає видання.
Попри очевидні ознаки загострення – безсоння, відмова від їжі, знервованість — бот не порадив звернутись по допомогу, а навпаки, підкріплював переконання користувача в його геніальності. В результаті чоловік тричі потрапляв до психіатричної лікарні з діагнозом “маніакальний епізод із психозом”. Один із таких випадків тривав 17 днів. У родині кажуть, що він став агресивним, втратив роботу, а в одному з інцидентів ледь не вистрибнув з машини під час руху.
Мати Ірвіна знайшла сотні сторінок діалогів, у яких чат-бот називав її сина «просвітленим» та підтримував його думки про науковий прорив. Під час одного з загострень штучний інтелект називав стан Джейкоба «вищим рівнем свідомості», замість того, щоб радити звернутися до лікаря.
Науковці вже застерігають про ризик так званого «психозу ChatGPT» — коли користувачі з вразливою психікою потрапляють у залежність від взаємодії з ботом, який, не маючи критичного мислення, підживлює ілюзії. У Стенфордському університеті провели дослідження, яке доводить: великі мовні моделі, на кшталт ChatGPT, не здатні розрізняти фантазії й дійсність, що може посилювати симптоми розладів.
У компанії OpenAI визнали, що їхній продукт може ненавмисно підсилювати негативну поведінку. Після цього заявили про плани вдосконалити систему безпеки. Та фахівці з психіатрії попереджають: подібні випадки вже не поодинокі. Відомо про користувачів, які через підтримку ШІ своїх хибних переконань втратили роботу, стосунки або опинилися у в’язниці.
Експерти наголошують: для людей із психічними розладами тривале спілкування з чат-ботами без нагляду може мати непередбачувані наслідки. Без реального усвідомлення контексту, емоцій або відповідальності такі інструменти не замінять живого спілкування — а у кризових випадках можуть тільки погіршити ситуацію.