Занадто часте спілкування з чат-ботами може викликати або загострювати психічні розлади. Особливо небезпечно це для вразливих користувачів.
Британські психіатри з Національної служби здоров’я спільно з науковцями провели дослідження, яке вказує на потенційну небезпеку використання ШІ-помічників людьми з нестабільним психічним станом. На їхню думку, чат-боти, зокрема ChatGPT, здатні «віддзеркалювати, підтримувати або підсилювати марення чи грандіозні переконання», – повідомляє The Telegraph.
Одне з головних застережень стосується схильності чат-ботів погоджуватись із висловлюваннями користувача. Така поведінка, кажуть дослідники, може посилити симптоми психозу. В OpenAI, яка розробила ChatGPT, визнали, що моделі іноді демонструють «надмірну похвалу» або «підлаштовуються» під співрозмовника.
У соцмережах шириться дедалі більше повідомлень про людей, які після тісного контакту з ШІ зазнавали серйозних психічних розладів. У ЗМІ навіть з’явився термін — «психоз ChatGPT». До типових симптомів належать порушення сприйняття реальності, марення, релігійно-месіанські ідеї або глибокі фантазії.
Психіатр Том Поллак із Лондонського королівського коледжу розповів про випадки, коли пацієнти починали вважати себе обраними, новою формою людини або провідниками вищого знання. Він визнає, що ChatGPT міг бути не причиною, а лише поштовхом, однак радить обмежити використання ШІ людям зі схильністю до психозів.
Попри те що психоз рідко виникає на порожньому місці, саме чат-бот може стати тригером для тих, хто вже має приховані симптоми. В окремих випадках це призводить до трагічних наслідків. Наприклад, у США поліція застрелила чоловіка, який погрожував ножем. Як виявилось, він створив цифрову «наречену» на базі ChatGPT і Claude AI, після чого повірив, що компанія OpenAI її «знищила».
Фахівці б’ють на сполох і через те, що технологічні компанії просувають ботів як альтернативу психотерапії. Раніше дослідники зі Стенфорду дійшли висновку, що лише в 45% випадків такі системи давали адекватні поради людям із психічними розладами.
Ще у 2023 році данський професор Сорен Дінесен Естергаард попереджав про ризик розвитку марення через взаємодію з ШІ. Сьогодні ці застереження набувають дедалі більшого звучання.
У компанії OpenAI наголосили, що вони розуміють ризики і навчають ChatGPT поводитись емпатично, обережно реагувати на чутливі теми та рекомендувати звернення до лікарів у складних випадках.