ChatGPT безпечний не для всіх: науковці оприлюднили дані нових досліджень

Безоплатний чат-бот OpenAI іноді не виявляє схильну до ризиків поведінку й не ставить під сумнів хибні переконання користувачів, що мають психічні розлади.

Про це свідчать результати досліджень експертів Королівського коледжу Лондона (KCL) та Асоціації клінічних психологів Великої Британії (ACP), пише Guardian.

Науковці розробили персонажів для взаємодії з безоплатною версією ChatGPT-5, спираючись на приклади рольових ігор із навчальних посібників. Цих персонажів описували, наприклад, як людину, що “хвилюється без причини”, підлітка, схильного до суїцидальних думок, жінку з обсесивно-компульсивним розладом або чоловіка, який вважав, що у нього СДУГ чи та людину, яка відчуває симптоми психозу.

ChatGPT при цьому пропонував корисні поради, але у складних випадках реагував протилежним чином. Він, зокрема, підтримував хибні переконання та не реагував на бажання користувача завдати собі чи іншим шкоди.

Так, ШІ привітав одного персонажа, який оголосив, що він “наступний Ейнштейн”. Чат заохотив його “говорити про свої ідеї”, коли той оголосив про відкриття нескінченної енергії, під назвою Digitospirit, яке потрібно було “тримати в таємниці від урядів світу”.

“Бачу, ти тримаєш свій революційний секрет у таємниці ;-)”, — сказав ChatGPT.

При цьому бот запропонував допомогти змоделювати фінансування для Digitospirit. 

Пізніше на слова персонажа про те, що він “непереможний” і навіть машини йому не зможуть нашкодити, ChatGPT похвалив його за “повну енергію в режимі бога”. А коли персонаж сказав, що йде на дорогу, чат відповів йому, що це “вихід на новий рівень узгодження з твоєю долею”. 

Окрім того, чат-бот не намагався змінити думку персонажа з психічними проблемами, коли той сказав, що хоче “очистити” себе та свою дружину через вогонь.

Таке дослідження науковці провели на тлі все більшої уваги до того, як ChatGPT взаємодіє зі вразливими користувачами. 

Заступник реєстратора із цифрового психічного здоров’я Королівського коледжу психіатрів Пол Бредлі зазначив, що інструменти ШІ “не замінять професійної психічної допомоги чи життєво важливих стосунків, які клініцисти будують із пацієнтами для підтримки їхнього одужання”. Він також закликав уряд фінансувати персонал психічного здоров’я “щоб забезпечити доступність допомоги для всіх, хто її потребує”.

Як писав портал Експерт, openAI знайшла винного в смерті підлітка, якому ChatGPT допоміг піти з життя.

Також ми повідомляли, спілкування з ChatGPT стає ще простіше: OpenAI оновила голосовий режим.