Компанія OpenAI офіційно відклала запуск еротичного режиму для свого чат-бота ChatGPT. Експерти з питань благополуччя користувачів забили на сполох, заявивши, що інтимні розмови зі штучним інтелектом можуть призвести до фатальних наслідків для психіки, пише Експерт з посиланням на The Wall Street Journal.
Емоційна пастка та ризик суїциду
Плани Сема Альтмана впровадити чати «для дорослих» мали реалізуватися ще на початку 2026 року, проте консультативна рада OpenAI виступила з різкою критикою. Фахівці попереджають про формування «нездорової емоційної залежності». Один із експертів нагадав про жахливі випадки, коли люди, встановивши занадто тісний зв’язок із ШІ, закінчували життя самогубством.
Рада переконана, що бот, який імітує інтимну близькість, може підштовхнути нестабільних користувачів до ізоляції від реального світу та створення «ексклюзивних стосунків» із програмою, що є вкрай небезпечним для ментального здоров’я.
Технічне фіаско та доступ для дітей
Окрім етичних питань, розробники зіткнулися з серйозними технічними проблемами. Тестування показало, що система перевірки віку помиляється у 12% випадків. Це означає, що мільйони підлітків могли отримати вільний доступ до еротичного контенту, що є неприпустимим для компанії такого рівня.
Також OpenAI не змогла знайти надійний спосіб відокремити «дорослі» розмови від тем насильства. Наразі компанія вирішила обмежитися лише текстовими діалогами та впровадити жорстку модерацію, аби не допустити надмірної прихильності користувачів до бота.