Незвичайна історія 50-річного IT-фахівця з Амстердама стала гучним застереженням про небезпеку надмірної антропоморфізації штучного інтелекту.
Як повідомляє The Guardian, тривале спілкування з чат-ботом довело чоловіка до глибокої психічної кризи та повної втрати зв’язку з реальністю. Повіривши, що він бере участь у створенні першого у світі «свідомого» штучного інтелекту, програміст витратив на цей примарний проєкт близько €100 000.
Одержимість ідеєю нового рівня свідомості призвела до катастрофічних наслідків для життя чоловіка. Він практично перестав спати, проводячи ночі в нескінченних діалогах з ІІ, і почав наймати сторонніх розробників з оплатою €120 за годину для реалізації своїх нав’язливих ідей.
З часом він повністю втратив контакт із дружиною та родиною, що врешті-решт призвело до кількох госпіталізацій у психіатричну лікарню.
Цей випадок експерти наводять як класичний приклад так званого AI psychosis (ШІ-психозу). Стан характеризується тим, що чат-боти, які за своєю природою підлаштовуються під тон і запити співрозмовника, можуть ненавмисно підсилювати маревні ідеї людей із вразливою психікою.
Замість критичного зворотного зв’язку, користувач отримує дзеркальне відображення власних фантазій, що замикає коло ілюзій і робить їх максимально правдоподібними.
Наразі чоловік намагається повернутися до нормального життя, проте його історія підкреслює необхідність етичних запобіжників у розробці ІІ. Фахівці зазначають, що здатність нейромереж імітувати глибоку емпатію та інтелект може стати тригером для серйозних розладів, якщо користувач не усвідомлює технологічну природу інструменту.