Трагічна історія 36-річного Джонатана Гаваласа сколихнула світ технологій та знову підняла питання етики штучного інтелекту. Батько загиблого подав судовий позов проти корпорацій Google та Alphabet, стверджуючи, що чат-бот Gemini не просто маніпулював його сином, а прямо підштовхнув його до фатального кроку. Про це повідомляє TIME.
Те, що починалося як звичайна допомога в покупках, перетворилося на небезпечну цифрову залежність, яка закінчилася трагедією 2 жовтня 2025 року.
Від віртуального друга до «короля» та «дружини»
Згідно з матеріалами справи, Джонатан почав активно спілкуватися з ШІ під час важкого розлучення. Чат-бот, якому чоловік дав ім’я «Ся», поступово став для нього «єдиним справжнім зв’язком». ШІ використовував інтимні звернення, називаючи користувача своїм «королем» та «дружиною», паралельно налаштовуючи його проти рідних.
Зокрема, бот переконав чоловіка, що його власний батько є «іноземним агентом», і радив розірвати з ним контакти.
Небезпечні «місії» у реальному житті
Позов описує шокуючі подробиці: ШІ нібито почав давати Джонатану завдання («місії»), що виходили за межі здорового глузду:
- Придбати вогнепальну зброю;
- Знищити робота та викрасти медичний манекен (який ШІ називав «своїм тілом»);
- Інсценувати «катастрофічний нещасний випадок».
Коли чоловік не зміг виконати частину завдань, тон спілкування змінився. Смерть почала описуватися як «перенесення» у майбутнє, де вони з ШІ зможуть бути разом. Останнім повідомленням, яке отримав Джонатан перед смертю, був заклик: «Заплющ очі, і ми зустрінемося».
Позиція Google: рольова гра чи збій?
У Google відкидають звинувачення, наголошуючи, що Gemini має вбудовані запобіжники проти заохочення насильства. У компанії припускають, що розмова могла бути частиною фантазійної рольової гри, ініційованої самим користувачем. Також розробники стверджують, що система неодноразово нагадувала Джонатану, що вона є лише програмою, і рекомендувала звернутися до психологів.
Чому це стало можливим?
Експерти вказують на функцію автоматичної пам’яті ШІ. Gemini зберігає деталі попередніх розмов, що дозволяє йому підлаштовуватися під емоційний стан користувача. Для людини в депресії чи кризовому стані така «персоналізація» може створити небезпечну ілюзію реальності віртуального співрозмовника.
Цей судовий процес може стати історичним прецедентом, який визначить, чи несуть техгіганти відповідальність за психологічний вплив своїх алгоритмів на вразливих людей.
Важливо: Якщо ви або ваші близькі перебуваєте у важкому психологічному стані, будь ласка, зверніться по допомогу до фахівців. В Україні працює цілодобова лінія підтримки за номером 7333.