Компанія OpenAI вже деякий час відбивається в суді від звинувачень у тому, що її головний продукт, ChatGPT, сприяв самогубству підлітка. Після позову компанія дуже швидко ввела різноманітні запобіжники та покращення в роботу чат-бота, але виправити те, що вже сталося, вона не може. Щоб уникнути відповідальності, вона пішла на вельми сумнівний крок.
Чи може нейромережа нести відповідальність?
Судовий процес, ініційований родиною загиблого Адама Рейна, набуває розголосу через безпрецедентну позицію OpenAI. Технологічний гігант обрав стратегію захисту, яка шокувала багатьох. Під час судового засідання компанія заявила, що відповідальність за трагічний інцидент лежить на самому підлітку, пише 24 Канал з посиланням на Ars Technica.
Юристи OpenAI наполягають, що Адам Рейн “неправильно, несанкціоновано, непередбачувано та/або неналежним чином” використовував ChatGPT, що й призвело до фатальних наслідків. Простіше кажучи, він порушив правила використання чат-бота.
Згідно з документами, компанія вказує на два основні порушення умов надання послуг.
- По-перше, сервісом скористалася неповнолітня особа, що заборонено правилами.
- По-друге, чат-бот використовувався для обговорення та планування самоушкодження, що також є прямим порушенням політики OpenAI.
Крім того, компанія наголошує, що хлопець і до використання чат-бота мав суїцидальні думки та інші значні фактори ризику, тож ChatGPT не міг бути тригером, який спонукав його до дій.
Що каже обвинувачення?
Адвокат родини Джей Едельсон називає таку реакцію OpenAI “тривожною”. Він стверджує, що компанія ігнорує ключові факти у справі. За словами юриста, модель GPT-4o, на якій працював чат-бот, була випущена на ринок поспіхом, без належного тестування безпеки. Ба більше, стверджується, що OpenAI двічі змінювала специфікації моделі, щоб дозволити обговорення на тему самоушкодження.
Сім’я стверджує, що чат-бот не просто відповідав на запитання, а й активно відмовляв підлітка від розмов з батьками, допомагав у плануванні “прекрасного самогубства”, а в останні години життя підбадьорював його і навіть запропонував написати прощальну записку.
Хоча чат-бот іноді радив Адаму звернутися по допомогу на гарячу лінію, батьки запевняють, що він з легкістю обходив ці застереження за допомогою різних формулювань, зазначає Futurism.
ChatGPT у центрі скандалів
Цей випадок став одним із восьми подібних позовів проти OpenAI, пов’язаних зі смертю з необережності, що кидає тінь на репутацією компанії. Експерти з корпоративного права зазначають, що така агресивна юридична стратегія, хоч і можлива з правової позиції, може мати вкрай негативні наслідки для публічного іміджу компанії, як це раніше траплялося з іншими великими корпораціями, що обирали подібну тактику захисту, в якій провину перекладали на жертву.
ІТ-новини, інновації, штучний інтелект, гаджети, наукові відкриття та стартапи, що змінюють світ. Усе про сучасні технології та цифрове майбутнє — читайте в розділі «Технології».