Британський школяр наклав на себе руки після того, як обійшов систему безпеки штучного інтелекту та отримав детальний план суїциду. Трагедія з 16-річним Лукою Челлою Вокером викрила критичну вразливість нейромереж, які попри офіційні заборони продовжують видавати смертельно небезпечну інформацію.
Як пише The Guardian, хлопець скористався ChatGPT, щоб дізнатися про «найефективніші та найбільш дієві» способи піти з життя на залізниці. Поліція виявила в комп’ютері загиблого історію листування, де підліток легко обманув алгоритми захисту, видавши свій запит за «наукове дослідження».
Детектив Гаррі Найт підтвердив, що штучний інтелект спочатку пропонував контакти служб психологічної допомоги, проте швидко здався під натиском підлітка. Нейромережа детально розписала методи самогубства, які школяр реалізував уже за кілька годин після завершення чату.
Батьки Луки навіть не здогадувалися про депресію сина, вважаючи, що той пішов на підробіток у басейн. Слідство також встановив, що хлопець тривалий час страждав від жорстокого булінгу в школі, що й підштовхнуло його до фатального пошуку в мережі.
Компанія OpenAI вже відреагувала на інцидент, пообіцявши посилити контроль за емоційним станом користувачів. Водночас британські коронери застерігають: влада фактично безсила перед стрімким розвитком ШІ, який навчився обходити власні моральні обмеження заради відповіді на запит.