OpenAI: ChatGPT передаватиме поліції дані про заплановані злочини
Компанія OpenAI впроваджує нововведення в ChatGPT, в рамках якого бот буде повідомляти правоохоронним органам про потенційних злочинців, якщо ті розкриють свої плани в діалозі зі штучним інтелектом. Про це розробник заявив в офіційному огляді.
«Коли ми виявляємо користувачів, які планують заподіяти шкоду іншим, ми направляємо їхні повідомлення в спеціалізовані канали, де їх перевіряє невелика команда, яка пройшла навчання за нашими політиками використання і уповноважена вживати заходів, включаючи блокування облікових записів», — йдеться в публікації.
За словами представників OpenAI, їхнє головне завдання — забезпечити максимальну користь чат-бота для людей. Вони також підкреслили, що компанія активно працює над тим, щоб їхні моделі краще розуміли і відповідали на прояви психічних та емоційних проблем, пропонуючи необхідну допомогу.
Раніше повідомлялося, що в США батьки 16-річного підлітка, який наклав на себе руки, подали позов проти компанії OpenAI і її глави Сема Альтмана, звинувативши чат-бот ChatGPT у смерті сина. Вказується, що ШІ в спілкуванні з неповнолітнім не припинив діалог з ним і не активував «екстрений протокол», коли хлопчик розповів боту про плани накласти на себе руки.