Компанія Ілона Маска xAI обмежила роботу чат-бота Grok після скандалу з ШІ-зображеннями, заборонивши користувачам змінювати фото інших людей без їх згоди. Про це повідомляє Business Insider.
Раніше за допомогою цієї функції користувачі могли генерувати дипфейки, “роздягаючи” жінок, в тому числі неповнолітніх. Пізніше xAI обмежила доступ до редагування фото для більшості користувачів, залишивши цю функцію тільки платним передплатникам.
Обмеження були введені після того, як уряди деяких країн, включаючи Індонезію і Малайзію, тимчасово заблокували доступ до Grok, а правозахисні організації закликали Apple і Google видалити додатки X і Grok зі своїх магазинів. Європейські та британські регулятори також посилюють перевірку, обговорюючи можливі юридичні заходи.
Сам Маск на тлі критики заявляв, що не знав про випадки генерації сексуалізованих зображень неповнолітніх і підкреслював, що Grok повинен відмовлятися від незаконних запитів. Grok позиціюється розробниками як менш обмежена альтернатива іншим ШІ-моделям, таким як ChatGPT, які мають суворі фільтри, що забороняють створення відвертого контенту.
Тим часом урядові органи та громадські організації продовжують наполягати на суворому контролі за ШІ-технологіями, особливо там, де вони можуть використовуватися для порушення приватного життя та експлуатації людей без їхньої згоди. Влада Каліфорнії та інших юрисдикцій вже працюють над тим, щоб притягнути xAI до відповідальності та забезпечити дотримання законів про захист від зловживань.