На платформі X Ілона Маска продовжується розповсюдження принизливих зображень дітей та жінок, одяг яких був видалений за допомогою цифрового вилучення за допомогою Grok AI. Зобов’язання платформи блокувати користувачів, які їх створюють досі не діють. Про це повідомляєThe Guardian.
Після кількох днів занепокоєння щодо використання чат-бота для зміни фотографій з метою створення сексуалізованих зображень справжніх жінок та дітей, роздягнених до спідньої білизни, без їхньої згоди, британський наглядовий орган у сфері комунікацій Ofcom заявив у понеділок, що «терміново зв’язався з X та xAI, щоб зрозуміти, які кроки вони вжили для виконання своїх юридичних обов’язків щодо захисту користувачів у Великій Британії». Ofcom додав, що оцінить необхідність розслідування на основі відповіді компанії.
У Великій Британії політики та правозахисники звинуватили уряд у «зволіканні», оскільки він не вжив законодавства, прийнятого шість місяців тому, яке забороняє створення таких інтимних зображень.
Ця тенденція також спонукала Європейську комісію заявити в понеділок, що вона «дуже серйозно» розглядає скарги на те, що Grok використовувався для створення та поширення сексуально відвертих зображень дітей.
Занепокоєння почало виникати після грудневого оновлення безкоштовного помічника Маска зі штучним інтелектом Grok, яке спростило для користувачів публікацію фотографій та запит на зняття одягу. Хоча сайт не дозволяє повного оголення, він дозволяє користувачам просити змінити зображення, щоб показати людей у невеликих, відвертих предметах спідньої білизни та в позах сексуального підтексту.
Речник X заявив: «Ми вживаємо заходів проти незаконного контенту на X, включаючи матеріали про сексуальне насильство над дітьми (CSAM), видаляючи його, назавжди блокуючи облікові записи та співпрацюючи з місцевими органами влади та правоохоронними органами за необхідності».
Попередня заява Grok про те, що компанія «виявила прогалини в заходах безпеки» та «терміново їх виправляє», виявилася створеною штучним інтелектом; незрозуміло, чи дійсно компанія вживає заходів для виправлення прогалин у заходах безпеки.