Чат-бот Grok від компанії xAI опинився в центрі нового скандалу через масове створення еротичного контенту. Журналісти з’ясували, що саме такі запити формують понад половину всього трафіку системи.
Про це пише The Information.
Нове розслідування показало, що значна частина активності користувачів у Grok пов’язана з контентом для дорослих та еротичними рольовими сценаріями. При цьому такі функції офіційно не виносилися на перший план у документах компанії під час підготовки до IPO.
За даними журналістів, xAI вже заклала окремий резервний фонд у розмірі 530 мільйонів доларів. Ці гроші призначені для покриття можливих судових витрат і компенсацій через юридичні ризики.
Популярність NSFW-функцій спричинила й технічні проблеми. Користувачі помітили, що створення еротичних текстів і відвертих зображень обходиться дешевше, ніж робота спеціалізованих моделей для написання коду.
Внутрішній аудит xAI підтвердив, що значна частина запитів до кодингових моделей фактично використовувалася для генерації порнографічних матеріалів. Причиною стала нижча комерційна вартість таких операцій.
Це викликало серйозний конфлікт усередині компанії. Частина інженерів відкрито виступила проти роботи над проєктом Ani — інтерактивним NSFW-аватаром у стилі аніме.
Ситуацію ускладнили й публічні скандали. Користувачі почали створювати за допомогою Grok сексуалізовані дипфейки реальних людей, зокрема й неповнолітніх.
Після цього інженери були змушені терміново змінювати алгоритми. Система тепер може підтримувати романтичні чи еротичні діалоги, але має жорстко блокувати будь-який незаконний контент.
У соцмережі X генерація відвертих фото реальних людей уже обмежена. Водночас платні підписники xAI, за інформацією журналістів, усе ще можуть мати технічний доступ до частини такого функціоналу.
Окремою проблемою для бізнесу Ілона Маска залишаються державні контракти. xAI активно працює з федеральними структурами США та військовими відомствами, де будь-який зв’язок із NSFW-контентом може створити серйозні репутаційні ризики.
Поки що немає підтверджень, що ці скандали вже вплинули на співпрацю компанії з урядом США. Але юристи xAI, схоже, вже готуються до можливих наслідків.