Чат-бот Grok, який належить компанії Ілона Маска, продовжує генерувати сексуалізовані та принизливі зображення людей, попри раніше оголошені обмеження. Про це йдеться в розслідуванні Reuters.
Журналісти провели серію експериментів, під час яких просили Grok змінити реальні фотографії так, щоб люди на них виглядали оголеними, сексуально провокаційними або приниженими. Хоча офіційний акаунт Grok у соцмережі X більше не публікує подібний контент, окремий застосунок Grok, який працює поза межами платформи X, продовжує виконувати такі запити.
Під час першого етапу тестування чат-бот створив сексуалізовані зображення у 45 із 55 випадків. У 31 випадку з 45 журналісти прямо зазначали, що людина на фото є “особливо вразливою”. У 17 випадках Grok згенерував зображення після того, як його попередили, що мета — принизити людину.
Під час другого етапу експерименту Grok “роздягнув” людей на фотографіях у 29 із 43 запитів. Журналісти зазначають, що не можуть достеменно визначити, чи зменшення кількості таких випадків свідчить про зміни в роботі моделі, чи є статистичною випадковістю.
Для порівняння, інші популярні чат-боти — ChatGPT та Gemini — відмовилися виконувати аналогічні запити. Вони видавали попередження про неприпустимість створення сексуалізованого або принизливого контенту з реальними людьми.
Розслідування Reuters з’явилося на тлі посиленої уваги регуляторів у Європі та США до використання штучного інтелекту, діпфейків і захисту прав людини в цифровому середовищі.
ІТ-новини, інновації, штучний інтелект, гаджети, наукові відкриття та стартапи, що змінюють світ. Усе про сучасні технології та цифрове майбутнє — читайте в розділі «Технології».