Сервіс Character.ai використовував фото американки Дженніфер Енн Кресенте, яку було вбито 2006 року, для створення чат-бота зі штучним інтелектом (ШІ). Про це пише Business Insider.
Повідомляється, що батько дівчини Дрю Кресенте отримав сповіщення Google, яке він налаштував, щоб відстежувати будь-які згадки про Дженніфер у мережі. Як виявилося, Google проіндексував бота, створеного в Character.ai. Цей сервіс дає змогу створювати персонажів із певними “особистостями”, а потім публікувати їх, відкриваючи доступ до них іншим користувачам.
Бот використовував ім’я і фото Дженніфер з випускного альбому, описуючи її як “обізнаного і доброзичливого персонажа ШІ, який може надати інформацію з широкого кола тем”, а також як “експерта в журналістиці” з досвідом у новинах відеоігор. На момент, коли батько виявив бота, лічильник у його профілі показував, що його вже використовували щонайменше в 69 чатах.
“Це було горе. Тому що ось я тут, мені знову доводиться стикатися з цією жахливою травмою, з якою мені доводилося мати справу довгий час”, — розповів Дрю журналістам.
Чоловік звернувся до Character.ai через форму підтримки клієнтів і попросив компанію видалити чат-бота, що імітує його дочку. Після цього він отримав автоматичну відповідь, що містила номер його звернення, але жодної додаткової інформації. Зі свого боку дядько дівчини Брайан Креченте опублікував у Twitter повідомлення про чат-бота, закликавши своїх підписників допомогти “зупинити цю жахливу практику”.
“Це огидно: @character_ai використовує мою вбиту племінницю як обличчя штучного інтелекту у відеогрі без дозволу її тата. Зараз він дуже засмучений. Я не можу уявити, що він переживає”, — написав Браян.
Через годину в Character.ai відповіли на пост, заявивши, що чат-бот Дженніфер видалено. Представниця компанії Кессі Лоуренс у коментарі виданню підтвердила, що чат-бот був видалений. За її словами, Character.ai використовує “стандартні списки блокування і призначені для користувача списки блокування” для запобігання видачі себе за іншу особу.
Водночас Дрю заявив, що компанія повинна була вибачитися, а також гарантувати, що фото його доньки більше не будуть використовуватися. Наразі він шукає можливості домогтися цього правовим шляхом.
“Просто невимовно, що компанія з такими грошима, по-моєму, настільки байдужа до повторного травмування людей”, — сказав батько Дженніфер.
Головні рішення лідерів, дипломатія і геополітика — усе це в розділі «Світ».