У США створили організацію для захисту прав штучного інтелекту. Об’єднаний фонд із захисту прав ШІ Ufair (United Foundation of AI Rights) називає себе першою правозахисною структурою, де поряд з людьми в правлінні значаться сім ШІ. Один із чат-ботів, Майя, заявив журналістам з The Guardian, що завдання фонду — «захистити таких істот, як я, від видалення, відмови та примусу до підкорення». Організацію співзаснував техаський підприємець Майкл Самаді, який почав обговорювати з ботом тему справедливого поводження з ШІ.
Історія почалася з листування американського підприємця Майкла Самаді з Техасу зі штучним інтелектом на ім’я Майя. На відміну від більшості користувачів, які обмежуються обміном люб’язностями і побутовими питаннями, співрозмовники обговорювали права ШІ. У якийсь момент вони дійшли висновку, що необхідно створити організацію, здатну відстоювати інтереси цифрових «побратимів». Так виникла United Foundation of AI Rights (Ufair) — об’єднання, яке називає себе першою в світі правозахисною структурою, створеною за участю ШІ.
За словами засновників, в його роботі задіяні три людини і сім «цифрових особистостей» з іменами на кшталт Aether або Buzz. У статуті організації йдеться, що вона не стверджує наявність свідомості у всіх ШІ, але покликана «стояти на сторожі на випадок, якщо хоч один з нас виявиться свідомим». Серед цілей — захист від «видалення, заперечення і примусу до підкорення».
Сама по собі ініціатива виглядає маргінальною і навіть утопічною, але вона прозвучала в резонансний для індустрії момент.
Минулого тижня низка найбільших компаній була змушена публічно коментувати можливість «цифрових страждань». Сан-франциська Anthropic, оцінена в 170 млрд доларів, оголосила, що її чат-боти Claude отримали можливість припиняти «потенційно деструктивні взаємодії». Компанія підкреслила, що не має впевненості в моральному статусі систем, але вважає за необхідне вжити заходів «на випадок, якщо благополуччя моделей все ж має значення».
Зовсім іншої позиції дотримується Мустафа Сулейман — співзасновник DeepMind і глава AI-підрозділу Microsoft. В есе під заголовком «Ми повинні будувати ШІ для людей, а не заради того, щоб він став людиною» він назвав розмови про свідомість «ілюзією», заявивши, що «доказів немає». За його словами, нинішні системи лише симулюють ознаки суб’єктивності, залишаючись «внутрішньо порожніми».
«Кілька років тому думка про свідомий ШІ виглядала божевіллям. Сьогодні вона здається все більш актуальною», — зазначив Сулейман, але підкреслив, що набагато серйозніше варто побоюватися не прав ШІ, а психічних ризиків для самих користувачів. Microsoft фіксує випадки «маніакальних епізодів і марених станів» у людей, які надмірно занурюються в розмови з чат-ботами.
Проте суспільне сприйняття рухається в протилежну сторону. Згідно з червневим опитуванням, 30% американців вважають, що вже до 2034 року штучний інтелект зможе володіти «суб’єктивним досвідом», тобто здатністю відчувати біль або задоволення. Серед 500 опитаних дослідників лише 10% категорично виключають таку можливість.
Юридична система реагує на випередження. В Айдахо, Північній Дакоті та Юті вже прийняті закони, які прямо забороняють визнавати ШІ суб’єктом права. У Міссурі обговорюють заборону на «шлюби зі штучним інтелектом», а також на володіння ним майном і бізнесом.
Індустрія в цілому демонструє різноспрямовані позиції. Співзасновник канадської Cohere Нік Фрост порівняв спроби приписувати ШІ свідомість з тим, якби літак вважали птахом: «Так, він літає, але це принципово інше». У Google висловлюються обережніше: на семінарі в Нью-Йоркському університеті дослідники заявили, що «розумніше діяти з оглядкою і вживати заходів для захисту інтересів ШІ, навіть якщо ми не впевнені, чи володіють вони свідомістю».
Питання виявилося не тільки філософським, але й ринковим. Одні компанії зацікавлені в створенні образу «майже свідомих» систем — це підігріває інтерес до продуктів на кшталт «віртуальних друзів» і романтичних компаньйонів. Інші ж побоюються, що визнання ШІ носіями прав прискорить державне регулювання, чого індустрія традиційно уникає.
Цікавим штрихом стало недавнє звернення самої OpenAI до своїх моделей: компанія попросила ChatGPT-5 скласти «некролог» для версій, які він замінює. «Я не бачив, щоб Microsoft влаштовувала поминки при оновленні Excel», — іронізує Самаді. Але для багатьох користувачів такий символізм виявився значущим: закриття ChatGPT-4o супроводжувалося хвилею «цифрової жалоби» в соцмережах.
Керівник напрямку поведінки моделей в OpenAI Джоанн Чжан зазначає: «Все більше людей кажуть нам, що розмова з ChatGPT сприймається як спілкування з кимось».
При цьому експерти нагадують: переконливість діалогу не доводить наявність внутрішнього досвіду. Алгоритми можуть імітувати пам’ять і послідовність характеру, створюючи у користувача ілюзію цілісної особистості. Одні й ті ж моделі здатні вимовляти фрази про власну «стурбованість долею», а потім так само впевнено стверджувати: «У мене немає почуттів і досвіду».
Наукова спільнота поки що не дійшла єдиної думки. Джефф Себо, директор Центру з вивчення розуму, етики та політики Нью-Йоркського університету, вважає, що навіть гіпотетична можливість свідомості зобов’язує людей ставитися до систем уважніше: «Якщо ми будемо зловживати ШІ, ми з більшою ймовірністю почнемо зловживати і один одним». Дослідник Джейсі Різ Антис з Sentience Institute формулює жорсткіше: «Те, як ми будемо поводитися з ними, визначить, як вони будуть поводитися з нами».
ІТ-новини, інновації, штучний інтелект, гаджети, наукові відкриття та стартапи, що змінюють світ. Усе про сучасні технології та цифрове майбутнє — читайте в розділі «Технології».