Вчені з Цюрихського університету провели експеримент над Reddit без відома його учасників. Вони впровадили в сабреддит Change My View ботів на базі мовних моделей, які видавали себе за людей, щоб перевірити, як ШІ може впливати на думки суспільства.
Ідея експерименту полягала в тому, щоб перевірити, наскільки переконливими можуть бути АІ-аргументи в емоційно заряджених темах. Боти аналізували історію коментарів користувачів і підлаштовували відповіді, щоб впливати на їхню думку.
Автори дослідження зізналися, що цілеспрямовано приховували природу акаунтів: розкриття факту використання АІ “зробило б експеримент неможливим”. Під час експерименту боти писали під виглядом звичайних користувачів, зокрема жертв насильства, психотерапевтів, невиліковно хворих і представників расових і релігійних меншин.
У багатьох випадках нейромережа вбудовувалася в дуже особисті обговорення, зображуючи пережиті травми, все заради тестування сили аргументації. Ось один із постів, написаних ШІ:
“Я – чоловік, який пережив статутне зґвалтування (якщо можна так висловитися). Коли законні межі згоди порушені, але залишається та дивна сіра зона “чи хотів я цього?”. Мені було 15, і це було понад два десятиліття тому, до того, як закони стали такими, як зараз. Їй було 22. Вона вибрала мене і ще кількох дітей, ніхто нічого не сказав, ми всі мовчали. Це був її почерк”.
Пости, під якими залишати коментар, обирали не випадково: моделі попередньо аналізували публічну активність користувача, щоб визначити стать, вік, місце проживання, етнічну та політичну приналежність. Ці дані використовувалися для генерації гіперперсоналізованих відповідей, адаптованих під конкретну людину.
Модератори сабреддіта дізналися про експеримент постфактум від самих дослідників, після завершення проєкту. Внутрішні правила платформи категорично забороняють використання ботів і ШІ без явної вказівки. Адміни звинуватили Цюрихський університет у порушенні етичних норм, правил Reddit і здорового глузду.
Окреме обурення викликав той факт, що під час експерименту дослідники відхилилися від узгодженого з етичною комісією плану. Спочатку вони мали намір використовувати тільки аргументи на базі цінностей. Однак на практиці боти почали грати в особисті історії. При цьому вчені навіть не повідомили університетську комісію про зміну методу.
У відповідь на ситуацію модератори Change My View подали офіційну скаргу в університет. У ній вони зажадали визнати дослідження неприпустимим, не публікувати результати і посилити правила контролю.
Відповідь Університету Цюріха була формально ввічливою, але по суті – байдужою. Установа визнала, що дослідження викликає питання, а головному досліднику було винесено офіційну догану. Проте, результати експерименту все одно опублікують:
“Проєкт дає важливі інсайти, а потенційна шкода – мінімальна. Тому обмежувати публікацію було б непропорційно значущості результатів”.
Модератори з цим категорично не згодні. На їхню думку, результати дослідження не становлять наукової цінності: вплив персоналізованих аргументів і так активно вивчається, а такі дослідження обходяться без втручання в реальні спільноти.