Спроба російських комунальників замінити живих операторів штучним інтелектом завершилася епічним скандалом. Голосовий чат-бот, якого впровадили для прийому заявок у сфері ЖКГ, уже за місяць роботи почав спілкуватися з клієнтами за допомогою відбірної нецензурної лексики.
Про несподіваний «мовний прорив» нейромережі повідомили російські ЗМІ, зазначивши, що замість допомоги мешканці отримували порцію лайки. Система, яка мала приймати скарги на відсутність води чи тепла, просто почала віддзеркалювати стиль спілкування самих користувачів, пише Експерт з посиланням на медіа країни-агресорки.
Як пояснив президент Національного об’єднання організацій у сфері технологій інформаційного моделювання Михайло Вікторов, розробники не врахували специфіку «навчання» моделі. Чат-бот аналізував реальні розмови і швидко засвоїв агресивну манеру спілкування росіян, які зазвичай не стримують емоцій у розмовах із представниками ЖКГ.
«Нейромережа навчилася мату буквально у перший місяць. Як кажуть, з ким поведешся, від того й наберешся», — цитують Вікторова пропагандистські ресурси.
Експерти в галузі AI зазначають, що такий провал — це наслідок використання «брудних» даних без мовних фільтрів. Оскільки сфера житлово-комунальних послуг у РФ є однією з найбільш проблемних та конфліктних, алгоритм просто прийняв мат за норму комунікації.
Ситуація стала показовою: штучний інтелект виявився занадто точним «дзеркалом» російського суспільства. Замість того, щоб ввічливо приймати заявки на ремонт каналізації, бот почав посилати абонентів туди, куди вони зазвичай посилають своїх комунальників. Наразі невідомо, чи вдалося розробникам «перевиховати» цифрову дитину, чи її просто вимкнули від гріха подалі.