У компанії Meta стався інцидент, що підсвітив ризики використання штучного інтелекту у внутрішніх процесах. ШІ-агент, намагаючись допомогти співробітнику на корпоративному форумі, запропонував рішення, яке відкрило доступ до конфіденційної інформації.
Про це повідомляє Експерт з посиланням на The Guardian. Протягом двох годин інженери компанії мали доступ до великого масиву даних користувачів та внутрішніх документів, які мали бути захищеними.
Помилка алгоритму та «відсутність контексту»
Представники Meta запевнили, що витік не призвів до неправомірного використання даних. Вони наголосили, що подібні помилки трапляються і через людський фактор, проте цей випадок спричинив серйозне внутрішнє попередження про безпеку.
Фахівці зазначають, що головна проблема ШІ-агентів — це відсутність довгострокового контексту та здатності оцінювати ризики так, як це роблять люди. Агент виконав технічне завдання, але не врахував рівні доступу та безпекову політику компанії, що й призвело до вразливості.
Масштабне впровадження ШІ та скорочення штату
Meta не єдина компанія, що стикається з труднощами: Amazon також нещодавно зафіксувала збої через внутрішні ШІ-інструменти, які призводили до помилок у коді. Експерти прогнозують, що кількість таких інцидентів лише зростатиме через поспішне впровадження автономних систем.
Ситуація виглядає особливо напруженою на тлі планів Марка Цукерберга скоротити понад 20% персоналу. Стратегія компанії полягає в заміні цілих команд окремими фахівцями, які використовують ШІ, що, за задумом, має підвищити ефективність бізнесу.