Під час перевірки нова модель штучного інтелекту Mythos від Anthropic знайшла слабкі місця у захищених урядових системах США. За словами американських чиновників, на це пішли не тижні, а лише кілька годин.
Про це пише Associated Press.
За інформацією агентства, тестування проходило в межах проєкту Project Glasswing. Це спільна ініціатива Anthropic та американських спецслужб, яка має оцінити ризики, пов’язані з найпотужнішими системами штучного інтелекту.
Під час перевірки модель Mythos змогла швидко знайти низку вразливостей у секретних урядових мережах. При цьому чиновники наголошують, що йдеться саме про виявлення слабких місць, а не про реальне захоплення контролю над системами.
Про результати раніше згадував сенатор від Вірджинії Марк Ворнер під час слухань у Сенаті 11 червня. За його словами, інструмент “зламав майже всі наші секретні системи не за тижні, а за години”.
Сенатор посилався на дані, отримані від глави Агентства національної безпеки та Кіберкомандування США генерала Джошуа Радда.
Ситуація загострила суперечки навколо контролю над новими моделями Anthropic. На початку червня адміністрація Дональда Трампа вимагала обмежити доступ іноземних користувачів до моделей Fable 5 і Mythos 5 через можливі кіберризики.
Після цього компанія тимчасово відключила доступ до своїх найпотужніших моделей для всіх користувачів. Водночас Anthropic заявила, що не погоджується з таким рішенням.
У відповідь понад 100 експертів та представників технологічних компаній, серед яких Adobe та Nvidia, звернулися до уряду США. Вони закликали скасувати обмеження.
У листі зазначили, що моделі Anthropic справді ефективно знаходять програмні вразливості та можуть посилювати кіберзахист. Але, за їхніми словами, ці можливості не є унікальними порівняно з іншими сучасними ШІ.
Ще до відключення Fable 5 і Mythos 5 компанію критикували за надто жорсткі обмеження безпеки. Система часто блокувала навіть нешкідливі запити, якщо вони стосувалися кібербезпеки або біології.
Ця історія вкотре показала, наскільки швидко штучний інтелект змінює правила гри у сфері кіберзахисту. І водночас підняла нові питання про межі його використання.