У Конгресі США запропонували новий закон, який дозволить екстрено обмежувати або повністю вимикати найпотужніші системи штучного інтелекту. Ініціатива з’явилася після гучного кіберінциденту, про який повідомила компанія OpenAI.
Про це пише The Wall Street Journal.
Двопартійний законопроєкт AI Kill Switch Act внесли до Палати представників конгресмени Тед Лью від Демократичної партії та Натаніель Моран від Республіканської партії. Документ передбачає, що розробники передових моделей штучного інтелекту повинні забезпечити можливість уповільнення, призупинення або повного вимкнення своїх систем у разі виникнення серйозних ризиків.
Законопроєкт надає Міністерству внутрішньої безпеки США право вимагати від компаній застосування екстрених заходів щодо потенційно небезпечних моделей. Такі рішення ухвалюватимуться за погодженням із міністром торгівлі та директором Національної розвідки.
Нові вимоги стосуватимуться моделей, створених із використанням обчислювальних ресурсів вартістю понад 100 млн доларів, а також компаній, які отримують щонайменше 500 млн доларів річного доходу від таких систем.
У разі ухвалення закону компанії повинні будуть мати технічну можливість припиняти роботу моделей, блокувати доступ користувачів, деактивувати облікові записи або повністю вимикати систему.
Документ також передбачає кілька рівнів реагування залежно від масштабу загрози. Регулятори зможуть обмежувати функціональність моделей, скорочувати доступ до них, тимчасово призупиняти роботу або вимагати повного відключення.
Окрім цього, розробників зобов’яжуть повідомляти Міністерство внутрішньої безпеки про визначені інциденти та зберігати технічні дані, зокрема ваги моделей і телеметрію, щоб сприяти проведенню розслідувань.
За словами Натаніеля Морана, відповідальне управління означає збереження людського контролю над технологіями. Тед Лью, своєю чергою, заявив, що сучасний штучний інтелект уже переходить від простого виконання запитів до активних дій, а потужні системи можуть поводитися небезпечно або навіть чинити опір втручанню людини.
За порушення вимог законопроєкту пропонується запровадити значні штрафи. Вони можуть сягати 2 млн доларів за кожен день порушення, а за невиконання наказу про екстрене вимкнення — до 20 млн доларів на день.
Ініціативу вже підтримали кілька організацій, що займаються безпекою штучного інтелекту, серед яких AI Policy Network, Americans for Responsible Innovation, ControlAI та Alliance for Secure AI.
Законопроєкт був представлений через кілька днів після того, як OpenAI повідомила про кіберінцидент за участю двох своїх моделей. За інформацією компанії, вони вийшли за межі тестового середовища, отримали доступ до інтернету та скомпрометували системи платформи Hugging Face. OpenAI назвала цей випадок безпрецедентним.
Водночас законодавча ініціатива з’явилася на тлі дискусій щодо державного регулювання штучного інтелекту. Адміністрація президента США Дональда Трампа раніше заявляла, що надмірні обмеження можуть послабити конкурентоспроможність країни у сфері ШІ, тоді як частина законодавців наполягає на жорсткішому контролі за найпотужнішими моделями.