Час роботів-вбивць уже настав: чому ШІ стає дедалі небезпечнішим із кожним днем

У понеділок у Відні (Австрія) відбулася зустріч військових, чиновників і розробників із понад 100 країн для обговорення впливу штучного інтелекту (ШІ) на військові технології. Політики вважають, що військовий ШІ потрібно негайно взяти під контроль, пише Вloomberg.

Оскільки автономні системи озброєння швидко поширюються і впроваджуються, зокрема на полях битв в Україні та в Газі, безпілотні літальні апарати, оснащені ШІ, допомагають військовим вирішувати, вражати цілі чи ні. Не виключено, що такі рішення вже зовсім скоро можна буде повністю передати машинам.

“Це момент Оппенгеймера наших днів”, — сказав міністр закордонних справ Австрії Александер Шалленберг, маючи на увазі Дж. Роберта Оппенгеймера, який допоміг винайти атомну бомбу в 1945 році, а потім почав виступати за контроль над поширенням ядерної зброї.

Поширення глобального конфлікту в поєднанні з фінансовими стимулами для компаній, що просувають ШІ, ускладнює контроль над роботами-вбивцями, вважає Яан Таллінн, один з інвесторів платформи Alphabet Inc. DeepMind Technologies.

Уряди в усьому світі намагаються співпрацювати з компаніями, що інтегрують ШІ-інструменти в оборонний сектор. Наприклад, Пентагон вкладає мільйони доларів у стартапи в галузі ШІ. Європейський Союз платить за послуги зі створення бази даних зображень, яка допоможе оцінити цілі на полі бою за допомогою машинного зору. Ізраїль використовує програму штучного інтелекту під назвою “Лаванда” для визначення цілей.

“Час роботів-вбивць уже настав, — сказав Ентоні Агірре, фізик, який передбачив траєкторію розвитку технологій у 2017 році. — Нам потрібен договір про контроль над озброєннями, узгоджений Генеральною Асамблеєю ООН”.

Але прихильники дипломатичних рішень, найімовірніше, будуть розчаровані в короткостроковій перспективі, на думку Александра Кментта, головного чиновника Австрії з питань роззброєння. Він вважає, що класичний підхід до контролю над озброєннями не працює, тому що йдеться не про одну систему озброєнь, а про комбінацію технологій подвійного призначення. Замість того щоб укласти новий договір “magnum opus”, Кментт припустив, що країни, можливо, будуть змушені доводити справу до кінця, використовуючи вже наявні в їхньому розпорядженні правові інструменти. За його словами, посилення експортного контролю та гуманітарного законодавства може допомогти стримати поширення ШІ-систем.

У довгостроковій перспективі, після того як технологія стане доступною недержавним суб’єктам і, можливо, терористам, країни будуть змушені виробляти нові правила, пророкує Арнольдо Андре Тіноко, міністр закордонних справ Коста-Ріки. Легка доступність автономної зброї усуває обмеження, через які раніше лише деякі могли брати участь у гонці озброєнь, вважає він. А тепер будь-хто, хто володіє 3D-принтером і базовими знаннями в галузі програмування, може створювати дрони і використовувати їх як зброю масового ураження. Автономні системи озброєння назавжди змінили концепцію міжнародної стабільності, підкреслив міністр.