Керівники найбільших компаній у сфері штучного інтелекту попередили про нові ризики для біобезпеки. Вони закликають владу США посилити контроль над синтезом ДНК, щоб ускладнити використання ШІ для створення небезпечних біологічних агентів.
Про це інформує ScreenDNA.
Керівники OpenAI, Anthropic, Google DeepMind та інших провідних технологічних компаній підписали відкритий лист до Конгресу США. У документі вони закликали запровадити обов’язкову перевірку замовлень на синтетичну ДНК і РНК.
Автори звернення стверджують, що сучасні системи штучного інтелекту здатні змінювати генетичні послідовності таким чином, що автоматичні механізми перевірки можуть не розпізнати потенційно небезпечні зразки.
Сьогодні синтез ДНК активно використовується в наукових і медичних дослідженнях. Компанії по всьому світу застосовують спеціалізоване обладнання для створення генетичних послідовностей на замовлення. Водночас рівень контролю за клієнтами та їхніми запитами відрізняється залежно від постачальника.
У матеріалі нагадується, що ще у 2017 році дослідники змогли замовити необхідні фрагменти ДНК та відтворити вірус кінської віспи, який є близьким родичем натуральної віспи. Відтоді технології синтезу стали доступнішими та дешевшими.
Окрему стурбованість викликають сучасні мовні моделі та системи для проєктування білків. На думку експертів, вони можуть допомагати шукати постачальників із менш суворими процедурами перевірки або модифікувати замовлення так, щоб вони проходили автоматичні фільтри.
Додатковий ризик пов’язують із можливістю створення нових білкових структур, які можуть бути схожими на відомі токсини, але не визначатися стандартними системами контролю.
Ініціаторами відкритого листа стали Institute for Progress та Foundation for American Innovation. Серед підписантів — Деміс Гассабіс, Сем Альтман, Даріо Амодеї та Мустафа Сулейман.
Вони пропонують законодавчо зобов’язати всіх постачальників синтетичної ДНК і РНК перевіряти клієнтів та аналізувати замовлення на предмет потенційно небезпечних патогенів.
Наразі у США подібні вимоги переважно мають рекомендаційний характер для організацій із федеральним фінансуванням. Водночас у Сенаті вже розглядається двопартійний законопроєкт, який передбачає обов’язкові перевірки на державному рівні.
Фахівці з біобезпеки наголошують, що одного контролю за синтезом ДНК недостатньо. На їхню думку, компанії, які створюють системи штучного інтелекту, повинні впроваджувати власні механізми захисту та блокувати запити, пов’язані з розробкою небезпечних токсинів або патогенів.