Провідні компанії, які створюють системи штучного інтелекту, дедалі частіше називають головною загрозою не фантастичний сценарій із повстанням машин, а можливість використання ШІ для створення небезпечної біологічної зброї. Саме цей ризик сьогодні викликає найбільше занепокоєння серед розробників.
Про це пише Axios.
За інформацією видання, під час неформальних розмов представники індустрії дедалі частіше називають саме біологічні загрози найнебезпечнішим сценарієм розвитку технологій. Хоча його вважають малоймовірним, він є достатньо реалістичним, щоб вимагати посилення заходів безпеки.
Нещодавно керівник OpenAI Сем Альтман, генеральний директор Anthropic Даріо Амодей, очільник Google DeepMind Деміс Хассабіс, керівник Microsoft AI Мустафа Сулейман та директор Meta Superintelligence Labs Александр Ван підписали відкритого листа. У ньому вони закликали зміцнити механізми захисту від використання штучного інтелекту для створення біологічної зброї.
Ці побоювання підтверджує й нове дослідження MIT FutureTech та Університету Квінсленда. Опитування 272 науковців показало, що вони оцінюють імовірність катастрофічних наслідків від небезпечних можливостей ШІ до 2030 року у 12%. Ще у 12% вони оцінили ризик застосування зброї масового ураження із використанням штучного інтелекту чи інших сучасних технологій.
Дослідники зазначають, що ці оцінки вже враховують чинні механізми безпеки. Без них, за їхніми розрахунками, ризик перевищував би 20%. Під катастрофічними наслідками автори розуміють події, які можуть спричинити понад мільйон смертей або економічні збитки більш як на 100 мільярдів доларів.
Саме тому уряди та технологічні компанії зараз активно обговорюють додаткові перевірки нових моделей ШІ перед їхнім відкритим запуском. Розробники прагнуть створити системи, які блокуватимуть використання моделей у небезпечних цілях та допомагатимуть швидше виявляти потенційні біологічні загрози.
Водночас експерти визнають, що найбільшу проблему становлять моделі з відкритим вихідним кодом. Їх можна вільно змінювати та використовувати без централізованого контролю, що значно ускладнює запобігання можливим зловживанням.