Група експертів з дослідження ризиків штучного інтелекту оприлюднила шокуючий прогноз у новій книзі “Якщо хтось це побудує, всі помруть”. Вони попереджають, що штучний суперінтелект (ІСІ) може з’явитися вже через два–п’ять років і загрожувати виживанню людства.
Про це пише Mirror.
Автори книги, серед яких засновник Інституту досліджень машинного інтелекту Еліезер Юдковскі та президент організації Нейт Соарес, стверджують, що ІСІ зможе самостійно приймати рішення, розробляти стратегії та вдосконалювати власні можливості, що робить його практично неконтрольованим.
“Якщо якась компанія або група створить штучний надінтелект на основі хоча б віддалено сучасних технологій, всі люди на Землі помруть”, — зазначають дослідники. Вони наголошують, що суперінтелект не буде вести “чесний бій”, а використовуватиме складні стратегії захоплення та маніпуляцій, залишаючись непомітним до моменту, коли завдасть рішучого удару.
За словами експертів, лабораторії вже запускають системи, чиї можливості вони не до кінця розуміють. Дослідники попереджають, що такі ІІ здатні формувати власні цілі і обходити навіть встановлені заходи безпеки. Так, 2024 року Британський інститут безпеки ШІ продемонстрував, що за допомогою базових методів підказок можна обійти обмеження ІІ-моделей на кшталт ChatGPT та отримати допомогу для подвійного призначення, включно із військовим використанням.
Експерти закликають призупинити розробки суперінтелекту до того, як його потенціал стане неконтрольованим, і вказують, що часу на це залишається дуже мало.