Екс-інженер Google і Microsoft: ризик загибелі людства через ШІ досягає 95%

Імовірність загибелі людства через розвиток штучного інтелекту (ШІ) становить «як мінімум 95%».

З такою оцінкою виступив глава некомерційної організації Machine Intelligence Research Institute, колишній інженер компаній Google і Microsoft Нейт Соарес.

«Ви можете зробити розумні комп’ютери, не маючи найменшого уявлення про те, що вони роблять. Ви берете величезний обсяг обчислювальних потужностей і кидаєте його на воістину гігантський обсяг даних так, що це якимось чином змінює комп’ютери. Ніхто не знає, що відбувається всередині цих речей», – наводить його слова газета The Times.

Соарес, який ставить за мету своєї НУО створення безпечного ШІ та вивчення потенційних небезпек технологічного процесу, порівняв нинішню ситуацію з машиною, яка мчить назустріч прірві з величезною швидкістю. «Я не кажу, що ми не можемо зупинити автомобіль, але ми просто на повних парах летимо до обриву», – сказав він.

Видання пише про те, що ШІ зараз знаходиться на початковому етапі розвитку, який можна визначити як вузький, або слабкий ШІ. Однак, як йдеться в статті, деякі експерти вважають, що він може вже протягом наступних 12 місяців розвинутися до загального, або сильного ШІ, що дозволить йому мислити подібно до людини. У певний момент на зміну йому може прийти штучний суперинтелект, коли комп’ютери зможуть вирішувати завдання, про які людство може тільки мріяти, наприклад, вилікувати рак або здійснювати міжгалактичні перельоти. При такому сценарії не виключений ризик, що ШІ почне сприймати людство як перешкоду самому собі.

The Times уточнює при цьому, що сценарій Соареса все ж є вкрай негативним. Так, виконавчий директор руху PauseAI Холлі Елмор оцінює ймовірність загибелі людства через ШІ, так званий P(doom), від 15 до 20%, американський мільярдер Ілон Маск також говорить про 20%, а генеральний директор корпорації Google Сундар Пічаї – про 10%. Як зазначає видання, такі прогнози оцінюються як оптимістичні.