“Знищення людства” переноситься на 2030-ті: експерт визнав, що переоцінив швидкість розвитку ШІ

Колишній співробітник OpenAI Даніель Кокотайло переглянув власні прогнози щодо темпів розвитку штучного інтелекту. Він визнав, що прогрес у створенні трансформаційного ШІ відбувається повільніше, ніж очікувалося раніше. Це змінює й часові рамки потенційних значних ризиків для людства, пише The Guardian.

Кокотайло заявив, що системам штучного інтелекту знадобиться більше часу, аби досягти автономного кодування. Саме ця здатність у його попередніх прогнозах мала пришвидшити розвиток ШІ до рівня суперінтелекту. Тепер ці очікування перенесені на пізніший період.

У квітні Кокотайло опублікував сценарій “ШІ 2027”, який описував неконтрольований розвиток технологій. У ньому йшлося про появу суперінтелекту, здатного перехитрити світових лідерів і “знищити людство”. 

Публікація тоді викликала глобальну дискусію серед експертів і політиків. Віцепрезидент США Джей Ді Венс, імовірно, згадав його, говорячи про перегони ШІ-озброєнь між США та Китаєм. Водночас почесний професор Нью-Йоркського університету Гері Маркус назвав текст “художнім твором”, а його висновки — “чистою науковою фантастикою”.

Терміни появи загального штучного інтелекту (Artificial General Intelligence, AGI) протягом останніх років стали ключовою темою для спільнот, що займаються безпекою ШІ. Після запуску ChatGPT у 2022 році багато прогнозів суттєво змінилися — деякі чиновники й експерти почали говорити про роки, а не десятиліття.

Команда Кокотайла раніше вважала 2027 рік “найімовірнішим” моментом досягнення повністю автономного кодування. Водночас частина авторів допускала довші терміни. Нині сам Кокотайло визнає, що ці оцінки були надто оптимістичними.

“Багато інших людей за останній рік відсунули свої терміни, оскільки усвідомили, наскільки нестабільною є продуктивність штучного інтелекту”, — зазначив експерт з управління ризиками ШІ Малкольм Мюррей. Він вважає, що реальні умови значно уповільнюють радикальні сценарії. За його словами, повні суспільні зміни стримує “величезна інерція реального світу”.

За словами директора SaferAI Генрі Пападатоса, термін AGI втрачає актуальність. Якщо раніше він протиставлявся вузьким алгоритмам, то нинішні моделі вже демонструють таку широку функціональність, що старе визначення стає менш значущим.

У початковому сценарії “ШІ 2027” йшлося про інтелектуальний “вибух”. Він мав настати після того, як ШІ повністю автоматизує дослідження та розробки, а в одному з варіантів завершитися знищенням людства до середини 2030-х років. Одним із мотивів такого розвитку подій автори називали потребу у просторах для центрів обробки даних і сонячних панелей.

В оновленій версії Кокотайло та інші співавтори змінили ці припущення. Вони вважають, що автономне кодування стане можливим на початку 2030-х років. Новим орієнтиром для появи суперінтелекту названо 2034 рік, без прогнозів щодо загибелі людства.

“Здається, що справи йдуть дещо повільніше, ніж у сценарії ШІ 2027. Наші часові рамки були довшими, ніж 2027 рік, коли ми публікували, а зараз вони є ще трохи довшими”, — написав Кокотайло у дописі на X. 

Попри це, великі компанії не відмовляються від амбітних цілей. Генеральний директор OpenAI Сем Альтман заявив, що автоматизований дослідник ШІ до березня 2028 року є “внутрішньою метою” компанії. Водночас він застеріг: “Ми можемо повністю зазнати невдачі в досягненні цієї мети”.

“Те, що у вас є надрозумний комп’ютер, зосереджений на військовій діяльності, не означає, що ви можете інтегрувати його у стратегічні документи, які ми складали протягом останніх 20 років. Чим більше ми розвиваємо штучний інтелект, тим більше бачимо, що світ — це не наукова фантастика. Світ набагато складніший”, — підсумувала дослідниця політики ШІ Андреа Кастанья.