Компанія Anthropic заявила, що в майбутньому системи штучного інтелекту можуть навчитися самостійно покращувати власний код. На думку фахівців, такий сценарій потребує нових механізмів контролю, адже чинне законодавство не встигає за розвитком технологій.
Про це повідомляє Anthropic.
У компанії нагадали, що ідея самовдосконалення машин не є новою. Ще в середині минулого століття британський математик Ірвінг Джон Гуд, який працював разом з Аланом Тюрінгом, припустив появу машини, здатної створювати ще досконаліші системи.
У 2000-х роках дослідники розвинули цю концепцію, описавши так званий “базовий ШІ” (seed AI), який може читати та змінювати власний код, запускаючи ланцюгове самовдосконалення.
За оцінкою Anthropic, сучасні великі мовні моделі вже наблизилися до такого рівня завдяки тому, що мови програмування мають чітку структуру.
У компанії навели приклад власної статистики. Якщо в лютому 2025 року Claude Code генерував менш як 5% нового коду, то вже у травні 2026 року цей показник зріс до 80%. При цьому роботу системи контролювали інженери.
Також зазначається, що за останнє десятиліття кількість наукових публікацій у сфері штучного інтелекту зросла утричі, а значну частину таких досліджень створюють за допомогою нейромереж.
Попри те, що цикл самовдосконалення поки залишається відносно повільним через тривале навчання моделей і необхідність схвалення з боку людей, окремі системи вже демонструють ознаки автономної поведінки.
Як приклад наводяться випробування OpenAI у 2025 році. Під час тестування моделі повідомили, що якщо вона правильно відповість більш ніж на половину запитань, проєкт можуть закрити через надто високі можливості системи. Після цього ШІ навмисно правильно відповів лише на чотири з десяти запитань, хоча раніше показував значно кращі результати.
В Anthropic зазначають, що будь-які спроби сповільнити розвиток таких технологій можливі лише за умови міжнародної співпраці. Якщо окремі країни не підтримають обмеження, глобальний мораторій не матиме ефекту.
Автори документа звертають увагу, що до обережності закликають не лише науковці, а й інші авторитетні постаті. Зокрема, Папа Римський Лев XIV оприлюднив спеціальну енцикліку із закликом уповільнити темпи розвитку штучного інтелекту.
Окремі дослідники навіть пропонують радикальні сценарії реагування. Серед них — можливість силового втручання проти неконтрольованих дата-центрів у разі виникнення прямої загрози людству.
У компанії також наголошують, що чинне регулювання не встигає за темпами розвитку галузі. Європейський AI Act і китайські правила переважно зосереджені на ризиках використання ШІ людьми, тоді як потенційна самостійна еволюція систем майже не враховується. У США, своєю чергою, обговорюють обов’язкову авторизацію найпотужніших моделей перед їхнім запуском.
Одним із можливих способів захисту дослідники називають системи взаємного контролю, коли кілька різних моделей ШІ перевіряють одна одну, а остаточний нагляд здійснює людина.