Терминатор может стать реальностью: люди не смогут держать под контролем сверхразумных роботов

Человек не сможет держать под контролем сверхинтеллектуальный ИИ, даже если примет для этого все возможные меры. Как сообщает Naked Science, к такому выводу пришла группа ученых со специалистами Центра людей и машин Института развития человека Макса Планка. Статья об их работе опубликована в в Journal of Artificial Intelligence Research

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Ученые использовали моделирование и теоретические расчеты, чтобы выяснить пределы возможностей человека по управлению продвинутым ИИ. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.