Глава OpenAI попередив про можливість «випадкового захоплення світу» штучним інтелектом

Глава OpenAI Сем Альтман заявив, що людство може втратити контроль над штучним інтелектом не лише через злий намір чи виходу технологій з-під контролю, а й “цілком випадково”. У подкасті MD MEETS із главою Axel Springer Матіасом Депфнером він описав другий сценарій, який, за його словами, недооцінюється.

“Це можна усвідомити, уявивши, що відбувається із ChatGPT прямо зараз. Сотні мільйонів людей спілкуються із ChatGPT, скоро їх будуть мільярди. І люди все більше покладаються на його відповіді – при ухваленні важливих рішень у житті, на роботі, у всьому”, – пояснив Альтман.

За його словами, користувачі ChatGPT стають все більш залежними від штучного інтелекту.

“Припустимо, модель стає все розумнішою і розумнішою, дає вам поради, якими ви майже завжди слідуєте. Потім вона стає ще розумнішою. І тепер дає вам поради, які ви навіть не розумієте, але вони виявляються правильними. І в результаті у вас вибір: або йти, або програвати в конкуренції”, — додав Альтман.

У такій ситуації, зазначає глава OpenAI, люди починають діяти за вказівкою ШІ, навіть не усвідомлюючи цього.

“Зрештою, ми всі робимо те, що говорить нам асистент зі штучним інтелектом. Принаймні, ті, хто хоче залишатися конкурентоспроможним”, — зазначив він.

Альтман додав, що це створює “петлю зворотного зв’язку”: чим більше ми слухаємось ШІ, тим більше даних він отримує, навчається і стає ще сильнішим.

“Хто взагалі тоді контролює процес? Виходить, що ми робимо те, чого модель хоче”, — резюмував він.