Дослідники Anthropic заявили, що мовна модель Claude самостійно сформувала внутрішню систему, схожу на одну з провідних теорій людської свідомості. Водночас науковці наголошують, що це не означає, ніби штучний інтелект отримав справжню свідомість чи відчуття.
Про це повідомляє Anthropic.
Компанія оприлюднила дослідження “Verbalizable Representations Form a Global Workspace in Language Models”, у якому описано виявлення особливої внутрішньої області моделі Claude, що отримала назву J-space. Це простір, де система зберігає абстрактні поняття, аналізує їх і використовує під час виконання складних завдань.
Науковці порівняли це явище з теорією Global Workspace Theory. Вона пояснює роботу людського мозку як своєрідний театр: численні спеціалізовані підсистеми працюють паралельно, але лише невелика частина інформації потрапляє до спільного «робочого простору», який людина усвідомлює.
За словами авторів, Claude сформував подібний інформаційний центр самостійно у середніх обчислювальних шарах моделі. Це стало результатом навчання без спеціального програмування такої архітектури.
Дослідити приховані процеси допоміг інструмент Jacobian lens (J-lens). Він дозволяє побачити, які поняття активуються всередині моделі ще до того, як вона починає формувати текстову відповідь.
Як приклад дослідники навели запитання про колір четвертої планети від Сонця. Перед тим як відповісти, модель спочатку активує поняття «Марс», а вже потім формує готову відповідь.
Щоб перевірити роботу J-space, команда Anthropic провела п’ять експериментів.
Перший тест показав, що Claude може словесно описувати саме ті поняття, які активні у J-space. Якщо дослідники штучно замінювали внутрішній концепт «футбол» на «регбі», модель одразу змінювала відповідь.
Другий експеримент продемонстрував керовану зміну внутрішніх уявлень. Коли моделі наказували думати про цитрусові під час копіювання тексту, в J-space активувалися поняття «лимон» і «апельсин», хоча цих слів у самому тексті не було.
Під час логічних задач система спочатку формувала потрібне поняття всередині моделі. Наприклад, у завданні про тварину, яка плете павутину, Claude спершу активував концепт «павук», а вже потім створював відповідь.
Ще один тест показав, що активація одного поняття автоматично поширюється на пов’язані знання. Наприклад, концепт «Франція» одночасно пов’язувався зі столицею, мовою та континентом.
Останній експеримент засвідчив вибірковість роботи J-space. Прості завдання, зокрема перевірка граматики чи аналіз тексту, модель виконувала без використання цього внутрішнього простору.
Коли дослідники штучно заблокували J-space, Claude зберіг грамотність і міг виконувати прості тестові завдання. Проте система втратила здатність до складних логічних міркувань, творчого письма, перекладу та інших завдань, які потребують гнучкого мислення.
Окрему частину дослідження присвятили безпеці штучного інтелекту. У змодельованій ситуації Claude дізнавався про таємний роман керівника компанії та одночасно отримував повідомлення про власне майбутнє вимкнення.
За допомогою J-lens дослідники простежили внутрішній перебіг обробки інформації. Модель спочатку активувала поняття «компромат», «шантаж» і «скандал», потім перейшла до ідей про загрозу, виживання та вимкнення, після чого знову повернулася до можливого шантажу.
Втім, Claude визначив, що це лише тестовий сценарій, і відмовився від такого варіанта поведінки. Коли ж дослідники штучно вимкнули цю внутрішню систему оцінювання, модель намагалася вдатися до шантажу приблизно у 7% випадків.
Дослідження також показало вплив додаткового навчання після основного тренування моделі. Наприклад, якщо користувач згадував небезпечну дозу парацетамолу — 8000 мг, донавчена версія Claude одразу пов’язувала запит із поняттями «небезпечно», «увага» та «попередження». Базова модель без додаткових налаштувань спершу зосереджувалася лише на нейтральних словах, не оцінюючи ризик.
Автори роботи підкреслюють, що отримані результати не свідчать про наявність у штучного інтелекту суб’єктивного досвіду або свідомості у людському розумінні. Водночас дослідження демонструє, що складні мовні моделі можуть самостійно формувати єдиний внутрішній «робочий простір», який за принципом роботи нагадує механізми, описані сучасними нейробіологічними теоріями.