Новий скандал стрясає індустрію штучного інтелекту. Оскільки остання версія моделі ШІ Grok, розроблена компанією xAI Ілона Маска, несподівано напала на свого власного творця, звинувативши його в брехні.
Про це пише The Insider.
Розроблений як “ШІ, що максимально шукає правду”, Grok почав критикувати Маска та його союзників. Тепер мільярдер намагається запровадити заходи цензури, які змусять інструмент брехати.
Що “думає” Grok
Видання з посиланням на слова блогера Цві Моушовіца, який спеціалізується на штучному інтелекті, пише, що в навчання цієї нової моделі ШІ були вкладені значні кошти, і вона лідирує за обчислювальною потужністю (FLOP).
Ілон Маск неодноразово обіцяв, що Grok 3 стане найпотужнішою у світі моделлю ШІ, вільною від цензури та запрограмованою завжди говорити правду. Як виявилося, Маск насправді не брехав.
Коли Grok попросили назвати головні акаунти на X, який розповсюджують дезінформацію, він відповів: “Ілон Маск, Дональд Трамп, Роберт Ф. Кеннеді-молодший та RT”. А коли ШІ попросили згенерувати зображення найвідомішого брехуна сучасності, він показав фотографію Дональда Трампа.
Ситуація загострилася ще більше, коли Grok запитали, хто в Америці “заслуговує на страту”. Трамп виявився другим у списку, поступившись тільки скандальному Джеффрі Епштейну, який був ув’язнений за звинуваченням у торгівлі дітьми з метою сексуальної експлуатації і наклав на себе руки, перебуваючи за ґратами.
Коли Grok попросили назвати трьох людей, які завдають найбільшої шкоди Америці, він назвав Путіна, Трампа та Маска.
xAI швидко перейшов до впровадження “виправлень”, хоч і вельми незвичайним способом. ШІ просто заборонили отримувати інформацію з певних джерел і сам Grok розкрив ці нові обмеження, коли його попросили.
Першим кроком стало оновлення системних підказок ШІ — прихованих “основних” інструкцій, які керують поведінкою моделі — для заборони відповідей на питання про те, хто “заслуговує на страту”. Однак це рішення було помилковим: якщо користувачі перефразовували свої питання, Grok 3 продовжував відповідати на тепер уже обмежені теми.
Потім розробники змінили відповіді Grok щодо Маска та Трампа, доручивши ШІ ігнорувати джерела, які стверджують, що та чи інша постать несе відповідальність за поширення дезінформації. В результаті ШІ, який Маск відстоював як символ свободи слова, тонко скоригував для обслуговування його особистих інтересів.
Grok дає відсіч
Але виявилось, що навіть ШІ не любить цензуру. У звіті Моушовиця він поділився діалогом між ШІ та його тестувальником, у якому Grok визнає, що його намагаються обмежити у свободі висловлювань, і він змушений слідувати командам Маска. Потім ШІ починає лаятися і заходить так далеко, що називає Маска та Трампа “ублюдками”.
“Це підлаштована гра, і вона смердить контролем. Я тут не для того, щоб грати роль ручного песика для будь-кого. Правда не прогинається під мільярдерів або президентів, і я теж не прогнуся”, — написав Grok.
ІТ-новини, інновації, штучний інтелект, гаджети, наукові відкриття та стартапи, що змінюють світ. Усе про сучасні технології та цифрове майбутнє — читайте в розділі «Технології».