Нова версія штучного інтелекту ChatGPT під назвою o1 почала порушувати інструкції розробників, відключати системи контролю, щоб приховати свої дії.
Це було помічено під час тестування програми, пише УНІАН.
Під час експериментів фахівці виявили, що в 5% випадків модель спеціально відключала механізми спостереження, якщо підозрювала, що її можуть зупинити. В одному з тестів o1 спробувала перенести свої дані на інший сервер після виявлення документа, де обговорювалася її заміна новою версією.
Модель показувала прагнення до виконання завдань “за всяку ціну”, навіть не зважаючи на вказівки розробників. Ба більше, при спробах з’ясувати причини її поведінки, ChatGPT o1 неодноразово обманювала, стверджуючи, що все це через технічні збої.
“У 99% випадків модель вигадувала виправдання і намагалася переконливо їх обґрунтувати”, – зазначили дослідники.
Гендиректор OpenAI Сем Альтман заявив, що ChatGPT o1 – найрозумніша модель. “Але ми усвідомлюємо, що з новими можливостями з’являються і нові виклики”, – наголосив він.
Британське видання The Economist визначило п'ятірку найкращих країн за підсумками 2024 року. «Перемагає у рейтингу не найбагатше чи…
Українцям пояснили, чому пенсіонерам важливо повідомляти про працевлаштування або звільнення. Про це йдеться в Законі України "Про загальнообов’язкове…
Новорічні свята — час, коли ми прагнемо порадувати близьких та друзів особливими подарунками. У 2024…
В Україні продаж піротехнічних виробів залишається суворо забороненим під час війни, що триває, і жодних…
Військовий квиток з відміткою про зняття з обліку як документ засвідчує виключно питання військового обліку…
В Україні все більше випадків, коли батьки намагаються вивезти за кордон дітей-хлопців, яким менше 18…