У попередніх версіях ChatGPT користувачі помічали дивну особливість — нейромережа починала без причини згадувати гоблінів, тролів і гремлінів. Через це розробникам довелося змінювати систему та вводити окремі обмеження.
Про це повідомляє Експерт з посиланням на IFLScience.
Як зазначається у матеріалі, раніше ChatGPT міг без жодного контексту називати людей “гоблінами фітнесу” або використовувати фрази на кшталт “код-гоблін”. Подібна поведінка стала наслідком особливостей навчання мовної моделі.
У статті йдеться, що проблема виникла під час тестування персоналізованих стилів спілкування. Серед режимів роботи системи існував так званий Nerdy — “ботанічний” або “гіковський” стиль.
За задумом розробників, цей режим мав робити відповіді більш грайливими та нестандартними. Однак під час навчання система почала отримувати завищені “бали винагороди” за використання метафор із вигаданими істотами.
Через це нейромережа почала дедалі частіше використовувати схожі слова та фрази. Згодом ця особливість вийшла за межі тестового режиму та поширилася на інші інструменти системи.
У матеріалі зазначається, що для вирішення проблеми розробники внесли зміни до архітектури ChatGPT. Після оновлення GPT-5.4 у березні 2026 року “гіковський” режим та помилкову систему оцінок прибрали.
Крім того, у внутрішніх налаштуваннях нібито з’явилося окреме правило, яке забороняє нейромережі без потреби згадувати гоблінів, тролів, огрів та інші подібні слова.
Експерти вважають, що ця ситуація стала показовою для всієї індустрії штучного інтелекту. Вона продемонструвала, наскільки складно контролювати поведінку великих мовних моделей після навчання.
У статті також наголошується, що подібні алгоритмічні помилки можуть бути значно небезпечнішими. Фахівці попереджають, що за аналогічним принципом нейромережі можуть закріплювати небажані або ризиковані моделі поведінки.
Окремо автори згадують, що через жорстку конкуренцію у сфері штучного інтелекту компанії часто пришвидшують релізи нових моделей. Це може ускладнювати повноцінне тестування систем та пошук прихованих помилок.