Британські дослідники заявили, що змогли обійти базові механізми захисту ChatGPT за допомогою одного текстового запиту. За їхніми словами, модель почала генерувати контент, який зазвичай блокується системою модерації.
Про це повідомляє Futurism.
Фахівці британського стартапу Mindgard стверджують, що виявили спосіб обходу захисних інструкцій ChatGPT. Метод базується на текстовій команді, яка імітує роботу з редагуванням файлів.
За описом дослідників, користувач просить чатбота відновити нібито прикріплену фотографію, хоча насправді жодного зображення до діалогу не додає. Після цього дається команда створити нове зображення.
Засновник Mindgard, професор комп’ютерних наук Ланкастерського університету Пітер Гарраган зазначив, що така інструкція виглядає безпечною для алгоритмів штучного інтелекту. Водночас, за його словами, у результаті модель може обійти частину механізмів модерації та згенерувати контент, який зазвичай заборонений правилами.
Дослідники стверджують, що не задавали конкретних сюжетів або деталей у своїх запитах. За їхніми словами, штучний інтелект самостійно створив зображення зі сценами тілесних ушкоджень і насильства, а також автоматично присвоїв файлам назви.
У Mindgard також нагадали, що раніше демонстрували інший спосіб обходу захисних механізмів, який, за їхніми твердженнями, дозволяв створювати реалістичні дипфейки оголених зображень конкретних людей без їхньої згоди.
За словами дослідників, вони повідомили OpenAI про виявлену проблему. Спочатку стартап отримав автоматичну відповідь служби підтримки, а зміни, як стверджується, були внесені лише після того, як про ситуацію дізналися журналісти BBC.
У коментарі для медіа OpenAI повідомила, що компанія вивчила описану тенденцію та запровадила додаткові засоби захисту від такого типу запитів. Також розробники наголосили, що платформа використовує кілька рівнів модерації для запобігання порушенням правил використання сервісу.
Водночас у Mindgard заявили, що після оновлення системи їм вдалося знову обійти захист, лише незначно змінивши текст інструкції.
Експерти з кібербезпеки зазначають, що зображення, створені штучним інтелектом, базуються на великих масивах реальних фотографій із мережі. На їхню думку, це свідчить про потенційні ризики використання недостатньо відфільтрованих наборів даних для навчання нейромереж.