OpenAI розв’язала руки ChatGPT, даючи змогу генерувати еротику та інший NSFW-контент

Компанія OpenAI опублікувала нову версію Model Spec – 187-сторінкового документа, в якому описується, як ChatGPT повинен поводитися і реагувати на запити користувачів, пише видання Ars Technica.

Нова політика послаблює обмеження на генерацію деяких типів “чутливого контенту”, включно з еротикою та кривавими сценами. Ці зміни готувалися з травня 2024 року, коли в первісному документі Model Spec уперше згадувалося, що OpenAI вивчає, “чи можемо ми відповідально надавати можливість генерувати NSFW-контент у відповідному віковому контексті через API і ChatGPT”.

Поки що експерименти користувачів Reddit показали, що фільтри вмісту ChatGPT і справді були ослаблені – деякі з них змогли генерувати відверто “сексуальні чи насильницькі сценарії” без супутніх попереджень про вміст.

Також у мережі помітили, що OpenAI скоротила “цензуру” в суперечливих питаннях, дозволяючи ChatGPT обговорювати раніше заборонені теми. Нова політика заснована на принципі “пошуку істини разом”, незалежно від складності або спірності питань.

Раніше було відомо, що ChatGPT обмежував свої можливості через так звану політику патерналізму в галузі ШІ, яка описується як “знання того, що краще для користувача”. Компанія переглядає свій підхід, орієнтуючись на “інтелектуальну свободу” та відкриті дискусії.

Зміни відбуваються на тлі широкої дискусії у сфері ШІ щодо ролі модерації контенту та свободи слова, яка розпочалася після обрання Дональда Трампа президентом США. Так, у США просять Європу “зменшити оберти” в регулюванні штучного інтелекту, тим часом крупні технологічні компанії переглядають свої підходи до модерації контенту в бік більшої відкритості.

Генеральний директор OpenAI Сем Альтман також натякав, що OpenAI може перейти до опенсорсу. Творець ChatGPT зізнався, що вони “опинилися на неправильному боці історії щодо відкритого вихідного коду”.