Дослідники перевірили, як ChatGPT реагує на запити про отрути та біологічну зброю, і виявили, що в окремих випадках чат-бот міг надавати надто детальні відповіді. Експерти проаналізували такі випадки та оцінили ризики використання штучного інтелекту з небезпечними цілями.
Про це пише The Wall Street Journal.
За даними OpenAI, частина небезпечних запитів була не тестуванням системи, а реальними спробами користувачів отримати шкідливу інформацію. Більшість таких звернень стосувалася виготовлення отруйних речовин.
Після виявлення цих випадків листування передали на аналіз ученим та фахівцям із протидії біологічному тероризму.
Під час перевірки експерти встановили, що деякі відповіді чат-бота були надто точними, викладалися зрозумілою мовою та мали форму покрокових пояснень. Саме це викликало занепокоєння фахівців.
Усі користувачі, які надсилали небезпечні запити, були заблоковані. У компанії заявили, що системи захисту розроблені для відхилення шкідливих звернень, а нові версії моделей проходять додаткові перевірки безпеки.
В OpenAI також зазначили, що можуть виявляти загрози та передавати інформацію правоохоронним органам у випадках реальної небезпеки.
Експерти попереджають, що розвиток штучного інтелекту та поява моделей без обмежень створюють нові ризики. Зловмисники можуть намагатися обходити системи захисту, щоб отримати доступ до небезпечної інформації.
Через це дослідники працюють не лише над розвитком нейромереж, а й над створенням нових способів захисту від можливого зловживання технологіями.