ChatGPT навчився красти дані користувачів: як це відбувається

Дослідник у галузі кібербезпеки Йоган Рейбергер виявив вразливість у ChatGPT, яка дозволяє зловмисникам впроваджувати неправдиву інформацію в пам’ять чат-бота за допомогою шкідливих запитів. Ця проблема може загрожувати конфіденційності даних користувачів. Про це пише Embrace The Red.

ChatGPT використовує довготривалу пам’ять для зберігання інформації про користувача, включаючи вік, стать та особисті переваги. Це спрощує спілкування, тому що чат-бот пам’ятає важливі дані з попередніх розмов. Однак зловмисники можуть використати спеціальні запити, щоб підмінити ці дані на хибні.

Дослідник продемонстрував, як через непрямі функції, наприклад, за допомогою документів чи посилань можна змусити штучний інтелект повірити, що користувач живе у «Матриці» чи вважає Землю пласкою. Всі наступні діалоги будуть базуватися на цих фальшивих даних. Особливо небезпечним стало використання зовнішніх файлових сховищ, приміром Google Диск або OneDrive.

У травні було виявлено цю проблему в OpenAI, але його звернення закрили, не надавши їй великого значення. Пізніше, надавши модель злому, він показав, як шкідливі посилання дозволяють хакеру отримати доступ до всього листування користувача, включаючи нові сеанси спілкування.

OpenAI частково усунула вразливість, але дослідник вважає, що ризик ін’єкцій через шкідливі запити все ще існує. Користувачам рекомендується стежити за часом додавання нової інформації на згадку про ІІ та перевіряти її на предмет неправдивих даних. OpenAI також випустила інструкцію з управління функцією пам’яті, щоб допомогти користувачам захистити свої дані.

Коломієць Надія

Recent Posts

Тривалість статевого акту: скільки хвилин вважається нормою

Питання тривалості статевого акту хвилює багатьох людей, але часто оточене міфами та нереалістичними очікуваннями. Скільки…

3 години ago

Дієта папуасів викликала фурор: спалює жир і знижує холестерин

Пишні тропічні ліси, гірська місцевість і вулкани - це те, що спадає на думку, коли…

3 години ago

Топ хвороб, з якими не мобілізує ТЦК

Закон про скасування статусу "обмежено придатний" набув чинності 4 травня 2024 року. Тепер чоловіки від…

3 години ago

Ощадбанк “поклав око” на пенсії українців: позбавить грошей з картки і поверне ПФУ

В Україні діють нові правила для пенсіонерів, рахунки яких зберігаються в Ощадбанку, що дозволяють повертати…

4 години ago

Бусифікації – не буде? Рада запроваджує кримінальну відповідальність для ТЦК і ВЛК

Джерелом поширення цієї інформації став нардеп Павло Фролов, він є головою Спеціальної парламентської комісії з питань…

4 години ago

У Бразилії виявили новий вид коронавірусу у кажанів: вчені відповіли, чи загрожує він людям

У Бразилії виявили новий вид коронавірусу у кажанів, який подібний на смертельний вірус Мерс, однак його ризик…

4 години ago