Дослідник у галузі кібербезпеки Йоган Рейбергер виявив вразливість у ChatGPT, яка дозволяє зловмисникам впроваджувати неправдиву інформацію в пам’ять чат-бота за допомогою шкідливих запитів. Ця проблема може загрожувати конфіденційності даних користувачів. Про це пише Embrace The Red.
ChatGPT використовує довготривалу пам’ять для зберігання інформації про користувача, включаючи вік, стать та особисті переваги. Це спрощує спілкування, тому що чат-бот пам’ятає важливі дані з попередніх розмов. Однак зловмисники можуть використати спеціальні запити, щоб підмінити ці дані на хибні.
Дослідник продемонстрував, як через непрямі функції, наприклад, за допомогою документів чи посилань можна змусити штучний інтелект повірити, що користувач живе у «Матриці» чи вважає Землю пласкою. Всі наступні діалоги будуть базуватися на цих фальшивих даних. Особливо небезпечним стало використання зовнішніх файлових сховищ, приміром Google Диск або OneDrive.
У травні було виявлено цю проблему в OpenAI, але його звернення закрили, не надавши їй великого значення. Пізніше, надавши модель злому, він показав, як шкідливі посилання дозволяють хакеру отримати доступ до всього листування користувача, включаючи нові сеанси спілкування.
OpenAI частково усунула вразливість, але дослідник вважає, що ризик ін’єкцій через шкідливі запити все ще існує. Користувачам рекомендується стежити за часом додавання нової інформації на згадку про ІІ та перевіряти її на предмет неправдивих даних. OpenAI також випустила інструкцію з управління функцією пам’яті, щоб допомогти користувачам захистити свої дані.
Американська корпорація Google працює над технологією штучного інтелекту, яка зможе міркувати як людина. Про це пише Bloomberg. За даними…
З початком опалювального сезону в Україні багато сімей знову стикнуться з питанням сплати комунальних послуг,…
Єгипет збудує п'ять курортів на Червоному морі, щоб вирішити проблему припливу іноземної валюти і заразом досягти…
В Україні з 2025 року тариф на постачання газу застосовуватиметься повсюдно з урахуванням споживання газу…
Заступник міністра економіки Віталій Кіндратів заявив, що рішення щодо впровадження економічного бронювання в Україні прийнято.…
Як стало відомо, що думки щодо мобілізаційного віку значно розділяються, адже деякі посадовці, політики висловлюють думку про…