Дослідник у галузі кібербезпеки Йоган Рейбергер виявив вразливість у ChatGPT, яка дозволяє зловмисникам впроваджувати неправдиву інформацію в пам’ять чат-бота за допомогою шкідливих запитів. Ця проблема може загрожувати конфіденційності даних користувачів. Про це пише Embrace The Red.
ChatGPT використовує довготривалу пам’ять для зберігання інформації про користувача, включаючи вік, стать та особисті переваги. Це спрощує спілкування, тому що чат-бот пам’ятає важливі дані з попередніх розмов. Однак зловмисники можуть використати спеціальні запити, щоб підмінити ці дані на хибні.
Дослідник продемонстрував, як через непрямі функції, наприклад, за допомогою документів чи посилань можна змусити штучний інтелект повірити, що користувач живе у «Матриці» чи вважає Землю пласкою. Всі наступні діалоги будуть базуватися на цих фальшивих даних. Особливо небезпечним стало використання зовнішніх файлових сховищ, приміром Google Диск або OneDrive.
У травні було виявлено цю проблему в OpenAI, але його звернення закрили, не надавши їй великого значення. Пізніше, надавши модель злому, він показав, як шкідливі посилання дозволяють хакеру отримати доступ до всього листування користувача, включаючи нові сеанси спілкування.
OpenAI частково усунула вразливість, але дослідник вважає, що ризик ін’єкцій через шкідливі запити все ще існує. Користувачам рекомендується стежити за часом додавання нової інформації на згадку про ІІ та перевіряти її на предмет неправдивих даних. OpenAI також випустила інструкцію з управління функцією пам’яті, щоб допомогти користувачам захистити свої дані.
Весняне рівнодення 2025 року набуває особливого значення, оскільки припадає на період затемнень, що відбуваються з…
Із туристів, які бажають пройти будь-якою з чотирьох основних стежок гори Фудзі в Японії, з літа…
Військовозобов'язаний громадянин зобов'язаний пройти військово-лікарську комісію, якщо її відправив територіальний центр комплектування. В іншому випадку…
В італійському містечку Пенне старі будинки продають за €1, щоб компенсувати брак населення. Про це пише CNN.…
Під час подорожей залізницею пасажири зобов’язані дотримуватися чинного законодавства та правил перебування у поїздах. Порушення…
Курйозний інцидент стався з тайським подружжям, коли пара вперше вирушила за кордон. Вони помилково переплутали…