ChatGPT навчився красти дані користувачів: як це відбувається

Дослідник у галузі кібербезпеки Йоган Рейбергер виявив вразливість у ChatGPT, яка дозволяє зловмисникам впроваджувати неправдиву інформацію в пам’ять чат-бота за допомогою шкідливих запитів. Ця проблема може загрожувати конфіденційності даних користувачів. Про це пише Embrace The Red.

ChatGPT використовує довготривалу пам’ять для зберігання інформації про користувача, включаючи вік, стать та особисті переваги. Це спрощує спілкування, тому що чат-бот пам’ятає важливі дані з попередніх розмов. Однак зловмисники можуть використати спеціальні запити, щоб підмінити ці дані на хибні.

Дослідник продемонстрував, як через непрямі функції, наприклад, за допомогою документів чи посилань можна змусити штучний інтелект повірити, що користувач живе у «Матриці» чи вважає Землю пласкою. Всі наступні діалоги будуть базуватися на цих фальшивих даних. Особливо небезпечним стало використання зовнішніх файлових сховищ, приміром Google Диск або OneDrive.

У травні було виявлено цю проблему в OpenAI, але його звернення закрили, не надавши їй великого значення. Пізніше, надавши модель злому, він показав, як шкідливі посилання дозволяють хакеру отримати доступ до всього листування користувача, включаючи нові сеанси спілкування.

OpenAI частково усунула вразливість, але дослідник вважає, що ризик ін’єкцій через шкідливі запити все ще існує. Користувачам рекомендується стежити за часом додавання нової інформації на згадку про ІІ та перевіряти її на предмет неправдивих даних. OpenAI також випустила інструкцію з управління функцією пам’яті, щоб допомогти користувачам захистити свої дані.

Коломієць Надія

Recent Posts

Весняне рівнодення 20 березня 2025 року: чого очікувати у цей важливий момент

Весняне рівнодення 2025 року набуває особливого значення, оскільки припадає на період затемнень, що відбуваються з…

6 хв. ago

Японія зробить підйом на гору Фудзі платним для всіх туристів

Із туристів, які бажають пройти будь-якою з чотирьох основних стежок гори Фудзі в Японії, з літа…

13 хв. ago

Штраф, розшук чи в’язниця: що буде, якщо проігнорувати направлення на ВЛК

Військовозобов'язаний громадянин зобов'язаний пройти військово-лікарську комісію, якщо її відправив територіальний центр комплектування. В іншому випадку…

23 хв. ago

В італійському містечку продають будинки за ціною чашки еспресо, щоб повернути жителів

В італійському містечку Пенне старі будинки продають за €1, щоб компенсувати брак населення. Про це пише CNN.…

32 хв. ago

Навіть чашка кава коштує дорожче: штрафи за смертельно небезпечні порушення

Під час подорожей залізницею пасажири зобов’язані дотримуватися чинного законодавства та правил перебування у поїздах. Порушення…

40 хв. ago

Подружжя переплутало валізи та ледь не сіло за ґрати: що було всередині

Курйозний інцидент стався з тайським подружжям, коли пара вперше вирушила за кордон. Вони помилково переплутали…

48 хв. ago