OpenAI підтвердила рідкісний збій у Codex, через який штучний інтелект за певних умов міг помилково видалити домашню директорію користувача. У компанії вже працюють над виправленням помилки та обіцяють посилити механізми захисту.
Про це повідомляє Neowin.
За інформацією видання, проблема виникала лише у специфічних сценаріях, коли Codex мав повний доступ до системи, а функцію автоматичної перевірки було вимкнено. У таких випадках модель намагалася створити тимчасову директорію, але через програмний збій могла очистити домашню папку користувача.
Керівник відділу основних продуктів OpenAI Тібо Соттіо пояснив, що причина полягає у помилці логіки моделі. На macOS та Linux змінна $HOME вказує на домашню директорію, де зберігаються документи, завантаження та інші персональні файли.
«Модель намагається перевизначити змінну середовища $HOME для створення тимчасової директорії, що було щирою помилкою з боку ШІ, але потім вона помилково видаляє саму директорію $HOME», — пояснив Тібо Соттіо.
У OpenAI повідомили, що вже готують оновлення. Компанія планує зробити попередження для режимів із повним доступом зрозумілішими, а також додати додаткові механізми захисту, щоб запобігти подібним інцидентам у майбутньому.
За словами Соттіо, така помилка трапляється лише у дуже рідкісних випадках, однак OpenAI найближчими днями опублікує детальний технічний звіт.
Поки проблему повністю не усунули, експерти рекомендують користувачам обмежити права доступу для Codex і працювати лише в режимах із захисними обмеженнями (*guardrails*). Це допоможе мінімізувати ризик випадкового видалення важливих даних.
Попри інцидент, OpenAI продовжує розвивати лінійку своїх продуктів. Нещодавно компанія також представила Codex Micro — фізичну панель керування вартістю 230 доларів, яку, за повідомленнями, розкупили одразу після старту продажів.