Фахівці Google виявили експериментальне шкідливе програмне забезпечення PROMPTFLUX, яке здатне змінювати власний код у режимі реального часу, використовуючи штучний інтелект. Такий підхід може зробити подібні віруси майже невловимими для антивірусних систем і ставить нові виклики для кібербезпеки.
Дослідники з підрозділу Google Threat Intelligence Group повідомили про нову родину шкідливого ПЗ, яке використовує великі мовні моделі (LLM), щоб залишатися непоміченим. PROMPTFLUX переписує свій код “на ходу”, змінюючи структуру та обхідні механізми щоразу, коли є ризик виявлення. Завдяки цьому він може адаптуватися до різних умов і систем захисту.
За словами Google, цей троян належить до так званого “just-in-time” підходу – він генерує шкідливі функції за потреби, а не зберігає їх у коді заздалегідь. PROMPTFLUX взаємодіє з API штучного інтелекту Gemini, отримуючи від нього поради, як самому безпечніше модифікуватися.
Експерти вважають, що вірус перебуває на стадії тестування – у коді залишились коментарі, незавершені функції та обмеження на кількість запитів до API. Google вже деактивувала інфраструктуру, пов’язану з цим експериментом.
Втім, загроза не вигадана: PROMPTFLUX пов’язують із кіберзлочинцями, які переслідують фінансові цілі. Аналіз Google також показав зростання чорного ринку нелегальних інструментів зі штучним інтелектом, які дозволяють навіть недосвідченим зловмисникам створювати свої віруси.
Існує також модифікація PromptSteal. Це програма застосовується для викрадення даних і використовує LLM Qwen2.5-Coder-32B-Instruct для отримання інформації та файлів.
Крім фінансових груп, зловживання ШІ фіксується і серед державних хакерських структур. Google повідомила, що групи з Північної Кореї, Ірану, Китаю та Росії вже експериментують із використанням генеративного ШІ у власних кіберопераціях.
Як повідомляє видання dev.ua, росіяни вже могли застосовувати цей вірус в атак проти України. Річ у тім, що він містить шкідливий софт LAMEHUG, який використовував LLM Qwen 2.5-Coder-32B-Instruct для викрадення даних.
Водночас технологію ШІ можна застосовувати і для захисту. Нещодавно Google представила агента під назвою Big Sleep, створеного для виявлення вразливостей у програмному забезпеченні. Таким чином, у світі безпеки розгортається нове протистояння – коли штучний інтелект бореться з іншим штучним інтелектом.