Платформа Mixfont представила експериментальний Ghost Font — систему, яка дозволяє людині читати текст, але ускладнює його розпізнавання сучасними моделями штучного інтелекту. Секрет полягає в тому, що повідомлення проявляється лише під час руху, а на окремому кадрі символів не видно.
Про це повідомляє Mixfont.
Ghost Font не є звичайним шрифтом у форматі TTF. Це експериментальна система візуальної комунікації, де літери формуються рухом окремих точок. Під час відтворення відео людське око легко розпізнає текст, але якщо поставити ролик на паузу, символи зливаються з фоном.
Розробники протестували технологію на мультимодальних моделях Claude Fable та GPT Sol 5.6 Ultra. Під час випробувань моделі не змогли правильно розшифрувати приховані повідомлення, доки їм не пояснили спосіб аналізу руху.
Додатково автори використали повідомлення-приманку. Якщо модель намагається знайти прихований текст, вона спершу виявляє саме його й сприймає за справжнє повідомлення, тоді як основний текст залишається нерозпізнаним.
У Mixfont порівняли нову розробку зі шрифтом ZXX, який дизайнер Санг Мун створив ще у 2013 році для захисту від систем оптичного розпізнавання символів (OCR). Однак сучасні моделі штучного інтелекту вже без проблем читають текст, написаний ZXX, тоді як Ghost Font приховує повідомлення саме в русі, тому навіть скриншот відео не дає змоги його побачити.
Водночас розробники наголошують, що Ghost Font не замінює шифрування й не є повноцінним способом захисту інформації. За їхніми словами, проєкт створили насамперед для дослідження можливостей сучасного комп’ютерного зору та мультимодальних моделей.
У майбутньому технологію пропонують випробувати в системах CAPTCHA, які дедалі частіше успішно обходить штучний інтелект. Використання руху замість статичних символів може зробити автоматичне розпізнавання значно складнішим.
У Mixfont також припускають, що Ghost Font стане інструментом для оцінювання розвитку мультимодальних моделей. Водночас вони визнають: коли ШІ навчиться аналізувати відеопотік безпосередньо, а не як набір окремих кадрів, перевага цієї технології може зникнути.