Всё чаще владельцы сайтов пытаются защитить свои тексты от обучения искусственного интеллекта, и разработчики нашли необычный способ сделать кражу контента менее выгодной. Новый открытый проект ShieldFont не блокирует ИИ-ботов , а незаметно подсовывает им искажённую версию текста, которую человек никогда не увидит.
ShieldFont использует особенности шрифтов OpenType, превращая обычную страницу в своеобразную ловушку для парсеров . Посетитель читает оригинальный текст без каких-либо изменений, тогда как бот, анализирующий исходный HTML, получает предложения с подменёнными словами. Например, фраза «good luck reading this, you useless robot» может превратиться в «good comfort reading this, you yellow barrier». При этом замена выглядит достаточно правдоподобно, чтобы алгоритм не отбросил материал как бессмысленный.
Авторы проекта объясняют, что слова заменяются по строгим правилам. Существительные заменяются только существительными, глаголы – только глаголами, а внутри каждой части речи учитываются десятки дополнительных характеристик, включая смысловую категорию, число, конкретность, переходность и форму слова. Всего система использует около 250 лингвистических групп. В среднем изменения затрагивают примерно четверть слов, поэтому текст сохраняет внешнюю связность и одновременно ухудшает качество данных для обучения языковых моделей.
Механизм основан на технологии GSUB (Glyph Substitution), которая входит в стандарт OpenType и обычно применяется для лигатур или автоматической замены отдельных символов. ShieldFont расширяет принцип работы GSUB с отдельных букв до целых слов. В результате в HTML может находиться слово «journalist», тогда как браузер благодаря шрифту отображает пользователю слово «daughter». Для человека страница выглядит совершенно нормально, но парсер получает уже изменённый вариант.
Разработчики из амстердамской студии Seneda & Abrucio создали проект совместно с типографической компанией Playtype, модифицировав её шрифт Optik. Несмотря на объём словаря подстановок, веб-версия шрифта занимает около 800 КБ, а настольная версия – около 5 МБ. Проект распространяется с тремя готовыми словарями замен, однако пользователи могут создавать собственные варианты, чтобы усложнить обратный анализ.
Авторы не скрывают, что ShieldFont не способен остановить целенаправленную атаку. Если бот получает текст через OCR, анализирует изображение страницы вместо HTML или заранее скачает используемый шрифт и словарь замен, защита перестанет работать. Кроме того, технология может ухудшить SEO, поскольку поисковые системы тоже читают исходный HTML. Проблемы могут возникнуть и при копировании текста, автоматическом переводе страниц и работе некоторых программ экранного доступа.
Создатели ShieldFont называют проект не абсолютной защитой, а способом повысить стоимость массового сбора данных. По их замыслу, если достаточно много сайтов начнут применять подобный подход, разработчикам ИИ придётся отказаться от дешёвого автоматического сбора контента или договариваться с владельцами ресурсов на новых условиях.