Невидимые водяные знаки в текстовых ответах Claude можно легко удалить с помощью простой постобработки. Основатель университета «Зарокодер» Кирилл Пшинкин подтвердил это в эфире программы «Большой Ньюзток» на канале RTVI. Меры компании Anthropic по маркировке контента в соответствии с европейским законом об искусственном интеллекте выглядят формальными из-за уязвимости алгоритмов.

Как отличить текст нейросети от человеческого? Технологии идентификации сталкиваются с парадоксом, так как языковые модели обучаются на человеческих текстах для достижения максимального сходства. Кирилл Пшинкин сравнивает эту проблему с вопросом о курице и яйце. Любая попытка внедрить невидимую цифровую подпись нарушается, если изменить структуру данных.
Как удалить водяные знаки из текста ИИ? Для этого достаточно использовать небольшую локальную модель, которая заменит часть токенов в оригинальном сообщении. После такой замены цифровая подпись Anthropic разрушается и не поддается обнаружению. Визуально или структурно подход компании не меняет, что делает его незаметным для пользователя, но крайне уязвимым для программ.
Разработчики внедряют невидимые метки в тексты и изображения Claude, чтобы соблюдать новые правила Евросоюза. Однако эффективность таких мер остается под вопросом из-за простоты обхода. Если алгоритм маркировки станет общеизвестным, подделать авторство сможет любое специализированное программное обеспечение. Это ставит под сомнение возможность точной верификации контента в будущем.
Подобная уязвимость означает, что цифровые метки не станут надежным инструментом контроля качества и авторства. Масштабное использование локальных моделей для очистки текстов сделает правила ЕС трудновыполнимыми для разработчиков. Это может замедлить внедрение жестких стандартов прозрачности в индустрии больших языковых моделей.
Интересуетесь технологиями и хотите знать больше о будущем ИИ? AiGENDA соберёт актуальные новости индустрии, сравнит возможности различных нейросетей и подскажет наиболее перспективные инструменты для работы. Попробуйте бесплатно.