Крупные разработчики нейросетей начнут внедрять невидимые водяные знаки в генерируемый текст для идентификации синтетического контента. Anthropic обновила справочные данные о способах маркировки для модели Claude. Технология позволит распознать искусственный текст даже после копирования или правок, так как знаки внедряются непосредственно на уровне языковой модели.
Новые правила продиктованы требованиями статьи 50 европейского AI Act. Согласно европейскому закону, поставщики нейросетей обязаны обеспечивать машиночитаемое подтверждение синтетического происхождения контента. Это необходимо для борьбы с дипфейками и бесконтрольным распространением сгенерированного шума. За нарушение данных норм компаниям грозит штраф в размере до 15 миллионов евро или 3% от их мирового оборота.
Как именно работают такие метки — вопрос, на который пока нет универсального ответа. Технология Google SynthID использует определенные словосочетания, которые считываются алгоритмами, но остаются незаметными для глаза человека. При этом ни у одного из лидеров рынка сейчас нет доступного публичного детектора для проверки текстовых генераций. Сторонние сервисы часто ошибаются: например, недавний тест нейросети Gemini показал результат о создании текста человеком с уверенностью 68%.
Процесс маркировки разделен на две категории: для создателей моделей и для тех, кто использует их готовые продукты. Под кодекс добровольно подписались около 190 организаций, среди которых Google, Microsoft и OpenAI. Однако многие платформы пока не спешат добавлять видимые плашки с пометкой ИИ у себя в интерфейсах. Китайские и российские компании в списках участников европейских инициатив на данный момент не значатся.
Внедрение вотермарок изменит принципы работы поисковых систем и социальных сетей. Для таких гигантов, как Google, это станет инструментом очистки выдачи от информационного шума, созданного ботами. В социальной сети X уже внедрена автоматическая пометка Made with AI, а в LinkedIn появилась функция оценки качества контента. Это поможет отличать реальный человеческий опыт от автоматизированных текстов.
Когда новые правила вступят в силу и кого затронут — вопрос, который обычно тонет в юридическом языке. AiGENDA разберет документ и переведет важные пункты на простой язык. Попробуйте бесплатно.
* — Meta (Instagram, Facebook, WhatsApp) признана в РФ экстремистской организацией и запрещена.
