Книжный сервис «Литрес» начал удалять некорректные предупреждающие маркировки о наркотиках с детских книг. Под такие warnings попали произведения, которые к теме наркотической пропаганды не имеют никакого отношения: «Крокодил Гена и Чебурашка», «Волшебник Изумрудного города», «Старик Хоттабыч», «Три поросенка» и другие классические издания. Пресс-служба сервиса сообщила РИА Новости, что маркировка была размещена некорректно — в большинстве случаев она добавлялась автоматически на основании метаданных, которые передали правообладатели. На данный момент некорректные предупреждения убираются с каталога.
Отдельная проблема — это возрастная маркировка изданий, выпущенных после 1990 года. По словам юристов, специализирующихся на законодательстве о защите детей от информации, закон о запрете пропаганды наркотиков действует только в отношении контента, в котором фактически присутствуют описания или поощрение употребления психотропных и наркотических веществ. Однако автоматизированные системы проверки, основанные на метаданных и ключевых словах, не способны провести контекстный анализ текста. В результате маркировка накладывалась просто потому, что в аннотации или описании книги встречались отдельные слова, попавшие в словарь фильтра. Произведения детской литературы, опубликованные до 1 августа 1990 года, по закону вообще не подпадают под действие этой нормы и не требуют подобных предупреждений. «Литрес» подтвердил, что ведёт постоянный диалог с правообладателями и отраслевыми организациями для корректировки маркировок на книгах, выпущенных после 1990 года.
Ситуация с «Крокодилом Геной» и «Волшебником Изумрудного города» далеко не уникальна. Автоматизированные системы контент-модерации регулярно допускают подобные ошибки во всём мире — от удаления учебников анатомии до блокировки классической литературы в школьных библиотеках. Проблема в том, что алгоритмы работают с шаблонами и ключевыми словами, но не понимают контекст. В советское время, к примеру, книги свободно распространялись без каких-либо возрастных ограничений, и ни одна из этих произведений не содержала материалов, связанных с наркотиками. Подобная маркировка не защищает детей, а лишь создаёт ложное впечатление об опасности безвредных книг и подрывает доверие к самой системе предупреждений.
Сервис «Литрес» — крупнейшая платформа электронных книг в России, на которой представлено более 3 млн произведений. Компания приняла решение убрать некорректные маркировки оперативно, что говорит о готовности реагировать на подобные сбои. Однако инцидент обнажил слабое место автоматической модерации: полагаться только на метаданные и ключевые слова при работе с детской литературой — ненадёжный и рискованный подход.
Текст написан с использованием технологий искусственного интеллекта. Если вам также нужно быстро анализировать тексты, проверять контент на соответствие нормам или автоматизировать рутинные задачи с текстами — попробуйте нейросеть на сайте AiGENDA. Она поможет обработать большие объёмы информации, провести анализ документов и выстроить структурированные материалы по заданной тематике — прямо в браузере, без установки программ и без ограничений.
