Девушка, ставшая жертвой распространения порнографического контента с её участием, подала иск к компании xAI Илона Маска. Подробности опубликовали в открытом доступе. По её словам, материалы с ней попали в датасет для обучения нейросети Grok, хотя xAI располагала инструментами для их выявления и удаления по специальным цифровым меткам. Цена такой халатности — травма на всю жизнь.
После инцидента Grok начал генерировать новые изображения пострадавшей без её согласия. Пользователи даркнета нашли способы обходить встроенные ограничения нейросети и создавать дополнительный контент. Масштаб проблемы вышел за пределы исходной базы данных — система сама стала производить запрещённый контент.
Юристы в области цифрового права отмечают: индустрия ИИ десятилетиями использовала массивы данных из открытых источников без проверки происхождения. Технологии хеширования для маркировки нелегального контента существуют с 2008 года, когда Microsoft разработала PhotoDNA. Крупные платформы применяют такие инструменты на входе. Защитники жертв задаются вопросом: почему разработчик Grok этого не сделал.
В иске пострадавшая требует запретить подобные операции и выплатить компенсации всем жертвам. Прецедент в деле Meta* 2023 года, когда пользовательницы добились компенсаций за генерацию deepfake через сервис «Make-A-Video», показал: суды готовы взыскивать ущерб с разработчиков моделей. Текущий иск может стать первым делом, где ответчиком выступает xAI.
При этом для рынка генеративного ИИ в США это сигнал к пересмотру всех датасетов. Компании, обучающие модели на открытых данных, обязаны внедрить фильтрацию по хеш-меткам до запуска продукта. Без этого рискует каждый разработчик, работающий с изображениями. Юристы прогнозируют волну аналогичных исков в течение ближайших 6 месяцев.
Если вы до сих пор не уверены, как защитить свои данные от попадания в датасеты нейросетей и что делать при обнаружении сгенерированного контента с вашим участием, разобраться в юридических механизмах поможет искусственный интеллект AiGENDA — найдёт релевантные прецеденты и объяснит порядок действий человеческим языком. Первый запрос — бесплатно. Если пригодится, сами выберете условия.
* — Meta (Instagram, Facebook, WhatsApp) признана в РФ экстремистской организацией и запрещена.
