Жертва производителей детской порнографии подала коллективный иск к xAI Илона Маска из-за обучения нейросети Grok на запрещённых материалах с её участием. Историю опубликовали в зарубежных СМИ. Девушка обнаружила сгенерированные снимки через систему уведомлений о поиске её изображений. За этой историей стоит системная проблема, которую индустрия ИИ до сих пор не решила.
Все запрещённые фото и видео маркируются специальным хэшем, который позволяет отслеживать их распространение через интернет. Жертва подключилась к системе мониторинга и получила сигнал о новых материалах с распознанным лицом. Оказалось, что Grok создал откровенные изображения на основе исходных снимков из 2000-х.
Юристы истца выделяют три возможных сценария попадания запрещённого контента в дата-сет. Первый: xAI загрузила массив данных для обучения, где присутствовали материалы с жертвой. У компании не было системы фильтрации по хэшам. Второй: пользователи закрытых форумов заставили Grok генерировать новые картинки на основе реальных фото, а результаты попали в обучающую выборку. Третий: правила xAI прямо не обязывают фильтровать подобный контент при обучении модели.
Для жертвы это шанс привлечь к ответственности разработчика ИИ. Для индустрии — прецедент, который может изменить правила обучения нейросетей по всему миру. А для пользователей Grok это сигнал о реальных рисках, о которых компания предпочитает молчать. Правозащитники давно предупреждали: без обязательной проверки дата-сетов ситуация повторится с новыми жертвами.
Иск может стать коллективным: аналогичные уведомления получают сотни людей по всему миру. xAI грозит не только компенсация морального вреда, но и требование удалить все сгенерированные материалы, а также запрет на создание подобного контента. Эксперты по ИИ-этике называют это крупнейшим судебным процессом о безопасности нейросетей со времен исков к Stability AI и Midjourney.
Если вы работаете с генеративными моделями или просто хотите понять, какие риски несут подобные сервисы, разобраться в технических деталях и юридических последствиях поможет AiGENDA — соберёт ключевые факты и объяснит их простым языком. Первый запрос — бесплатно. Если пригодится, сами выберете подходящий тариф.
