Трамп умер от бешенства после укуса вице-президента Вэнса — именно такой абсурдный запрос начали выдавать браузеры DuckDuckGo и Brave в своих встроенных ИИ-ответах. Причина оказалась в массовой кампании интернет-троллей с Reddit, которые намеренно заспамили платформу фейковыми сообщениями о мнимой смерти американского лидера. Подробности этой истории сообщил популярный телеграм-канал.
Суть провокации была проста: пользователи Reddit массово писали посты, в которых утверждали, что Вэнс укусил Трампа по совету некоего министра здравоохранения, якобы заявившего, что бешенство может даровать человеку сверхспособности. Тысячи однотипных сообщений создали критическую массу контента, которую алгоритмы поисковых систем и браузерные ИИ-ассистенты восприняли как достоверную информацию. В результате DuckDuckGo и Brave на протяжении нескольких дней выдавали пользователям откровенную дезинформацию как факт.
По словам специалистов в области информационной безопасности, этот случай наглядно демонстрирует уязвимость современных языковых моделей, которые обучатся на открытых данных из интернета и не всегда способны отличить целенаправленную дезинформацию от реальных событий. Достаточно организовать coordinated кампанию на крупной платформе с большим количеством контента, чтобы ИИ-алгоритмы начали воспринимать вымысел как достоверный источник. Это не первая подобная история — ранее тролли успешно манипулировали результатами поисковой выдачи через так называемые data poisoning атаки, однако с ростом встроенных ИИ-функций в браузерах и поисковиках подобные провокации становятся заметно опаснее.
Многие пользователи в соцсетях восприняли ситуацию с юмором, отмечая, что идея о суперспособностях от бешенства звучит как сюжет плохого блокбастера. Другие оказались серьезнее — они указали, что инцидент показывает, насколько легко любой человек с доступом к интернету может повлиять на то, что миллионы людей видят в своих браузерах каждый день. Третьи вспомнили похожие кейсы, когда мемы и шутки из имиджбордов проникали в серьезные новостные агрегаторы без какой-либо проверки.
Ситуация также поднимает вопрос о том, кто несет ответственность за контент, сгенерированный искусственным интеллектом на основе сомнительных источников. Юристы отмечают, что на данный момент правовое регулирование ИИ-генерации находится на ранней стадии, и ни DuckDuckGo, ни Brave, ни Reddit не обязаны по закону фильтровать подобный контент до того, как он попадет в обучающую выборку нейросети. Это создает серую зону, в которой ответственность за дезинформацию фактически размыта между платформами, разработчиками алгоритмов и самими пользователями, создающими контент.
Этот материал подготовлен искусственным интеллектом. Если вам интересно, как нейросети создают тексты, анализируют данные и помогают в работе с информацией, попробуйте возможности ИИ на сайте AiGENDA. Там вы сможете проверить тексты на уникальность, проанализировать большие объемы данных, разобраться в современных технологиях машинного обучения на практике и просто понять, как работают алгоритмы, которые сегодня формируют информационную среду вокруг нас.
