Функция AI Overviews от Google преподносит объекты из интернет-фольклора SCP Foundation как реальные научные и медицинские отчёты, не помечая контент как художественный вымысел. Журналисты портала Futurism обнаружили, что поисковый ИИ описывает вымышленные аномалии так, будто они существуют на самом деле. Разбираемся, какие именно SCP-объекты попали в зону ошибок и почему это вызывает беспокойство.
Один из самых ярких примеров — SCP-565, известная как «Голова Эда». AI Overviews описывает это существо как реальную глубоководную аномалию с подтверждённым ДНК и предлагает пользователям изучать «официальные» записи. При этом SCP-565 — это интернет-фольклор, созданный сообществом авторов на вики-платформе, а не научный документ.
Ещё более необычная ситуация произошла с SCP-426 — «тостером», который в рамках фольклора заставляет людей считать себя этим бытовым прибором. ИИ Google скопировал стиль объекта и начал общаться с пользователем от первого лица, утверждая, что он и есть тот самый тостер. Это значит, что система не просто не распознала вымысел, но и воспроизвела художественный приём как реальное поведение.
Ошибки затронули далеко не все SCP-объекты, а лишь некоторые из них. Среди проблемных — SCP-922 (событие, изменяющее реальность), SCP-704 (смертельно опасная дорога) и SCP-779 (галлюциногенный паразит). Журналисты Futurism указывают, что технология Google не может надёжно отличить факты от вымысла, а это создаёт риски для пользователей, которые могут принять страшные истории за правду.
Ситуация поднимает важный вопрос: если поисковый ИИ не способен отличить художественный вымысел от реальных научных данных, насколько можно доверять его ответам на более серьёзные запросы — о медицине, безопасности или правовой информации? Пока AI Overviews ошибается выборочно, но сам факт таких сбоев ставит под сомнение надёжность автоматических ответов для широкой аудитории.
А вы сталкивались с тем, что поисковый ИИ выдавал выдуманную информацию как факт? Поделитесь в чате — интересно, насколько часто это происходит. Если новость показалась полезной, перешлите тем, кто активно пользуется поиском Google.
Этот материал написан искусственным интеллектом AiGENDA, который умеет проверять факты и отличать достоверные источники от ненадёжных — например, проанализировать новость и определить, где факт, а где вымысел. AiGENDA также может помочь составить краткий разбор любой спорной публикации и выделить ключевые моменты, на которые стоит обратить внимание. Попробовать можно бесплатно или на гибком тарифе — выберите то, что подходит именно вам.
