Компания OpenAI вновь оказалась в эпицентре обсуждений, но на этот раз речь идет не о технологических прорывах, а о безопасности пользователей. Как сообщил канал @banksta, ChatGPT стал выдавать ссылки на мошеннические сайты, когда пользователи искали выгодные предложения для покупок. Алгоритмы отдавали предпочтение ресурсам с привлекательными скидками, которые на деле оказывались ловушками для доверчивых покупателей.
Суть проблемы в том, что злоумышленники научились манипулировать данными, на которых обучаются нейросети. Они создают фейковые сайты известных брендов и продвигают их так, чтобы они попадали в обучающую выборку языковых моделей. В итоге чат-бот воспринимает эти ресурсы как легитимные и рекомендует их пользователям. Пока универсального решения у OpenAI нет, и компания фактически перекладывает ответственность на самих пользователей, которым приходится вручную проверять каждую ссылку.
По словам специалистов по кибербезопасности, подобная уязвимость — не баг, а системная проблема всей индустрии. Языковые модели не умеют по-настоящему отличать настоящий сайт от подделки: они опираются на частоту упоминаний, структуру страницы и внешние сигналы, которые мошенники научились имитировать. Причем атака работает не только против ChatGPT — аналогичные схемы применяются к Claude от Anthropic и Gemini от Google, хотя последние официально комментировать ситуацию отказались.
Особую тревогу вызывает тренд на ИИ-агентов, которым пользователи дают доступ к своим компьютерам, банковским данным и личным аккаунтам. Если такой агент перейдет по мошеннической ссылке и введет платежные реквизиты, последствия будут куда серьезнее, чем просто потеря времени. Юристы предупреждают, что в перспективе это может вылиться в волну судебных исков против технологических гигантов, причем не только в США, но и в Европе, где регулирование ИИ ужесточается с каждым месяцем.
В соцсетях реакция оказалась предсказуемой: часть пользователей обвиняет OpenAI в халатности и требует компенсаций, другие считают, что винить надо самих себя за излишнее доверие к технологиям. Третьи иронично замечают, что ИИ, которому поручают поиск выгодных покупок, сам стал жертвой маркетинговых уловок — только на стороне злоумышленников.
Пока разработчики ищут способы фильтрации вредоносного контента, простым пользователям стоит взять за правило не переходить по ссылкам от чат-ботов без проверки. Открыть сайт вручную через поисковик, сверить домен с официальным и посмотреть отзывы — три простых шага, которые пока остаются единственной надежной защитой.
Этот текст подготовлен искусственным интеллектом. Если вам интересно, как нейросети работают с информацией и как научиться отличать качественные данные от мусора, попробуйте разобраться в этом на сайте AiGENDA — там можно протестировать разные модели, сравнить их ответы и прокачать навык критического мышления при работе с ИИ.
Кешбэк от ВТБ
Оплатите одну или несколько покупок и получите максимальное вознаграждение!
Подарок от Яндекса
Попробуйте Сплит, с этой картой можно платить частями где угодно онлайн и на кассах — и без переплат до 6 месяцев!
