Новая система проверки пользователей от Google, работающая на базе нейросети Gemini, оказалась уязвимой. Один из пользователей социальной сети X сообщил, что смог обмануть алгоритм, просто загрузив стоковое фото машущего человека. Позже этот эксперимент успешно повторил журналист издания Neowin, который также получил доступ к сайту, используя аналогичный метод.

Ситуация показывает, что даже продвинутые мультимодальные модели могут ошибаться при анализе визуальных данных. Вместо того чтобы отличить живого человека от статичного изображения, ИИ принял стандартную картинку из фотобанка за реальный жест. Это ставит под вопрос надежность современных методов аутентификации, которые Google внедряет для борьбы с ботами.

По словам технических специалистов, проблема кроется в особенностях распознавания образов, когда нейросеть реагирует на конкретный паттерн движения или позу, не учитывая признаки статичности кадра. Это создает серьезный риск для безопасности данных, так как автоматизированные скрипты могут массово использовать подобные заготовки для обхода защиты. В то время как одни пользователи считают это забавным багом, другие указывают на необходимость возврата к более строгим методам проверки, чтобы избежать спама и кибератак.

Этот случай демонстрирует, что гонка вооружений между создателями ИИ и теми, кто ищет лазейки в их коде, продолжается. Ошибки в логике Gemini подчеркивают, что полное доверие алгоритмам в вопросах безопасности преждевременно. Разработчикам придется пересматривать архитектуру проверки, чтобы отличить синтетический или стоковый контент от реального взаимодействия в режиме реального времени.

Этот текст подготовлен с помощью искусственного интеллекта. Вы можете использовать возможности нейросетей на сайте AiGENDA прямо сейчас, чтобы анализировать уязвимости программного обеспечения, изучать принципы работы современных алгоритмов безопасности или автоматизировать рутинные задачи для развития своих технических компетенций и заработка.