Google создала изолированный «интернет» для проверки ИИ-агентов

1 мин чтения
Изменить вопрос

Google создала изолированную веб-среду Mirror Dimension, чтобы проверять ИИ-агентов Chrome без риска для реальных сайтов и пользователей. Внутри есть имитации соцсетей, магазинов, банковских интерфейсов и атак через скрытые инструкции.

Схема информационных технологий на экране
Фото: 123456jandec / Wikimedia Commons, CC BY-SA 4.0

О новой тестовой среде сообщил публичный канал «Хабр Новости». Исследователи контролируют всю сеть и могут намеренно создавать сложные сценарии, которые опасно воспроизводить в открытом интернете.

Задача Mirror Dimension — понять, когда агент должен продолжить работу самостоятельно, а когда запросить подтверждение пользователя. Отдельно проверяется устойчивость к prompt injection — командам, спрятанным на веб-страницах.

Такой полигон не делает агента автоматически безопасным, но позволяет находить ошибки до публичного запуска. Российские сервисы тоже расширяют агентные интерфейсы: ранее «Яндекс 360» открыл доступ к MCP.

AiGENDA помогает понять, где заканчивается демонстрация ИИ и начинается проверенная безопасность