Нейросеть устроила потоп в торговом центре, потому что система пожарного контроля приняла изображение огня на рекламном экране за реальное возгорание. Автоматика включила тушение, и вода залила часть помещений.

Москва 24 показала последствия срабатывания системы: посетители сняли воду, которая пошла после ошибочного распознавания изображения. По данным издания, инцидент произошёл в китайском торговом центре.
Случай показывает уязвимость автоматизации, когда визуальная модель принимает решение без дополнительной проверки датчиками. Для обычного посетителя практический вывод простой: при неожиданном срабатывании автоматики нужно следовать указаниям персонала, а не пытаться самостоятельно оценить источник тревоги. Похожий принцип проверки важен и при подозрительном видеозвонке с дипфейком.
Спросите AiGENDA, как отличить полезную автоматизацию от опасной ошибки распознавания
