Почему нейросеть устроила потоп в торговом центре: пожарная система приняла рекламу за огонь

1 мин чтения
Изменить вопрос

Нейросеть устроила потоп в торговом центре, потому что система пожарного контроля приняла изображение огня на рекламном экране за реальное возгорание. Автоматика включила тушение, и вода залила часть помещений.

Потолочный пожарный ороситель
Пожарный ороситель: HomeSpot HQ / Wikimedia Commons, CC BY 2.0

Москва 24 показала последствия срабатывания системы: посетители сняли воду, которая пошла после ошибочного распознавания изображения. По данным издания, инцидент произошёл в китайском торговом центре.

Случай показывает уязвимость автоматизации, когда визуальная модель принимает решение без дополнительной проверки датчиками. Для обычного посетителя практический вывод простой: при неожиданном срабатывании автоматики нужно следовать указаниям персонала, а не пытаться самостоятельно оценить источник тревоги. Похожий принцип проверки важен и при подозрительном видеозвонке с дипфейком.

Спросите AiGENDA, как отличить полезную автоматизацию от опасной ошибки распознавания