Google запустила ИИ-генерацию карт, но уже через сутки отключила её после того, как пользователи начали создавать фейковые спутниковые снимки с ядерными взрывами и атаками на военную инфраструктуру. Компания временно отключила функцию до внедрения более надёжных защитных механизмов. Канал НМШ поделился информацией о случившемся. Узнаем, что стоит за этой ситуацией.

Пользователи быстро нашли способы обойти ограничения генерации изображений и создали фейковые спутниковые снимки, изображающие катастрофы и военные удары. Проблема оказалась настолько серьёзной, что компания приняла решение приостановить работу инструмента. Это показывает, как быстро технологии могут быть использованы в деструктивных целях.

Для российских пользователей эта новость актуальна в том числе потому, что генерация изображений с помощью ИИ активно развивается и в России, а отечественные сервисы тоже требуют тщательной модерации. Подобные инструменты уже внедряют меры по предотвращению создания недостоверного контента.

Одни считают решение Google необходимой мерой безопасности, предотвращающей распространение дезинформации, а другие полагают, что ограничения могут замедлить развитие полезных творческих инструментов. С одной стороны, защита от фейков важна, с другой стороны, пользователи теряют доступ к удобной функции.

Кстати, если выбираете ИИ-инструменты для работы с изображениями, — нейросеть AiGENDA может сравнить характеристики нескольких генераторов и помочь определиться с подходящим вариантом. Искусственный интеллект AiGENDA также способен проверить текст на соответствие фактам перед публикацией. Попробуйте бесплатно или выберите гибкий тариф под свои задачи.