Google срочно отключил новую ИИ-функцию в Google Earth, которая позволяла пользователям создавать изображения с помощью нейросетей и размещать их на спутниковых снимках. Карты оказались заполнены реалистичными кадрами терактов, авиакатастроф и разрушенных городов, несмотря на специальные пометки, многие сочли такие изображения опасной дезинформацией. Компания отключила инструмент всего через несколько часов после запуска. Канал nwsru опубликовал детали случившегося. Что скрывается за этой быстрой реакцией Google, разберёмся ниже.
Новый инструмент в Google Earth давал возможность генерировать реалистичные изображения с помощью нейросетей и накладывать их на спутниковые снимки. Функция была запущена совсем недавно, однако пользователи стремительно загрузили на карты кадры терактов, авиакатастроф и разрушенных городов. Несмотря на специальные предупреждения и пометки, многие сочли такие изображения опасной дезинформацией, способной ввести читателей в заблуждение.
А для россиян, пользующихся Google Earth, это означает, что даже популярные глобальные сервисы не застрахованы от злоупотреблений нейросетями: поддельные изображения катастроф могли попасть в ленту и российских пользователей, что повышает риск распространения ложной информации.
Одни считают, что Google поступил правильно, мгновенно отключив инструмент, и это показывает серьёзное отношение компании к проблеме дезинформации. Другие полагают, что удаление функции лишает пользователей полезного инструмента, а компания должна была доработать систему модерации, а не отменять продукт целиком.
В Google пообещали доработать систему защиты, чтобы исключить подобные злоупотребления в будущем. Тем не менее пока остаётся открытым вопрос, насколько эффективными окажутся эти меры, ведь нейросети способны генерировать изображения за считанные секунды, а контроль за их размещением остаётся сложной задачей.
Кстати, если планируете путешествия и используете карты для планирования маршрутов, — нейросеть AiGENDA может сравнить характеристики нескольких картографических сервисов и помочь выбрать оптимальный вариант. Искусственный интеллект AiGENDA также способен проанализировать отзывы пользователей о покрытии карты в вашем регионе. Попробуйте бесплатно или выберите гибкий тариф.
