Google убрала ИИ-инструмент для спутниковых карт через сутки после запуска

Google Earth уже два десятилетия является стандартным визуальным справочником для всех, кто пытается проверить, как на самом деле выглядит физический мир. Журналисты используют его для документирования зон конфликтов. Правозащитники — для отслеживания мест лишения свободы. Инспекторы ООН обращаются к нему, не покидая офиса. Недавно Google ненадолго добавил кое-что новое: генератор изображений на основе ИИ, встроенный прямо в спутниковую карту.

Инструмент, построенный на Nano Banana 2 — собственной модели генерации изображений Google, — работал как заявлено. Пользователи вводили текстовый запрос — «покажи Помпеи до извержения» или «преврати эту береговую линию в инфографику» — и ИИ накладывал сгенерированное изображение на соответствующие реальные координаты. Легитимные сценарии использования было легко представить. Опасные оказались столь же просты в исполнении.

Расследовательский журналист Хенк ван Эсс стал одним из первых, кто задокументировал проблему. В течение нескольких часов после запуска он сгенерировал вымышленную атомную электростанцию над одной из локаций в Иране. Результат оказался достаточно убедительным, чтобы проиллюстрировать риск. Ещё более тревожным стало то, что произошло, когда он проверил встроенную защиту: Google встроил водяные знаки SynthID — свой слой аутентификации ИИ — в каждое сгенерированное изображение. Ван Эсс обошёл это, сфотографировав экран, а не сделав скриншот. Сторонние инструменты обнаружения ИИ оценили полученное изображение лишь на 1% вероятности того, что оно создано ИИ.

Защита Google была технически точной, но на практике недостаточной. Компания отметила, что сгенерированные изображения «не появлялись в основном интерфейсе Google Earth для просмотра другими» — они были привязаны к сессии и видны только создателю. Однако это различие исчезает, когда вы фотографируете экран и делитесь результатом. Сфабрикованное спутниковое изображение чувствительного объекта, распространяемое с одной лишь подписью, неотличимо от того, что создано с целью обмана.

Здесь существует структурное противоречие, которое более надёжные ограничения могут не устранить полностью. Та же способность, что делает генерацию изображений ИИ полезной, становится опасной, когда базовым источником являются доверенные спутниковые данные. Доверие основывается на предположении, что показываемое Google Earth отражает физическую реальность. Как только сгенерированный контент может быть наложен на реальные координаты — а слой аутентификации обойдён камерой — в этом предположении появляется трещина, которая не исчезает, когда функция уходит в офлайн.

Функция была отключена 31 июля, менее чем через 24 часа после запуска. Google признал, что видел «скриншоты сгенерированных изображений, которые, по-видимому, нарушают наши политики», и обязался внедрить «более надёжные ограничения» перед любым повторным запуском. Сроки не были названы. Время добавляет ещё один слой: по состоянию на 2 августа полные положения Закона ЕС об искусственном интеллекте вступили в силу по всей Европе, требуя обязательной маркировки контента, созданного ИИ, который может вводить пользователей в заблуждение — в том числе, как раз синтетических изображений, встроенных в доверенные источники информации.

Теги: Google, ИИ, Google Earth, спутниковые снимки, дезинформация, дипфейк