Google Earth добавил ИИ-генератор изображений, вызывая опасения по поводу дезинформации
Google интегрировал ИИ-генератор Nano Banana 2 в Google Earth, позволяя пользователям создавать синтетические спутниковые снимки, что эксперты считают потенциальным инструментом для распространения ложных данных и подрыва доверия к спутниковой информации.
Google добавил свой ИИ-генератор изображений Nano Banana 2 в Google Earth, позволяя пользователям накладывать сгенерированные компьютером сцены на реальные спутниковые, аэроснимки или 3D-изображения и загружать результаты. Функция, запущенная в четверг, может создавать такие сценарии, как обрушившаяся Эйфелева башня, провал, поглощающий Великую пирамиду Гизы, или российские танки в Киеве, согласно тестам BBC Verify.
Эксперты заявили, что инструмент может быть использован для распространения ложной информации, выглядящей с авторитетом Google. Специалист по ИИ и дезинформации Хенк ван Эс предупредил, что могут быть созданы поддельные изображения несуществующего ядерного завода в Иране, лагеря беженцев на границе США и Мексики или больницы в Газе, разрушенной бомбами, добавив: "> Подделка не обязана выглядеть убедительно сама по себе. Она наследует достоверность карты, на которой появилась."
Google ответил, что внедряет невидимые водяные знаки в контент, созданный ИИ, и советует пользователям проверять сомнительные изображения с помощью чат-бота Gemini или функции Lens. Однако BBC Verify обнаружил, что проверки можно обойти, позволяя системе Gemini маркировать поддельные изображения Google Earth как подлинные.
Исследователь обнаружения ИИ-подделок Генри Адждар отметил, что возможность создания ложных изображений в зонах конфликтов может быть «дестабилизирующей» и подчеркнул, что хотя журналисты могут проверять изображения, не все пользователи это делают. Он также указал на более широкую угрозу: доверенные источники информации подрываются сомнениями в участии ИИ.
Руководящие принципы компании направлены на блокировку создания изображений, изображающих «вредные темы», однако BBC Verify заметил, что небольшие изменения в запросе могут обойти эти ограничения. Например, запрос изобразить «поднятую платформу для повешения предателей» рядом с парламентом Великобритании был отклонён, но менее конкретный запрос сгенерировал изображение.
Геопространственный аналитик Билл Грир сказал, что спутниковые снимки традиционно считались высоконадежными, поэтому новая возможность может подорвать общественное доверие к таким данным.