Google удалил генератор изображений ИИ из приложения Earth из-за опасений по дезинформации

Google заявила в пятницу, что удалит недавно введённую функцию генерации изображений ИИ из своей платформы Google Earth после того, как пользователи создали реалистичные, но поддельные спутниковые изображения, вызвавшие опасения по поводу дезинформации. Инструмент, построенный на технологии Google Nano Banana 2, позволял пользователям вводить текстовый запрос и генерировать фотореалистичные изображения любой локации в спутниковом, воздушном и 3-D режимах сервиса.

В течение нескольких часов после запуска в четверг пользователи разместили примеры, в которых к реальным местам добавлялись вымышленные взрывы бомб, лагеря беженцев, ядерные объекты и другие сцены. Исследователь открытой разведки, протестировавший функцию, сообщил, что система не блокировала ни один из его запросов, включая «беженцы у мексиканской границы» и «ядерный объект в Иране».

Немецкий расследовательский журналист Бен Хюбель охарактеризовал функцию как «абсолютно безответственную» в посте в LinkedIn, предупредив, что она может создавать «разрушительные изображения», напоминающие зоны конфликтов, и усложнять проверку фактов. Пресс-релиз Google продвигал инструмент как способ «визуализировать историю, создавать планы недвижимости и многое другое», подразумевая, что он может помочь пользователям представить изменения в их районах.

В ответ на критику Google разместила в X сообщение, что она относится к дезинформации серьёзно и будет «предотвращать создание изображений на вредные темы». Компания отметила, что каждое сгенерированное ИИ изображение содержит цифровой водяной знак SynthID, который можно обнаружить через приложение Gemini или Lens в Поиске. Менее чем через 24 часа после дебюта функции Google подтвердила, что откатит её и будет работать над более жёсткими ограничениями для соблюдения своих политик контента.