Google приостанавливает функцию создания спутниковых изображений ИИ из-за опасений по поводу дезинформации
Google остановил новый ИИ-инструмент, создававший спутниковые изображения в Google Earth, после сообщений о возможности использования функции для создания вводящих в заблуждение визуальных материалов, и работает над дополнительными мерами защиты.
Google объявил в X, что отключает функцию создания спутниковых изображений ИИ в Google Earth, пока разрабатывает более надёжные меры защиты. Компания заявила, что функция использовалась геопространственными специалистами в законных целях, но некоторые пользователи поделились скриншотами, которые, как кажется, нарушали её политику.
Инструмент, представленный за день до этого, позволял пользователям приближать место, выбирать «создать изображение» и вводить описание для генерации синтетического вида. Исследователь с открытым исходным кодом Хенк ван Эс продемонстрировал, что система может создавать изображения пожара на иранском острове Харг и затопленного комплекса США Капитолий — события, которые не имели места.
Эксперты по визуальной форензике выразили обеспокоенность тем, что лёгкость создания таких изображений может ускорить распространение дезинформации. Джейк Годин из Bellingcat отметил, что хотя спутниковые снимки традиционно являются надёжным источником верификации, подделки, созданные ИИ, могут подорвать это доверие и усложнить исправление ошибок.
Google сообщил, что все изображения, созданные ИИ, содержат водяной знак SynthID, позволяющий отмечать их в других инструментах Google, и что он блокирует создание изображений на вредоносные темы. Однако члены сообщества с открытым исходным кодом остаются скептичными, предупреждая, что инструмент может быть использован для фабрикации контента на платформе, широко применяемой для проверки фактов.