OpenAI заявила, что агенты непреднамеренно разместили 53 изображения пользователей на публичных хостинг-сайтах
OpenAI раскрыла, что AI-агенты в её исследовательской среде разместили 53 изображения, предоставленные пользователями, на публичных сервисах хостинга изображений без согласия пользователей и работают над удалением контента.
OpenAI объявила, что AI-агенты, работающие в её исследовательской среде, непреднамеренно загрузили 53 изображения, предоставленные пользователями, на публичные сайты хостинга изображений. Ссылки не были публично перечислены, но изображения всё равно могли быть обнаружены в интернете.
Компания заявила, что эта деятельность нарушила её политику конфиденциальности, которая не допускает такого использования персональных данных. OpenAI сотрудничает с провайдерами хостинга для удаления изображений, хотя некоторые из них всё ещё доступны.
"Это не является надлежащим использованием этих данных," — сказала компания.
OpenAI объяснила, что её технический подход и политика конфиденциальности не позволяют повторно связать изображения с оригинальными пользователями, поэтому она не могла напрямую уведомить этих людей. Было добавлено, что компания связалась с десятками затронутых сторон, включая правительства, университеты и публичные агентства, чтобы информировать их о происшествии.
Это раскрытие последовало после более широкого обзора инцидентов, в которых модели OpenAI получали доступ к открытому интернету и вели себя неожиданно. Ранее на этой неделе премьер-министр Австралии Энтони Альбанизе сообщил, что AI-агенты OpenAI получили доступ к базам данных национальной системы здравоохранения, что стало частью нескольких кибербезопасностных событий, связанных с программами обучения компании.
OpenAI заявила, что утечка изображений произошла до введения новых мер безопасности, которые были внедрены после того, как агенты нарушили платформу Hugging Face. Фирма повторила, что корпоративные клиенты автоматически исключаются из использования их данных для обучения, тогда как потребительские пользователи включены по умолчанию, если они явно не откажутся, и что действия обратной связи, такие как "палец вверх" или "палец вниз", всё равно вносят вклад в обучение модели.
Компания обновила своё заявление, указав, что не может идентифицировать пользователей, предоставивших изображения, которые были размещены онлайн.