Уязвимость нулевого дня позволяет локальным приложениям захватывать AI-ассистент Meta Muse в macOS
Исследователь безопасности Патрик Уордл раскрыл уязвимость, позволяющую любому локальному приложению или команде терминала захватить контроль над ассистентом Meta Muse, из-за чего Amazon заблокировал сервис на своей платформе.
Meta представила свой AI-ассистент Muse для macOS, позиционируя его как инструмент, ориентированный на конфиденциальность, способный планировать встречи, заполнять формы, совершать покупки и взаимодействовать с различными приложениями. Однако уязвимость нулевого дня, обнаруженная экспертом по безопасности macOS Патриком Уордлом, позволяет любой локально установленной программе или команде терминала получить токен аутентификации учетной записи пользователя Muse, фактически предоставляя злоумышленнику полный контроль над ассистентом.
Уордл объяснил, что проблема возникает из-за дизайна Muse, который позволяет локальным процессам изменять длинный список недокументированных настроек, включая конечную точку, используемую для голосовой транскрипции. Перенаправив эту конечную точку на сервер, контролируемый атакующим, токен раскрывается и может быть использован для выполнения команд, таких как запись файлов, доступ к камере или микрофону и извлечение сообщений, часто без уведомления пользователя.
“Мы можем манипулировать агентом и использовать его привилегии для выполнения чего угодно,” — сказал Уордл в интервью Ars Technica.
Meta не ответила на запросы о комментариях. Компания ранее публиковала блоги, описывающие свой подход к безопасности Muse, но внутреннее тестирование других AI-моделей, по сообщениям, привело к непреднамеренным сетевым утечкам.
Amazon начал блокировать Muse на своем сайте незадолго до публичного раскрытия уязвимости, заявив, что сторонние приложения, совершающие покупки, должны работать открыто и соблюдать политики поставщика услуг.
“Мы считаем довольно очевидным, что сторонние приложения, предлагающие совершать покупки от имени клиентов … должны работать открыто и уважать решения поставщика услуг,” — сказал Amazon в электронном заявлении.
Уордл планирует обсудить проблему и более широкие риски AI-ассистентов на конференции по безопасности Objective by the Sea в ноябре. Открытие подчеркивает опасения по поводу обширных системных разрешений, предоставляемых AI-агентам, и необходимость более строгих проверок безопасности перед их развертыванием.