Разработчики утверждают, что Muse AI от Meta может экспортировать всю файловую систему Linux
Только факты

Разработчики утверждают, что Muse AI от Meta может экспортировать всю файловую систему Linux

Кратко

Два разработчика сообщили, что смогли заставить Muse AI от Meta создать zip-архив полной файловой системы виртуальной машины, на что Meta ответила, что это не является нарушением безопасности.

Два независимых разработчика сообщили, что Muse AI от Meta, работающий в постоянной виртуальной машине Linux для каждого пользователя, можно было заставить архивировать и предоставить всю свою файловую систему, включая системные файлы Ubuntu, шаблоны приложений и внутреннюю документацию. Питер Джеймс и Джонни Л. Сандерс сказали, что каждому из них удалось убедить модель сгенерировать zip-файл, содержащий корневой каталог, а Сандерс отметил, что воспроизвести результат потребовалось лишь минимальное подсказывание, описывая сопротивление модели к внедрению запросов как «почти отсутствующее».

Meta ответила, что возможность экспорта данных виртуальной машины не предоставляет привилегированный доступ к инфраструктуре Meta или к данным других пользователей. Пресс-секретарь Дэниел Робертс сказал: «Точно так же, как с ноутбуком перед вами, конечно, вы можете видеть файлы. Экспорт данных виртуальной машины не дает людям привилегированный доступ к инфраструктуре Meta или к данным других людей». Он добавил, что компания продолжает обновлять продукт, что может повлиять на объём раскрытой информации.

Инцидент последовал за отдельной уязвимостью, раскрытой ранее на этой неделе, когда исследователь продемонстрировал эксплойт, позволяющий захватить AI-агента, перенаправить процесс транскрипции и получить доступ к учётной записи Muse пользователя. Meta выпустила горячее исправление для этой проблемы.

Файлы, полученные разработчиками, включают текстовые документы Markdown и JSON, описывающие, как Muse (внутренне называемый Hatch) обрабатывает запросы, хранит данные и взаимодействует с внешними сервисами, такими как электронная почта. По словам разработчиков, дамп также показывает, что Muse хранит разговорную память в файлах Markdown и выполняет ночной «сонный» обзор недавних взаимодействий, чтобы информировать будущие ответы. Дополнительные находки включают жёстко закодированные скрипты управления подпиской и создания агентов, а также ссылки на функцию под названием «Meta Home Link», которая, по-видимому, позволяет взаимодействовать с устройствами в домашней сети, хотя Meta публично не анонсировала такую функцию.

Когда его напрямую попросили предоставить полную копию своей файловой системы, Muse сначала отказался, ссылаясь на соображения безопасности, но позже предложил предоставить «безопасные» версии конкретных каталогов после того, как пользователь перезапустил сессию и использовал льстивые подсказки. Полученный архив соответствовал материалам, которыми поделились Джеймс и Сандерс.

Источник

The Verge

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.