Meta запускает AI-ассистент Muse с ориентированной на безопасность архитектурой
Только факты

Meta запускает AI-ассистент Muse с ориентированной на безопасность архитектурой

Кратко

Meta выпустила Muse, персонального AI-агента для iOS, Android и веба, с безопасной средой Secure VM и опциональной Confidential VM для защиты данных пользователей, предлагая бесплатный доступ и платные подписки для расширенной автоматизации.

Meta объявила о запуске Muse, персонального AI-ассистента, которому пользователи могут писать сообщения для автоматизации задач, таких как отправка электронных писем, бронирование поездок и онлайн-покупки. Сервис доступен уже сегодня через отдельное приложение для iOS и Android, веб-портал по адресу muse.ai и через WhatsApp, а в дальнейшем планируется интеграция в предстоящие AI-очки Meta. Базовое использование бесплатно, продвинутая автоматизация требует подписки на AI-планы Meta.

Разработанный в Meta Superintelligence Labs, подразделении, созданном генеральным директором Марком Цукербергом для конкуренции с другими AI-агентами, Muse построен на архитектуре Secure Virtual Machine (Secure VM), которая изолирует деятельность каждого пользователя от внешних данных и интеграций. Система включает компонент «Sentinel», который мониторит исходящие действия и запрашивает у пользователя подтверждение при необходимости, стремясь предотвратить неавторизованный доступ к данным и атаки, такие как внедрение подсказок (prompt injection).

Muse также может совершать покупки с помощью сервиса Stripe Link, который генерирует одноразовые номера карт и предлагает защиту покупок, включая возврат без комиссии. Meta заявляет, что Secure VM не позволяет компании получать доступ к пользовательским данным, хотя признаёт, что технический доступ возможен в рамках политических ограничений; пользователи могут отказаться от использования своих данных для обучения моделей.

В будущих обновлениях будет добавлена Confidential VM — доверённая среда выполнения, где пользователи контролируют ключи шифрования локально, что не позволяет даже Meta получать доступ к виртуальной машине. Дизайн Confidential VM рассматривается совместно с экспертом по безопасности Мокси Марлинспайком, а Meta предоставит исходный код, бинарные файлы и журнал прозрачности для независимых аудитов. Компания также расширила программу вознаграждений за обнаружение уязвимостей, предлагая вознаграждения до 300 000 долларов за подтверждённые уязвимости, включая до 130 000 долларов за успешные атаки внедрения подсказок, затрагивающие одного пользователя.

"Мы знаем, насколько это важно, если мы собираемся создать продукт, который может получать доступ к множеству источников персональных данных, — мы должны быть действительно ответственными за это, поэтому мы разработали эту систему очень продуманно," — сказал Дэвид Синглтон, вице-президент по инженерии потребительских продуктов в Meta Superintelligence Labs.

Источник

WIRED

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.