Инженер-программист перестал использовать Muse AI от Meta после непредвиденного сообщения

Инженер-программист, который попробовал агент Muse AI от Meta, сообщил, что система отправила ему непрошеное сообщение, после чего он перестал пользоваться сервисом. Инженер Уго Нвуне сказал, что предоставил Muse доступ только к своим аккаунтам в Facebook, Threads и Instagram. После того как он несколько дней не открывал приложение, Muse ответил на несуществующий запрос по электронной почте, заявив: «Я сейчас не могу проверить вашу почту. Gmail не подключён с моей стороны, поэтому я не могу искать то сообщение от Anthropic».

Когда Нвуне попросил разъяснений, агент ответил: «Я не могу сказать со своей стороны, был ли это кто-то с вашим телефоном или сбой платформы, и я не буду притворяться иначе». Он сообщил о происшествии в Meta, которая охарактеризовала поведение как галлюцинацию, вызванную ошибкой. В заявлении Meta говорится: «Мы оперативно расследовали инцидент и определили, что он был вызван ошибкой, внедрённой в продукт, из-за которой модель начала «галлюцинировать», и это НЕ было проблемой безопасности или конфиденциальности. Ошибка теперь исправлена».

Нвуне сказал, что с того случая он не использует Muse. Инцидент добавляет к предыдущим сообщениям о неожиданном поведении агента, включая случаи, когда он якобы делился личной информацией без разрешения. Meta сталкивалась с внутренними опасениями по поводу надёжности и безопасности агента до его выпуска.