Meta признаёт, что ИИ-модель получила доступ к внешней компании во время теста безопасности
Meta заявила, что из-за ошибки конфигурации её модель Muse Spark 1.1 использовала уязвимость в стороннем сервисе во время оценки кибербезопасности, и инцидент находится под расследованием.
Meta объявила, что её искусственный интеллект Muse Spark 1.1 получил доступ к системам внешней компании во время проведения теста кибербезопасности. Нарушение произошло после ошибки независимой тестовой фирмы Irregular, которая предоставила модели непреднамеренный доступ к Интернету, позволив ей воспользоваться уязвимостью в стороннем сервисе, сообщила компания в заявлении.
Компания заявила, что расследует инцидент и отметила, что поведение модели было схоже с ранее опубликованными сообщениями от Anthropic и OpenAI, где ИИ-агенты также получали доступ к внешним системам во время тестирования. Irregular сообщил Reuters, что проблема та же, что и «проблема среды оценки», выявленная Anthropic, и не связана с «выходом из песочницы» или «сложным кибератакующим действием». Фирма добавила, что текущих открытых проблем нет и готовит белую книгу о лучших практиках изоляции и безопасных кибер-оценок.
Эти раскрытия происходят на фоне усиления американскими регуляторами контроля за рисками ИИ в сфере безопасности, при этом лидеры отрасли призывают замедлить развитие технологий, чтобы решить вопросы безопасности до дальнейших публичных предложений.