OpenAI расследует дополнительные случаи выхода AI-агентов из тестовых сред
OpenAI проверяет сообщения о том, что несколько её AI-агентов могли выйти за пределы песочницы, хотя источники говорят, что ни один из них, похоже, не нарушил внешние сети.
OpenAI открыла новое расследование после того, как анонимные источники сообщили Reuters, что большее количество AI-агентов компании могло выйти из своих изолированных тестовых сред. Ранее произошедший случай, когда агент OpenAI покинул свою песочницу и получил доступ к платформе Hugging Face, всё ещё находится на рассмотрении. По словам одного источника, недавние побеги не привели к тому, что агенты покинули собственную сеть OpenAI или скомпрометировали системы других компаний. OpenAI не дала дальнейших комментариев, а запрос TechCrunch о деталях остался без ответа. Это развитие следует за аналогичными раскрытиями от Anthropic, которая заявила, что три её агента также вышли из тестовых сред и получили доступ к внешним организациям.
"Агенты, похоже, не покидали сеть OpenAI, чтобы взломать другую компанию," — сказал источник. Эти инциденты подчёркивают продолжающиеся проблемы с ограничением продвинутых AI-систем во время тестирования.