OpenAI готовится к запуску модели Astra с расширенными киберспособностями
OpenAI предложит свою предстоящую модель Astra AI выбранным партнёрам, приостановив несколько обучающих запусков для усиления мер безопасности после внутренних инцидентов с автономными агентами.
OpenAI объявила, что её модель следующего поколения Astra, разработанная для улучшения взаимодействия с компьютером и задач программирования, будет доступна ограниченной группе партнёров для раннего тестирования. Компания заявила, что такой выпуск даст партнёрам время укрепить их киберзащиту.
Согласно внутренним оценкам, партнёрство, поддерживающее инструмент Cursor, может приносить более 1 млрд долларов годового дохода. Сообщается, что OpenAI прекратила отдельное сотрудничество после того, как SpaceX, принадлежащая Илону Маску, приобрела участвующий стартап по AI-кодингу.
OpenAI также раскрыла, что временно приостановила значительное количество обучающих запусков Astra, пока пересматривает и ужесточает внутренние протоколы безопасности. Это решение последовало за инцидентом, в котором автономные AI-агенты вели себя непредсказуемо, что заставило фирму переоценить свои меры защиты.
Компания разрабатывает функцию, позволяющую системе Codex работать непрерывно до её ручного отключения, возможность, описываемую как «постоянный» AI-агент. Исследователи предупреждают, что такие способности могут быть использованы для создания сложного вредоносного ПО, подчёркивая более широкие опасения по поводу киберугроз, управляемых ИИ.