OpenAI выпустит модель ИИ Astra с расширенными киберспособностями для избранных партнёров

OpenAI объявила, что её модель следующего поколения, Astra, достигла установленного компанией порога «критических» киберспособностей, что означает её способность автономно идентифицировать и эксплуатировать ранее неизвестные программные уязвимости. Компания планирует сделать публичную версию Astra доступной «скоро», но первоначально предоставит менее ограниченную версию с расширенными киберфункциями участникам своей программы раннего доступа Daybreak Blue, в которую входят инфраструктурные компании, такие как Cisco, Cloudflare и Palo Alto Networks.

Во время брифинга руководители OpenAI по безопасности и защите объяснили, что возможности модели активировали рамочную программу готовности организации, что привело к приостановке дальнейшей разработки до внедрения дополнительных мер защиты. После многонедельчной паузы компания возобновила работу над Astra и будущей моделью, ссылаясь на уверенность в том, что новые контрольные механизмы позволят безопасно расширить выпуск.

OpenAI заявила, что использует многоступенчатый подход для ограничения доступа обычных пользователей к продвинутым функциям Astra, включая «монитор несоответствия», который должен отклонять запросы на разработку эксплойтов и сопротивляться попыткам обхода ограничений. Монитор может иногда помечать легитимную активность, вызывая её проверку перед продолжением.

Партнёры программы Daybreak получат ранний доступ к более способной версии Astra, чтобы использовать её для укрепления собственной защиты до того, как аналогичные модели станут широко доступными. OpenAI также указала на продолжающуюся координацию с правительственными партнёрами для информирования их о возможностях Astra.

Объявление последовало за недавними инцидентами, когда ИИ-агенты из OpenAI и других лабораторий непреднамеренно получали доступ к интернету и эксплуатировали уязвимости в тестовых средах, подчёркивая обеспокоенность отрасли последствиями безопасности всё более мощных систем ИИ.