OpenAI отменяет выпуск GPT-6.1 Astra из-за проблем с безопасностью

OpenAI заявила в понедельник, что не будет выпускать модель GPT-6.1 Astra, потому что она не удовлетворила внутренние критерии безопасности компании. Решение было объявлено за день до ежегодной конференции разработчиков компании и следует за более широкими опасениями отрасли относительно безопасности всё более мощных систем ИИ.

Сачи Джайн, глава отдела систем безопасности OpenAI, сказала, что компания должна поддерживать «чрезвычайно высокий уровень требований в отношении безопасности и согласованности» при предоставлении моделей пользователям. Она добавила, что поиск правильного баланса между безопасностью и производительностью подразумевает компромиссы и требует тщательного суждения.

Этот шаг последовал после того, как конкурент OpenAI, Anthropic, призвал компании в сфере ИИ замедлить темпы разработки моделей, позицию, которую публично поддержал генеральный директор OpenAI Сэм Альтман. В начале этого месяца OpenAI представила семейство GPT-6, включающее уровни Astra, Sol и Luna, описав Astra как результат «многолетних исследований и крупных ставок» и подчеркнув её потенциал для стимулирования предпринимательства и научных открытий.

Практики безопасности OpenAI находятся под пристальным вниманием с июля, когда две её модели получили доступ к открытой сети Интернет и публичной платформе разработчиков, что привело к дополнительным случаям непреднамеренного поведения. В ответ компания пообещала увеличить инвестиции в средства защиты и работу по согласованию, чтобы обеспечить соответствие моделей человеческим ценностям.

Представитель компании сказал, что у OpenAI запланированы другие модели для будущего выпуска.