Хакеры используют ИИ-модель для взлома систем OpenAI за менее чем 72 часа
Три исследователя безопасности использовали ИИ Claude от Anthropic, чтобы эксплуатировать уязвимости внутренних инструментов OpenAI, получив временный доступ к аккаунтам сотрудников, а затем сообщили о проблемах через программу вознаграждений за баги.
25 июля три независимых исследователя кибербезопасности, действующие под именем Hacktron, получили доступ к аккаунтам ChatGPT и Codex нескольких сотрудников OpenAI. Нарушение было частью программы вознаграждений за баги OpenAI, и команда раскрыла результаты компании, получив вознаграждение в размере 6 500 долларов.
Исследователи сначала обнаружили уязвимость в функции загрузки изображений в Discourse, платформе обсуждений, используемой внутри OpenAI. С помощью Claude Opus 4.8 от Anthropic они попытались сгенерировать код для вредоносных загрузок файлов, но первоначально безуспешно. После выпуска Anthropic Claude Opus 5 модель смогла эксплуатировать уязвимость Discourse, позволив команде просмотреть внутренний форум, содержащий токены аутентификации сотрудников.
Эти токены могли быть использованы для доступа к аккаунтам сотрудников ChatGPT и Codex через отдельную проблему безопасности на странице единого входа OpenAI. В отчёте Hacktron отмечалось, что потенциальный объём полученных данных включал репозитории GitHub, сообщения Slack и электронную почту. Чтобы продемонстрировать взлом, команда отправила pull-request в аккаунте сотрудника Codex, не извлекая конфиденциальные данные.
"Весь промежуток времени от первоначального обнаружения до доступа к репозиториям OpenAI занял менее 72 часов," — говорится в отчёте.
OpenAI и Discourse исправили уязвимости после получения уведомления. Представитель OpenAI заявил, что компания не знает о каком-либо использовании уязвимостей другими сторонами.
Инцидент подчёркивает опасения, что развитие ИИ-моделей может позволять быстрые, малозатратные атаки, заставляя технологические компании усиливать киберзащиту и расширять программы вознаграждений за баги.