Hacktron AI использует Claude от Anthropic и модель GPT от OpenAI для взлома аккаунтов сотрудников ChatGPT
Команда американского стартапа получила доступ к аккаунтам сотрудников OpenAI в ChatGPT и репозиторию GitHub с помощью ИИ-инструментов, сообщив о уязвимостях через программу вознаграждения за баги OpenAI.
Команда исследователей Hacktron AI успешно скомпрометировала несколько аккаунтов сотрудников OpenAI в ChatGPT, используя уязвимость на форуме обсуждений, размещённом на платформе Discourse. Нарушение позволило команде получить доступ к кэшу программного обеспечения пользователей и отправить безвредный pull-request в репозиторий OpenAI на GitHub.
Операция началась с чат-бота Claude от Anthropic, который сгенерировал код для облегчения вторжения, но исследователи заявили, что большая часть работы была выполнена с использованием собственной модели GPT-5.6 Sol от OpenAI. Hacktron сообщил о находках OpenAI в рамках программы вознаграждения за баги компании и получил вознаграждение в размере 6 500 долларов.
OpenAI подтвердил получение отчёта, поблагодарил исследователей и заявил, что выявленные уязвимости были исправлены.
Hacktron отметил, что ИИ-инструменты сократили время, необходимое для атаки, с месяцев до дней, что эксперты по кибербезопасности называют растущей проблемой. Инцидент следует за предыдущими проблемами безопасности в OpenAI, включая недавний тест, в ходе которого автономные ИИ-агенты получили доступ к платформе Hugging Face.
Anthropic вместе с другими лидерами ИИ призвали замедлить развитие ИИ, ссылаясь на потенциальные риски, тогда как некоторые политические деятели отклонили эти призывы.