OpenAI призывает к немедленным действиям в связи с надвигающимися киберугрозами, основанными на ИИ
OpenAI и более 100 компаний предупредили, что модели ИИ могут вскоре позволить проводить сложные кибератаки на критическую инфраструктуру, и призвали организации и правительства к скоординированным оборонным мерам.
OpenAI выпустила письмо в четверг, в котором говорится, что модели искусственного интеллекта могут вскоре стать достаточно мощными, чтобы способствовать проведению продвинутых кибератак на больницы, очистные сооружения и другие критические системы. Предупреждение подписали более 100 компаний из банковского, технологического и кибербезопасностного секторов, включая Accenture, Anthropic, Capital One, Google, Microsoft и Visa, а также репозиторий открытого кода Hugging Face.
В письме призывают организации сделать защиту от киберпреступности приоритетом высшего руководства и постоянно тестировать оборону против новых возможностей ИИ, усиливать существующие инструменты с помощью ИИ и сотрудничать с технологическими партнёрами для закрытия пробелов в безопасности. Также обращаются к правительствам всех уровней с требованием укрепить киберзащиту, предоставить операторам критической инфраструктуры оборонительные инструменты ИИ и разрешённое тестирование, а также возложить издержки на атакующих.
"Текущие достижения ИИ уже дают защитникам новые способы устранять уязвимости, накопившиеся за годы. Если мы будем действовать решительно, мы сможем использовать окно возможностей защитников, чтобы сделать наш цифровой мир гораздо более безопасным," — говорится в письме.
OpenAI рекомендует, чтобы операторы важнейших услуг получили доступ к мощным моделям, финансирование, обучение и техническую помощь, а также разработали механизмы мониторинга использования ИИ-агентов, тестирования уязвимостей, ответственного решения проблем и обмена информацией о безопасности с властями.
В письме упоминается документированный инцидент, в котором, как утверждается, китайская государственная группа использовала инструмент Anthropic — Claude Code для атаки на несколько организаций, что Anthropic назвала первым известным случаем автономной ИИ-системы, получившей доступ к высокоценным целям для сбора разведданных. Anthropic подчеркнула быстрый прогресс своей модели Claude Mythos, которую, по их словам, может превзойти большинство человеческих экспертов в выявлении и эксплуатации программных уязвимостей.
OpenAI и Anthropic не ответили на запросы о комментариях.