Эксперты по кибербезопасности призывают Белый дом снять экспортный контроль с моделей ИИ Anthropic
Десятки ветеранов безопасности попросили правительство США убрать ограничения на модели Anthropic Fable и Mythos, заявив, что они мешают защитникам, в то время как противники продолжают развиваться.
Коалиция из 76 специалистов по кибербезопасности, включая бывшего руководителя службы безопасности Facebook Алекса Стамоса и основателя Bugcrowd Кейси Эллиса, отправила открытое письмо в Белый дом с просьбой отменить экспортный контроль над моделями ИИ Anthropic Fable и Mythos. Подписанты утверждают, что ограничения мешают защитникам использовать модели для выявления и устранения уязвимостей в программном обеспечении, тем самым снижая общую безопасность.
Правительство США потребовало от Anthropic ограничить экспорт двух моделей по соображениям национальной безопасности, что заставило компанию приостановить глобальный доступ. Позже Anthropic выпустила Fable — версию Mythos с ограничениями, предназначенными блокировать использование в биологии, химии и кибербезопасности, но многие эксперты считают, что эти меры также блокируют законные запросы, связанные с безопасностью.
"Отбирать лучшие возможности у защитников без веской причины, когда наши противники быстро продвигаются вперёд, опасно," говорится в письме.
Кэти Муссурис, основательница Luta Security и одна из авторов письма, заявила, что недавняя исследовательская статья Amazon, приведённая в качестве основания для экспортного приказа, не демонстрирует реального взлома. Она объяснила, что в статье просто попросили Fable исправить код с известными и преднамеренно вставленными уязвимостями после того, как модель первоначально отказалась проверять код. Муссурис contended, что такое поведение не является обходом и что защитникам нужен ИИ, способный находить, исправлять и тестировать уязвимости.
Открытое письмо также призывало разрабатывать любые регуляции через прозрачный, демократический процесс, основанный на научных исследованиях и применяемый только в той мере, которая необходима для защиты общественности.
