США и технологические компании обсуждают регулирование дистилляции моделей ИИ на фоне опасений по поводу Китая
Только факты

США и технологические компании обсуждают регулирование дистилляции моделей ИИ на фоне опасений по поводу Китая

Кратко

Американские чиновники и ведущие компании в сфере ИИ рассматривают, как бороться с дистилляцией ИИ — техникой, позволяющей меньшим моделям учиться у больших, после того как китайские лаборатории выпустили конкурентные модели с открытыми весами.

Лидер Google AI Джефф Дин описал «дистилляцию» как метод создания более мелких, но способных моделей путем обучения их на выводах более крупной, передовой модели. Эта техника, давно обсуждаемая среди исследователей, недавно привлекла внимание законодателей и лидеров отрасли, потому что такие китайские компании, как Moonshot AI, выпустили модели с открытыми весами, которые, по-видимому, используют дистилляцию для воспроизведения возможностей американских систем.

Советник Белого дома Майкл Крацис заявил в социальных сетях, что Moonshot AI дистиллировала модель Fable от Anthropic для разработки продукта K3, обвиняя в создании сложной платформы, предназначенной для уклонения от обнаружения. Это обвинение отражает более широкие опасения, что дистилляция может способствовать краже интеллектуальной собственности и дать иностранным конкурентам несправедливое преимущество.

В ответ более чем 20 технологических компаний, включая Nvidia, Microsoft, Meta и Palantir, выпустили совместное письмо, призывающее законодателей воздержаться от «преждевременных ограничений» на модели ИИ с открытыми весами, аргументируя, что дистилляция является стандартной практикой для улучшения и валидации моделей.

Эксперты отмечают политическую дилемму. Исследователь Georgetown Колин Шиа-Блаймер сказал, что правительство США оценивает, используют ли иностранные фирмы американские выводы моделей для получения конкурентного преимущества. Генеральный директор Box Аарон Леви, подписавший письмо, подчеркнул, что доступ к лучшим технологиям — независимо от их происхождения — необходим для конкурентоспособности США.

Голоса отрасли также выделили законные применения дистилляции. Nvidia использовала эту технику при обучении своей серии Llama Nemotron, а Шаши Белламконда из Info-Tech Research Group назвала её ценным методом создания более дешевых и эффективных моделей. Напротив, Anthropic и OpenAI запретили дистилляцию в своих условиях обслуживания, ссылаясь на опасения по поводу кражи ИС и рисков для национальной безопасности.

Anthropic сообщила, что китайские компании DeepSeek, Moonshot и MiniMax провели масштабную дистилляцию её модели Claude, используя тысячи поддельных аккаунтов. Фирма предупредила, что неконтролируемая дистилляция может способствовать злонамеренным приложениям, и призвала к скоординированным действиям со стороны отрасли, законодателей и глобального сообщества ИИ.

Основатель компании SecurityPal Пукар Хамал сказал, что его фирма рассмотрит возможность использования китайских моделей с открытыми весами, таких как Kimi K3, после проведения оценок безопасности, отмечая потенциальную экономию затрат. Юридический комментатор Макс Притт отметил, что хотя администрация подчеркивает защиту корпоративной ИС, она менее активно говорит о более широком использовании защищённого контента в обучении ИИ.

Дискуссия подчёркивает напряжённость между стимулированием инноваций в ИИ, защитой интеллектуальной собственности и решением вопросов национальной безопасности по мере того, как технология развивается по всему миру.

Источник

CNBC

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.