Китайские компании расширяют использование выводов американских ИИ-моделей для обучения отечественных систем
Только факты

Китайские компании расширяют использование выводов американских ИИ-моделей для обучения отечественных систем

Кратко

Китайские исследователи и компании всё чаще применяют технику дистилляции, используя выводы ведущих американских ИИ-моделей для создания более мелких и дешевых отечественных моделей на фоне ужесточения ограничений на американские чипы.

Китайские организации масштабируют практику «дистилляции», при которой выводы ведущих американских моделей искусственного интеллекта используются для обучения более мелких отечественных систем, согласно обзору более 300 академических статей, патентов, корпоративных раскрытий, объявлений о найме и правительственных документов. Подход, который перешёл от академических экспериментов к массовому промышленному использованию, позволяет китайским фирмам создавать обучающие данные, заставляя крупные американские модели отвечать на вопросы, писать код или решать задачи, а затем автоматизировать сбор и подготовку этого материала для «студентских» моделей, требующих меньше вычислительных ресурсов.

Техника не является незаконной и применяется по всему миру, но она может снизить зависимость от иностранной технологии, сохраняя выбранные возможности в более дешевых моделях. Пекин продвигает дистилляцию как способ сделать ИИ более доступным и проще внедряемым в производственном секторе страны.

Американские чиновники предупреждали, что масштабная дистилляция может стать кражей интеллектуальной собственности. В июле представители Министерства торговли выразили обеспокоенность китайским регуляторам, а в сентябре публично обвинили китайские компании в агрессивной промышленной дистилляции. Китайские официальные лица описали метод как стандартную практику разработки ИИ и заявили, что примут меры, если он перейдёт в кражу ИС, хотя конкретных обязательств не было дано.

В качестве примеров приводятся исследователи Шанхайского университета Цзяо Тун, которые отобрали около 5 000 ответов модели o1 от OpenAI, перевели их с помощью GPT-4o mini и создали 10 750 двуязычных примеров для дальнейшего обучения модели Alibaba Qwen2.5-72B. Позже Alibaba сообщила о использовании GPT-4 и GPT-4o для генерации многоязычного обучающего материала для более мелких моделей Qwen. В статьях отмечается, что чрезмерная зависимость от дистилляции может препятствовать оригинальным инновациям.

Американские поставщики ИИ, такие как OpenAI и Anthropic, ограничивают использование своих выводов для конкурирующих моделей, но китайские разработчики утверждают, что дистилляция — лишь один из факторов наряду с прогрессом в инженерии, алгоритмах, данных и дизайне моделей. Национальный пакет политик «ИИ-плюс-производство», выпущенный в январе восемью китайскими агентствами, поощряет обучение моделей, тонкую настройку и дистилляцию для промышленных применений, отражая цель внедрения более мелкого, экономически эффективного ИИ в экономику.

Китайские разработчики ИИ недавно обратились за разъяснениями к отраслевым регуляторам относительно границы между обычным использованием иностранных моделей и организованным сбором их выводов для обучения, подчёркивая растущую геополитическую чувствительность этой практики.

Источник

Reuters

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.