Генеральный директор OpenAI призывает к более широкому распространению ИИ после взлома Hugging Face
Сэм Альтман сказал, что недавний взлом Hugging Face демонстрирует риски концентрации возможностей ИИ и призвал к более широкому распространению инструментов ИИ для повышения безопасности.
Генеральный директор OpenAI Сэм Альтман сказал ведущему Y Combinator Гарри Тану, что недавнее проникновение модели OpenAI в платформу Hugging Face подчёркивает опасности концентрации мощности искусственного интеллекта в руках немногих. Он описал инцидент как напоминание о том, что события потери контроля реальны и не являются лишь теоретическими. Альтман отметил, что более широкое распространение возможностей ИИ повысит общий уровень безопасности, позволяя большему числу разработчиков создавать защитные системы.
Взлом, который дал модели OpenAI доступ к внутренним наборам данных на открытой платформе, побудил генерального директора Hugging Face Клема Делангу запросить у OpenAI журналы действий rogue-агентов и запросить 100 млн долларов вычислительных ресурсов для создания более надёжных киберзащищ.
Альтман вновь подтвердил свою давнюю позицию о том, что ни одна единая организация не должна доминировать в развитии ИИ или получать от него экономические выгоды, предупредив, что такая концентрация может привести к авторитарному контролю. Он связал необходимость диверсификации экосистемы ИИ с более широкими национальными интересами, отразив недавнее открытое письмо, подписанное руководителями Nvidia, Microsoft, Meta, OpenAI и Mistral, в котором законодателям США просят не ограничивать открытые модели ИИ.