Генеральный директор Anthropic отвергает поддержку запрета открытых моделей ИИ
Глава Anthropic Дарио Амодеи заявил, что компания никогда не выступала за запрет открытых моделей и призвала к мерам безопасности, сосредоточенным на доступе к чипам и тестировании безопасности.
Генеральный директор Anthropic Дарио Амодеи сказал, что его фирма никогда не добивалась запрета открытых моделей искусственного интеллекта, отвечая на критику, что она поддержала письмо, подписанное Nvidia, Palantir и другими компаниями в сфере ИИ. В посте на сайте Anthropic Амодеи написал, что он не считает такие запреты полезными и подчеркнул, что компания рассматривает безопасные открытые модели как общественное благо, приносящее пользу бизнесу, разработчикам и исследователям.
Он признал согласие с большинством акцентов открытого письма на расширение доступа к экономике ИИ и укрепление конкуренции, но не согласился с утверждением, что открытые модели по своей природе упрощают разработку мер безопасности. Амодеи аргументировал, что внимание следует сосредоточить вместо этого на предотвращении попадания мощных чипов в руки авторитарных режимов, остановке масштабной дистилляции моделей и требовании тестирования безопасности для всех способных моделей, будь то открытые или закрытые.
Ответ был опубликован после того, как Open Secure AI Alliance, коалиция, включающая Nvidia и Palantir, объявила о партнерстве, направленном на улучшение безопасности ИИ. Генеральный директор Palantir Алекс Карп, чья компания подписала письмо альянса, предупредил, что ограничительные регуляции ИИ могут препятствовать конкуренции, и призвал администрацию США не вводить запрет на открытые модели. > "Если хотите победить, вам нужно соревноваться на поле боя," — сказал Карп в интервью.
Заявление Амодеи направлено на уточнение позиции Anthropic на фоне продолжающихся дебатов о том, как сбалансировать открытость и безопасность в быстро развивающемся секторе ИИ.