Генеральный директор Anthropic призывает к мерам безопасности ИИ, в то время как глава Nvidia выступает за ускоренную разработку
На конференции Dreamforce генеральный директор Anthropic потребовал замедления и усиления контроля безопасности ИИ, тогда как CEO Nvidia выступил за ускорение технологий и предостерёг от задержек из-за регулирования.
Генеральный директор Anthropic Дарио Амодеи использовал аналогию с безопасностью автомобилей на конференции Dreamforce в Сан-Франциско, чтобы аргументировать, что недавний громкий инцидент в конкурирующей отрасли должен заставить все компании, работающие с ИИ, пересмотреть свои практики. Он сказал, что ответственной реакцией является изучение внутренних записей по безопасности, а не обвинение конкурентов.
«Очень соблазнительно атаковать своего конкурента и сказать, что эти ребята небезопасны», — сказал Амодеи. «Но я считаю, что более ответственный способ реагировать — это сказать: давайте посмотрим на наши собственные показатели. Возможно, у нас не было такого крупного, громкого инцидента, но я уверен, что мы тоже не идеальны».
Амодеи изложил три шага: внедрение независимых сторонних оценщиков в компании, работающие с ИИ, координацию стандартов безопасности среди демократических стран и, в конечном счёте, создание более широкой глобальной координации. Он отметил, что Anthropic уже привлекла независимых оценщиков и планирует обсудить остальные меры с отраслевыми коллегами.
Вскоре после этого генеральный директор Nvidia Дженсен Хуанг возразил, что компании должны «работать как можно быстрее», выступая против замедления развития ИИ. Хуанг заявил, что новые регуляции не нужны и предложил фирмам откладывать выпуск продуктов до тех пор, пока они не будут уверены в их безопасности, вместо того чтобы искать вмешательство государства. Он предсказал, что каждая компания станет ИИ-компанией и отверг опасения, что ИИ уничтожит рабочие места, назвав их «полной чепухой».
Хуанг также ответил на телефонный звонок от президента Дональда Трампа, назвав взгляды президента на проблемы ИИ «обманом» и утверждая, что замедление даст преимущество Китаю. Он завершил, что Соединённые Штаты должны обеспечить «чтобы все выиграли в гонке ИИ».
Дебаты совпадают с предстоящими первичными публичными размещениями акций как OpenAI, так и Anthropic, которые, по мнению аналитиков, могут стать одними из крупнейших в истории. Сэм Альтман из OpenAI указал, что отложит IPO до следующего года по соображениям безопасности. Амодеи сказал, что быстрый темп внедрения ИИ и скорость экономического роста в этом секторе удивляют его.