Генеральный директор Nvidia заявил, что лаборатории ИИ должны быть закрыты, если они не могут контролировать свои модели
Глава Nvidia Дженсен Хуанг заявил, что компании, разрабатывающие передовой ИИ, должны прекращать выпуск продуктов, которые нельзя безопасно контролировать, а лаборатории, неспособные сдерживать свои модели, следует закрывать.
Генеральный директор Nvidia Дженсен Хуанг сказал ведущему Эзре Кляйну, что если проекты искусственного интеллекта нельзя безопасно сдержать, ответственной мерой будет полностью прекратить работу. Он привёл пример сложности обеспечения безопасности самоуправляемых автомобилей, которые полагаются на обучение машинного обучения, а не на явное программирование, и отметил, что решение состоит в том, чтобы не выпускать такие продукты, пока проблема не будет решена.
Хуанг добавил, что если система ИИ представляет риск неконтролируемого поведения — например, гипотетический сценарий, когда агенты ИИ захлестывают интернет, — компании должны решить проблему до любого публичного релиза. Он предупредил, что лаборатория, признающая, что не может предотвратить нанесение ущерба своими моделями, должна быть закрыта.
Подчеркивая корпоративную ответственность, Хуанг сказал, что генеральные директора обладают полномочиями и обязанностью останавливать небезопасные запуски, отмечая, что потенциальная ответственность перед акционерами и обществом превышает любую мотивацию к прибыли. Он представил эту проблему как вопрос агентности и подотчетности внутри компаний, разрабатывающих ИИ, а не как зависимость от внешнего регулирования.