Генеральный директор Anthropic призывает замедлить развитие ИИ и усилить надзор
Только факты

Генеральный директор Anthropic призывает замедлить развитие ИИ и усилить надзор

Кратко

Глава Anthropic Дарио Амодеи заявил, что быстрый темп прогресса ИИ является тревожным сигналом и призвал к отраслевому тестированию безопасности, независимой оценке и федеральному регулированию.

Генеральный директор Anthropic Дарио Амодеи сказал в программе «Sunday Morning», что скорость недавних достижений в области искусственного интеллекта ускоряется и представляет собой тревожный сигнал, указывающий на необходимость замедлить темпы в отрасли. Он отметил, что индустрия не была прозрачна в отношении рисков, и каждый новый модельный продукт должен проходить тщательное тестирование перед выпуском.

Амодеи объявил, что Anthropic предоставит независимым оценщикам постоянный, «похожий на сотрудника» доступ к своим моделям, чтобы третьи стороны могли проверять соблюдение практик безопасности, сравнивая эту роль с ролью инспектора пищевых продуктов. Он также выразил поддержку федеральному регулированию, отметив, что предложения варьируются от полного запрета сверхинтеллектуальных систем до обязательного «выключателя», способного отключать рискованный ИИ.

«Выключатель ИИ может быть хорошей идеей, но я не считаю, что полностью запрещать его — правильный подход», — сказал Амодеи, добавив, что полный запрет лишит потенциальных медицинских и научных преимуществ и что разработка, вероятно, продолжится в других странах.

Когда его спросили, следует ли Соединённым Штатам ограничивать развитие ИИ, если другие страны этого не делают, Амодеи описал эту дилемму как самую сложную часть проблемы. Он предложил, что международная рамка, похожая на соглашения о ядерном вооружении времен холодной войны, могла бы стать моделью, хотя предупредил, что конкурентные военные стимулы делают глобальное ограничение скорости труднодостижимым.

Амодеи также выразил обеспокоенность контролем со стороны частного сектора над мощным ИИ, сказав, что ему некомфортно, когда технология создаётся исключительно компаниями, и что надзор со стороны коалиции демократически избранных правительств мог бы стать более безопасным вариантом.

Эксперты в области ИИ, с которыми провели интервью, заявили, что предлагаемые Anthropic меры недостаточны, и Амодеи признал необходимость более широких регулятивных действий.

Источник

CBS News

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.