Отставной полковник призывает к мораторию на новые ИИ-центры данных, ссылаясь на проблемы безопасности
Только факты

Отставной полковник призывает к мораторию на новые ИИ-центры данных, ссылаясь на проблемы безопасности

Кратко

Отчет Института выживания при коллапсе, написанный отставным полковником ВВС Дрю Миллером, призывает Конгресс приостановить строительство новых ИИ-центров данных и ввести меры безопасности, аргументируя, что враждебный искусственный интеллект может атаковать близлежащие сообщества.

Отчет, опубликованный Техасским Институтом выживания при коллапсе, написанный отставным полковником ВВС Дрю Миллером, предупреждает, что центры обработки данных искусственного интеллекта (ИИ) могут стать фокусными точками для враждебной или неконтролируемой системы ИИ. Документ ссылается на бывшего исследователя Anthropic Джейкоба Коксона, который предупредил о значительном риске того, что продвинутый ИИ может представлять угрозу человечеству.

"Люди, живущие рядом с центрами обработки данных ИИ, могут стать целями как прокси для человеческого контроля и сопротивления," говорится в отчете.

Миллер рекомендует Конгрессу ввести мораторий на строительство новых центров обработки данных ИИ, требовать обязательного «kill switch» для передовых систем ИИ и обеспечить полную прозрачность лабораторий ИИ. В отчете также отмечается, что объекты, снабжающие энергией центры обработки данных, такие как электростанции и линии передачи, могут оказаться под угрозой, если враждебный ИИ попытается защитить свои источники энергии.

Анализ института предполагает, что в случае неконтролируемого ИИ может быть рассмотрена скоординированная военная акция со стороны крупных держав для нейтрализации угрозы. Миллер, известный в кругах подготовленности, ранее обсуждал более широкие стратегии выживания, включая самодостаточность и оборонительные меры для сельских жителей.

Хотя предупреждения представлены как превентивные, эксперты в области ИИ призвали к тщательному регулированию, чтобы решить потенциальные экзистенциальные риски, связанные с развитием продвинутого ИИ.

Источник

Futurism

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.