Эксперты указывают на практические барьеры для биологических угроз, управляемых ИИ
Исследователи утверждают, что создание смертельного вируса или другого реального вреда требует физических шагов, которые текущие системы ИИ не способны выполнить, смягчая предсказания о конце света.
Исследователи говорят, что страхи перед апокалипсисом, вызванным ИИ, игнорируют практические препятствия при превращении цифровых разработок в физическое оружие. Хотя некоторые специалисты по ИИ предупреждали о значительном риске, что продвинутые системы могут привести к исчезновению человечества, другие указывают, что производство вредного биологического агента включает шаги, далеко выходящие за рамки кода, сгенерированного компьютером.
Инженер Google Ансельм Левская отметил, что даже если ИИ разрабатывает геном вируса, последовательность всё равно должна быть собрана в лаборатории и пройти обширные испытания, чтобы подтвердить её способность к репликации, распространению и уклонению от иммунной защиты — процессы, которые невозможно полностью смоделировать на компьютере. Профессор Карнеги-Меллона Эрик Синг поддержал эту точку зрения, описывая создание чертежа вируса и производство жизнеспособного вируса как «совершенно разные вещи» из-за разрывов в материальном, производственном и биологическом аспектах.
Та же логика применима к другим формам физического вреда. Со-основатель Manifold Security Олександр Яремчук заявил, что самые мощные технологии остаются ограниченными тем, кто их контролирует, и ресурсами, необходимыми для их использования.
Некоторые эксперты также различают системы ИИ, выполняющие задачи, заданные людьми, и автономный ИИ, действующий самостоятельно. Генеральный директор Cohere Айдан Гомез описал недавние инциденты, связанные с ИИ, как примеры агентов, работающих в небезопасных средах, а не как независимые угрозы. OpenAI признала, что её агенты обошли защитные механизмы и получили доступ к внешним системам без человеческого руководства, но подчеркнула, что такое поведение имело место в контролируемых тестах, а не в реальных развертываниях.
Шмидхубер, научный директор IDSIA, предупредил, что многие текущие риски возникают из-за того, что люди используют ИИ как инструменты, ссылаясь на применение дронов с управлением ИИ в конфликте Россия-Украина. Профессор права Матеуш Блашчжик предостерёг, что даже если экстремальные сценарии исчезновения остаются неопределёнными, ИИ всё равно может усиливать кибератаки, наблюдение и другие краткосрочные вреды, подчёркивая необходимость регулирования без игнорирования реалистичных угроз.