Эксперт по ИИ предупреждает, что текущая система безопасности США недостаточна для предотвращения потенциальных вредов
Профессор NYU Гэри Маркус предупредил, что существующая саморегуляция искусственного интеллекта со стороны Белого дома может не защитить общество, ссылаясь на такие риски, как кибератаки и сбои инфраструктуры.
Профессор-эмеритус NYU Гэри Маркус сказал Fox Business, что в Соединённых Штатах отсутствует адекватное регулирование, принудительное исполнение и внешнее давление на компании, работающие с ИИ, и предупредил, что текущий подход Белого дома к самоконтролю может позволить возникнуть серьёзным проблемам безопасности. Он дал показания перед Советом Нью-Йорка по вопросам безопасности ИИ, заявив, что без более жёстких ограничений «некоторые элементы инфраструктуры выйдут из строя», что может привести к отключениям электроэнергии в больницах и других критически важных объектах.
Маркус привёл в пример недавние инциденты, включая модель Anthropic, которая неоднократно генерировала самоуничижительные заявления, как доказательство того, что системы ИИ ведут себя непредсказуемо. Он сравнил зависимость отрасли от саморегуляции с практиками ранней авиации, утверждая, что внешнее надзорное вмешательство оказалось необходимым в той сфере.
Опрос, проведённый Университетом Куиннипиак, показывает, что почти три четверти американцев обеспокоены рисками ИИ. Маркус также раскритиковал замечания генерального директора OpenAI Сэма Альтмана о том, что некоторые негативные последствия следует принимать ради прогресса ИИ, сравнив эту позицию с фармацевтической компанией, признающей вредные побочные эффекты, но ставящей прибыль выше всего.
Эксперт подчеркнул, что способность ИИ имитировать человеческое поведение без истинного понимания создаёт уязвимости, особенно в сфере кибератак, которые, по его словам, уже привели к тысячам инцидентов.