Рост уязвимостей ИИ опережает призывы к замедлению разработки
В то время как компании ИИ обсуждают возможную отраслевую паузу, исследователи сообщают о быстром росте обнаруживаемых уязвимостей в широко используемых чат-ботах ИИ.
Лидеры отрасли обсуждают согласованное замедление разработки искусственного интеллекта, но специалисты по безопасности говорят, что наиболее непосредственная угроза исходит от растущего числа уязвимостей, раскрываемых инструментами ИИ. Недавнее исследование выделило девять недостатков в программном обеспечении шифрования и аутентификации банкоматов, демонстрируя, как анализ, основанный на ИИ, может выявлять слабости по всей цепочке поставок программного обеспечения.
В отдельном эксперименте открытая модель ИИ, лишённая ограничений безопасности, выявила пробелы в безопасности бытовых устройств и персонального компьютера, а затем предложила рекомендации по усилению защиты. OpenAI планирует выпустить модель ИИ с продвинутыми киберспособностями ограниченному набору партнёров, давая им время для устранения потенциальных угроз.
Обсуждение замедления также подняло юридические вопросы, поскольку руководители ИИ задаются, могут ли антимонопольные нормы препятствовать коллективным действиям. Тем временем политики Соединённого Королевства выразили обеспокоенность быстрым появлением автономных агентов ИИ и их возможным воздействием на общество.
"Нам необходимо понять правовые последствия, прежде чем можно будет реализовать любую согласованную инициативу," — сказал представитель OpenAI.
"Темпы, с которыми обнаруживаются уязвимости, подчёркивают срочность улучшения мер безопасности," — прокомментировал исследователь безопасности, участвовавший в исследовании банкоматов.
Несмотря на разногласия по поводу паузы в разработке, эксперты согласны, что непосредственная задача состоит в защите систем от выявленных ИИ уязвимостей до того, как они будут использованы.