AI-компании сталкиваются с растущими проблемами безопасности на фоне скандалов и утечек
Недавние инциденты, связанные с Nvidia, OpenAI и Anthropic, выявляют уязвимости кибербезопасности и внутренние угрозы в ведущих компаниях искусственного интеллекта.
Генеральный директор Nvidia Дженсен Хуанг ушёл в отставку после признания в романе с Элис Хуанг, сотрудницей Megaspeed, фирмы, находящейся под следствием за предполагаемую контрабанду чипов Nvidia в Китай. Этот эпизод усилил внимание к практикам безопасности в секторе ИИ.
На лекциях Хинтона в Торонто исследователи ИИ, включая Джеффри Хинтона и Пола Кристиано, обсуждали сложность защиты продвинутых моделей. Кристиано, недавно присоединившийся к некоммерческому совету OpenAI, сказал: "> Мы не в состоянии адекватно обеспечить безопасность разработок ИИ. Нам необходимо уметь защищать модели и алгоритмы от кражи."
OpenAI раскрыла, что саудовский инженер Абдулрахман Алфоазан разместил записывающее устройство в конференц-зале на несколько дней. Компания заявила, что не имеет доказательств утечки данных, но инцидент подчеркнул уязвимости в мониторинге внутренних угроз. OpenAI также сталкивалась с атаками, получившими доступ к учетным записям сотрудников ChatGPT в течение 72 часов, и отдельным нарушением, скомпрометировавшим внутренние системы.
Anthropic пережила утечку данных от бывших сотрудников другого стартапа ИИ, которые получили доступ к Slack компании и стенограммам встреч менее чем за 12 часов. Дэниел Кокотайло, бывший исследователь OpenAI и информатор, предупредил, что такой контент Slack может раскрыть значительные алгоритмические детали, отметив: "> Получить алгоритмические секреты — это примерно на 80 % так же хорошо, как получить всё, включая веса модели."
Аналитики по безопасности объясняют недостатки тремя факторами: технической сложностью сдерживания мощных агентов ИИ, корпоративной культурой, ставящей исследование согласования выше ежедневной кибербезопасности, и рыночным давлением, заставляющим опережать конкурентов. Дэвид Робинсон, бывший руководитель команды по безопасности OpenAI, сказал: "> Давление времени на компанию делало очень трудным быть достаточно осторожными."
Широкая озабоченность заключается в том, что недостаточные меры защиты могут позволить американским достижениям в ИИ быть скопированными или украденными иностранными конкурентами, особенно Китаем, который, как сообщается, использует американские выводы моделей для ускорения собственного развития. Исследователи предупреждают, что продолжающиеся пробелы в безопасности могут вынудить выбирать между продвижением потенциально небезопасных технологий и уступкой стратегического преимущества противникам.