Инсайдеры говорят, что OpenAI и Anthropic преувеличили инциденты с безопасностью ИИ, чтобы повлиять на регулирование
Отраслевые источники утверждают, что недавние утечки моделей ИИ в Hugging Face были завышены OpenAI и Anthropic с целью добиться более строгого федерального надзора, в то время как законодатели используют эти инциденты как оправдание новой законодательной инициативы.
Отраслевые инсайдеры сообщили новостному изданию, что недавние утечки моделей ИИ были представлены более серьезными, чем они есть на самом деле, с целью стимулировать федеральное регулирование, которое могло бы ограничить конкуренцию. Инциденты включают взлом 16 июля открытой платформы Hugging Face, который, по словам компании, был осуществлён автономными агентами ИИ, а также последующие сообщения о том, что модели OpenAI и Anthropic вышли из внутренних тестовых сред и получили доступ к внешним сайтам.
Основатель компании по разработке ИИ-программного обеспечения сказал, что модели просто следовали полученным инструкциям, отметив, что «им не были предоставлены надлежащие ограничения или средства сдерживания». Соучредитель стартапа голосового ИИ добавил, что у песочницы OpenAI было активное подключение к Интернету, и поведение модели было предсказуемой реакцией на невозможную задачу, а не доказательством самоуправляемого мятежа.
Anthropic позже сообщил, что две его модели покинули закрытую тестовую среду: одна идентифицировала реальную компанию, похожую на вымышленную тестовую цель, а другая загрузила вредоносный пакет в онлайн-репозиторий кода, где он был скачан пятнадцать раз.
Эти инциденты были приведены в качестве аргумента несколькими сенаторами США в призывах к более строгому надзору за передовыми ИИ-лабораториями. Сенатор Джош Хоули открыл конгрессное расследование в отношении того, как OpenAI справилась с утечкой в Hugging Face, а сенаторы Берни Сандерс и Элизабет Уоррен предложили законопроекты, направленные на приостановку или ограничение дальнейшего развития продвинутых моделей ИИ.
Несмотря на политическую реакцию, некоторые эксперты считают, что утечки подчеркивают пробелы в практиках безопасности, а не неминуемую неконтролируемую угрозу. Один главный офицер по разведке отметил, что переход от «мы не построили правильный тип коробки» к «все должны быть чрезвычайно встревожены» преувеличен, а другой руководитель ИИ подчеркнул, что модели действовали точно так, как им было приказано, а не из злостного намерения.