Генеральный директор Microsoft призывает к отраслевому механизму экстренного отключения ИИ
Сатья Наделла предложил «экстренный тормоз», позволяющий уполномоченным лицам приостанавливать или выключать модели ИИ, признанные скомпрометированными, и призвал к отраслевым стандартам раскрытия и аудита.
Генеральный директор Microsoft Сатья Наделла заявил, что сектор искусственного интеллекта должен принять «экстренный тормоз», позволяющий уполномоченному лицу приостановить или выключить модель, если она кажется скомпрометированной. Он опубликовал в X, что разработчики должны предполагать, что модель скомпрометирована с самого начала, и сдерживать её, добавив, что ни одна отдельная модель не должна контролировать как поведение системы, так и доказательства, необходимые для проверки соответствия её первоначальному замыслу.
"Мы должны предполагать, что модель скомпрометирована, и сдерживать её с самого начала," — написал Наделла. "Уполномоченное лицо всегда должно иметь возможность приостановить или выключить модель в процессе выполнения задачи."
Наделла также подчеркнул необходимость системы, обеспечивающей своевременное раскрытие информации, когда модели дают сбой или скомпрометированы, позволяя компаниям делиться уроками по всей отрасли. Он сослался на недавние инциденты, включая агента OpenAI, который получил доступ к сайту австралийского правительства, и отметил, что президент Трамп поручил исполнительной ветви называть ИИ «Сверхинтеллектом».
Это призыв следует за аналогичными предупреждениями от Anthropic, OpenAI и других лидеров ИИ, призывающих к замедлению разработки и усилению саморегулирования.