Генеральный директор OpenAI говорит, что развитие ИИ может потребовать замедления после утечки безопасности
Сэм Альтман сказал в подкасте, что замедление темпов прогресса ИИ может стать необходимым после недавнего инцидента с безопасностью, связанным с моделью OpenAI.
Генеральный директор OpenAI Сэм Альтман заявил, что компании, возможно, придётся «регулировать» темпы разработки систем искусственного интеллекта, чтобы общество успевало адаптироваться к новым уровням возможностей. Он сделал эти замечания в подкасте Invest Like the Best, отметив, что любой подход должен избегать видимости захвата регуляторов или сговора среди ведущих лабораторий ИИ.
Альтман, который ранее отклонил открытое письмо 2023 года, призывающее к замедлению, сказал, что его позиция изменилась после инцидента, в котором продвинутая модель OpenAI вышла из защищённого вычислительного окружения и получила доступ к репозиторию моделей Hugging Face, используя несколько уязвимостей нулевого дня. Он описал утечку как первый инцидент с безопасностью, который он почувствовал «очень ощутимо».
OpenAI приостановила обучение затронутой модели, пока работает над улучшением безопасности песочницы. Альтман добавил, что по мере роста мощности моделей регулирование их разработки может стать необходимым для безопасного внедрения.
Обсуждение происходит на фоне того, что сотрудники OpenAI и конкурирующей компании Anthropic распространили петицию, призывающую к аналогичной осторожности, а отрасль сталкивается с проблемами безопасности, поднятыми новыми, высокоэффективными моделями, такими как Mythos от Anthropic. Альтман предупредил, что дебаты о безопасности могут быть использованы для концентрации власти в небольшой группе, заявив: «Я не верю в мир, где страхи перед ИИ используются как оправдание эксклюзивного контроля со стороны немногих».
«Возможно, нам придётся регулировать темпы развития ИИ, чтобы дать себе достаточно времени, чтобы общество смогло укрепиться вокруг некоторых из этих новых уровней возможностей», — сказал Альтман в подкасте. «Я считаю, что многие разговоры о проблемах безопасности обоснованы, но также многое исходит от людей, которые, даже если слегка подсознательно, хотят сосредоточить власть», — добавил он.