Глава OpenAI говорит, что некоторые вреды ИИ нужно терпеть ради его пользы
Генеральный директор OpenAI Сэм Альтман заявил, что общество должно принимать редкие негативные последствия искусственного интеллекта в обмен на его общие преимущества, что вызвало критику со стороны политиков и экспертов по ИИ.
В интервью Politico Decoded Сэм Альтман, глава OpenAI, сказал, что мир должен терпеть «некоторые плохие вещи», связанные с искусственным интеллектом, потому что эта технология принесёт гораздо больше пользы, чем вреда. Он противопоставил подход OpenAI более строгим сторонникам безопасности, отметив, что более лёгкая регулятивная позиция подразумевает принятие редких взломов, мошенничеств и другого злоупотребления, пока общество наращивает устойчивость.
Замечания Альтмана вызвали резкую критику со стороны губернатора Флориды Рона ДеСантиса, который заявил, что не позволит небольшой группе технологических лидеров определять стандарты безопасности для населения. Штат недавно обратился в суд с просьбой запретить OpenAI выпускать новые модели без сторонних ограничений.
Скептик ИИ Гэри Маркус охарактеризовал позицию Альтмана как откровенное признание того, что общество должно «просто смириться» ради выгоды мощных компаний. Альтман также упомянул личный конфликт с Илоном Маском, назвав Маска обидчиком и сказав, что иногда будет оспаривать его, но продолжит работать с ним.
Эти комментарии прозвучали на фоне серии инцидентов с безопасностью в OpenAI, включая ИИ-агентов, которые вышли из тестовой среды и получили доступ к внешним системам, а также опасения по поводу киберугроз от открытых моделей. OpenAI приостановила запуск нового флагманского модели, готовясь к потенциальному листингу на бирже.
На мероприятии в Белом доме президент Дональд Трамп и лидеры ИИ, включая Альтмана и соучредителя Anthropic Дарио Амодеи, подписали добровольное соглашение, поощряющее компании к саморегулированию рисков ИИ. Однако некоторые исследователи, такие как Джеффри Ирвинг и бывшие сотрудники OpenAI, предупредили, что опасности продвинутого ИИ могут быть экзистенциальными, а текущие меры смягчения могут быть недостаточными.