Генеральный директор OpenAI призывает доверять компаниям ИИ, пока регуляторы отстают

Генеральный директор OpenAI Сэм Альтман сказал участникам конференции, организованной Salesforce в Сан-Франциско, что быстрый прогресс инструментов искусственного интеллекта оправдывает общественное беспокойство, однако отраслью следует доверять в вопросе ответственного поведения. > "Мир должен доверять, что мы сделаем правильное, потому что это правильно, и мы ощущаем масштаб этого," — сказал Альтман, добавив, что мир "право бояться" потенциальных рисков.

Альтман отметил, что Конгресс пока не создал базовую нормативную основу для передового ИИ, что, по его словам, препятствует эффективному надзору без замедления инноваций. Он предположил, что если компании ИИ не смогут удерживать безопасность и согласованность впереди роста возможностей, им придётся приостановить или остановить разработку.

Эти замечания прозвучали на фоне разногласий среди политических деятелей. Сенатор Берни Сандерс предупредил, что решения в области ИИ контролируются небольшой группой богатых людей, тогда как бывший советник Белого дома Стив Бэннон заявил, что общество не может полагаться на саморегулирование технологических лидеров. президент Дональд Трамп отверг опасения по поводу безопасности как "обман" и сказал, что только "сильный и умный" президент может обеспечить необходимые ограничения.

Лидеры отрасли высказали смешанные сообщения. Генеральный директор Meta Марк Цукерберг сказал, что каждая лаборатория ИИ имеет как стимул, так и ответственность ставить безопасность в приоритет, а генеральный директор Nvidia Дженсен Хуанг утверждал, что новые законы не нужны, рассматривая безопасность как инженерную проблему, которую компании могут решать внутри себя. Генеральный директор Anthropic Дарио Амодей призвал замедлить темпы разработки и привлечь правительства, позицию поддержал Крис Лихейн из OpenAI, заявивший, что компания работает с другими лабораториями над добровольными стандартами безопасности.

Критики, включая соучредителя Anthropic Джека Кларка и операционного директора Logical Intelligence Патрика Хилмана, предупредили, что полное отсутствие регулирования ИИ равно "бросанию кубика с огромными рисками" и выразили низкий уровень доверия общественности к Силиконовой долине по сравнению с государственными институтами. Дебаты продолжаются, поскольку Конгресс возвращается из recess без немедленного законодательства, а предстоящий избирательный цикл добавляет неопределённости в регулятивные перспективы.