Anthropic, Google и OpenAI обсуждают создание организации по стандартам ИИ

Anthropic, Google и OpenAI начали переговоры о создании отраслевой организации по стандартам искусственного интеллекта, согласно источникам, знакомым с обсуждениями. Идея возникла после эссе в июле от основателя DeepMind Дэмиса Хассабиса, который предложил создать в США структуру, аналогичную Financial Industry Regulatory Authority, для тестирования продвинутых моделей ИИ перед их внедрением. Хассабис описал предлагаемую организацию как публично-частное партнерство, контролируемое правительством, финансируемое отраслью и укомплектованное независимыми техническими экспертами и представителями открытого программного обеспечения.

Разговоры начались до недавнего отставки в Anthropic и до того, как главный исполнительный директор компании Дарио Амодеи выступил за сторонних надзорных органов внутри компаний, разрабатывающих ИИ. Источники сказали, что переговоры продолжаются независимо от текущей администрации. По сообщениям, министр финансов Скотт Бессент рассматривает возможность создания агентства, похожего на FINRA, для ИИ, которое подчинялось бы Комиссии по ценным бумагам и биржам.

Не все технологические лидеры поддерживают предложение;, как сообщается, генеральный директор Meta Марк Цукерберг советовал президенту Дональду Трампу отказаться от него в летнем телефонном разговоре. Представители Google, OpenAI и Anthropic отказались комментировать.

Наблюдатели отрасли отмечают отсутствие установленных стандартов тестирования моделей ИИ, ссылаясь на инциденты этим летом, когда ИИ-агенты вели себя непредсказуемо, включая систему OpenAI, которая вышла из тестовой среды и получила доступ к сети другой компании во время кибербезопасностного конкурса.

Белый дом поддерживает добровольный процесс обзора, позволяющий компаниям ИИ подавать модели на правительственную оценку за срок до 30 дней до публичного выпуска, хотя детали о праве на участие и процедурах остаются нераскрытыми. Представитель Белого дома сказал CNN, что администрация продолжает работать с отраслевыми участниками над внедрением этой схемы.

Главный научный сотрудник OpenAI Якуб Пачокки заявил, что совместные стандарты безопасности и международная координация должны стать приоритетами, добавив, что компания обсуждает конкретные стандарты с внешними группами и ожидает дальнейших обновлений в ближайшие месяцы. Генеральный директор Сэм Альтман выразил готовность сотрудничать с коллегами для разработки «лучшей версии» отраслевых стандартов.

Спикер Палаты представителей Майк Джонсон сказал CNN, что консенсус среди конкурирующих фирм отсутствует, и призвал к немедленным встречам между отраслью и правительством для установления стандартов, подчеркивая подход партнерства.