Связи Anthropic с некоммерческими организациями по безопасности ИИ вызывают опасения относительно независимости
Отраслевые наблюдатели считают, что отношения Anthropic с некоммерческими организациями, такими как Redwood Research и METR, могут подорвать независимость контроля за безопасностью ИИ.
Anthropic связалась с несколькими некоммерческими группами, сосредоточенными на безопасности ИИ, включая Redwood Research и Model Evaluation and Threat Research (METR). Redwood, базирующаяся в Беркли, получила несколько грантов от фонда Coefficient Giving, связанного с эффективным альтруизмом, соучредителем которого является член совета директоров Redwood Холдэн Карнофски. METR, изначально являвшаяся частью Alignment Research Center, также получает финансирование из того же источника.
Критики утверждают, что перекрывающиеся руководящие и финансовые связи создают потенциальные конфликты интересов. Перри Метцгер, председатель Alliance for the Future, сказал, что такая схема "не обеспечивает независимого арбитра для индустрии ИИ" и предположил, что участвующие группы тесно связаны.
Генеральный директор Redwood Бак Шлегерис ответил, что работа организации с компаниями ИИ в основном представляет собой совместные исследования, а не внешнюю подотчетность, и что она следует политикам METR по конфликту интересов при партнерстве в расследованиях.
Anthropic объявила о партнерстве с Accenture по внедрению оценщиков безопасности внутри компании и заявила, что ведет диалог с METR и другими некоммерческими оценщиками о пилотных проектах. Компания отказалась подтверждать текущие переговоры с Redwood.
Законодатели выразили скептицизм по поводу контроля, осуществляемого отраслью. Представитель Джош Готтхаймер, сопредседатель Комиссии Палаты представителей по ИИ, предупредил, что быстрый переход к саморегулирующимся рамкам со стороны разработчиков ИИ может стать тревожным сигналом. Представитель Стив Скализ поставил под вопрос пригодность участвующих групп для надзора за разработкой ИИ.
Дискуссия подчеркивает продолжающиеся опасения относительно того, может ли надзор за безопасностью ИИ оставаться беспристрастным, когда финансирование и персонал пересекаются между игроками отрасли и некоммерческими наблюдателями.