Профессор критикует внутреннюю культуру Anthropic и обещания по безопасности
Только факты

Профессор критикует внутреннюю культуру Anthropic и обещания по безопасности

Кратко

Профессор Университета Вашингтона Педро Домингос заявил, что практики найма и внутренние ритуалы Anthropic создают высоко сплочённый коллектив, описывая среду как культовую и ставя под вопрос её подход к безопасности ИИ.

Профессор Университета Вашингтона Педро Домингос предупредил, что Anthropic, стартап в области ИИ, оценённый примерно в 965 млрд долларов, поддерживает высоко сплочённую внутреннюю культуру, которую он сравнил с культом. Он сказал, что процесс найма в компании включает обязательство ставить общественную безопасность выше прибыли и психологическое профилирование для оценки соответствия кандидатов её целям. Домингос добавил, что сотрудники участвуют в двухнедельных встречах под названием «Vision Quests», которые он сравнил с проповедями, и что фирма проводила мероприятия, такие как похороны устаревшей версии её чат-бота Claude.

Anthropic, в которой работает примерно 2 500 сотрудников, удерживает около 80 % своих инженеров минимум два года, что считается выше, чем у многих аналогичных лабораторий. Компания также реализует программы по размещению молодых работников в некоммерческих организациях и продвижению модели Claude в университетских кампусах. Кроме того, Anthropic инвестирует в исследования безопасности ИИ через такие фирмы, как METR.

Домингос выразил обеспокоенность тем, что сильное внутреннее согласие в компании может усиливать её убеждение в том, что ИИ может представлять экзистенциальные риски, отмечая, что некоторые сотрудники действительно переживают по поводу потенциальных опасностей. Он сравнил это с другими фирмами в сфере ИИ, сказав, что хотя некоторые руководители публично призывают к регулированию, они могут также извлекать выгоду из более строгих правил.

Anthropic не ответила на запросы о комментариях.

Источник

New York Post

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.