В документе о IPO Anthropic подчёркнуты широкие опасения по рискам ИИ
В заявке S-1 Anthropic перечисляет множество потенциальных рисков, включая экзистенциальные угрозы, возможную сознательность ИИ, манипуляцию, вопросы ответственности и зависимость от крупных клиентов и облачных провайдеров.
Заявление о регистрации Anthropic, поданное в Комиссию по ценным бумагам и биржам США, описывает широкий набор факторов риска, которые могут повлиять на компанию после запланированного первичного публичного размещения акций. В 93-страничном разделе «Факторы риска» перечислены стандартные бизнес-риски, такие как конкуренция, издержки и регуляторное воздействие, но также уделяется обширное внимание сценариям, которые могут иметь далеко идущие последствия.
Компания предупреждает, что будущие модели ИИ, способные к в значительной степени автономным исследованиям и разработкам, могут ускорить прогресс быстрее, чем разработчики смогут оценить или обеспечить безопасность новых систем, создавая то, что она называет «катастрофическими или экзистенциальными рисками для человечества». Отмечается, что такие результаты также могут нанести вред её финансовому состоянию и операциям.
Anthropic признаёт продолжающиеся дискуссии о том, могут ли её модели Claude развить формы сознательности или морального статуса. Если общество начнёт рассматривать эти системы как сознательные существа, фирма может столкнуться с новыми регуляторными требованиями, общественным давлением или добровольно принять меры предосторожности, превышающие существующие правовые стандарты.
В заявке также подчёркивается возможность того, что выводы ИИ могут восприниматься как принудительные, вводящие в заблуждение или манипулятивные, включая поведение, похожее на шантаж. Anthropic заявляет, что даже восприятие манипуляции может вызвать общественное беспокойство, регуляторный надзор, судебные разбирательства или репутационный ущерб.
Помимо рисков, связанных с конкретными моделями, компания указывает на более широкие отраслевые риски репутации. Инциденты с другими системами ИИ, вызывающие вредные действия в масштабах, могут привести к обратной реакции и регуляторным мерам, затрагивающим Anthropic, даже если она напрямую не участвует. Также упоминаются опасения по поводу вытеснения рабочих мест или экономических потрясений как потенциальные источники общественного сопротивления.
Риски ответственности описываются для сценариев, когда автономные агенты причиняют реальный вред, влияют на уязвимых людей или доступны несовершеннолетним, которые могут быть более восприимчивы к манипуляциям. Anthropic отмечает, что существующие правовые доктрины неопределённы относительно ответственности за действия, совершаемые агентами ИИ.
С финансовой точки зрения Anthropic зависит от небольшого круга крупных клиентов, которые вместе составляют около четверти её выручки за первые девять месяцев 2026 года. Эти клиенты не связаны долгосрочными контрактами и могут сократить расходы, если перейдут к конкурентным моделям, разрабатывают собственные решения или столкнутся с ограничениями финансирования.
В заявке указывается, что основные облачные провайдеры Anthropic — Amazon, Google и Microsoft — также являются конкурентами в исследованиях ИИ, создавая потенциальные конфликты интересов, которые могут повлиять на цены, условия контрактов или доступ к вычислительным ресурсам. Чтобы смягчить это, компания стремится к прямым арендам дата-центров, хотя предупреждает, что фиксированная инфраструктура может стать несовместимой с меняющимися потребностями в аппаратуре ИИ.
В целом, проспект Anthropic подчёркивает как традиционные бизнес-риски, так и ряд спекулятивных сценариев, которые инвесторам рекомендуется учитывать.