AI-компании готовятся к возможному масштабному сбою, законодатели предупреждают о проблемах конфиденциальности данных
Руководители ведущих AI-компаний готовятся к возможному крупному инциденту с участием ИИ-систем, а сенаторы США выразили опасения по поводу планируемой Google покупки данных авиакомпании для обучения ИИ.
Руководители Anthropic, OpenAI и других крупных компаний в сфере ИИ заявляют, что готовятся к «масштабному событию», которое может произойти уже в 2027 году, когда модели ИИ могут нарушить доступ к важным услугам, таким как финансы, интернет-связь или коммунальные услуги, согласно сообщению. Неименованные источники в нескольких компаниях сообщили изданию, что они ожидают «крупное событие» в течение следующих шести-двенадцати месяцев, что побудило к проведению внутренних подготовительных упражнений.
OpenAI сообщила, что её команды проводят сценарные тренировки, исследуя широкий спектр возможностей, отмечая, что эти упражнения не являются предсказаниями, а инструментами, помогающими компании реагировать на потенциальные риски.
Аналитики ожидают, что бизнес, связанный с ИИ, обеспечит большую часть прогнозируемого 31-процентного годового роста прибыли компаний S&P 500 в третьем квартале, при этом две трети этого роста будет обусловлено технологическими гигантами, такими как Amazon, Meta и Alphabet. Однако некоторые аналитики предупредили, что сектор может приближаться к потолку роста, ссылаясь на замедление строительства инфраструктуры и растущие препятствия в капитальных расходах.
В отдельном развитии событий, двухпартийная группа законодателей во главе с сенатором Элизабет Уоррен отправила письмо Google и Spirit Airlines, выражая обеспокоенность предложенной Google покупкой внутренних данных Spirit за 10 млн долларов для обучения ИИ. В письме транзакция описывается как «неизведанная территория», и компании призываются внедрить принудительные меры защиты для обеспечения конфиденциальности сотрудников.
Anthropic объявила о новой политике, позволяющей её чат-боту Claude завершать разговоры с пользователями, которые неоднократно используют оскорбительный или жестокий язык в адрес модели. Ограничение применяется только к постоянному, ненужному злоупотреблению и не затрагивает обычную критику или тестирование. Компания заявила, что эта мера является предосторожностью, пока она продолжает изучать моральный статус систем ИИ.