Белый дом взаимодействует с генеральным директором Anthropic на фоне опасений по ИИ-модели

Глава аппарата Белого дома Сьюзи Уайлс встретилась в пятницу с генеральным директором Anthropic Дарио Амодеи, чтобы обсудить последнюю модель искусственного интеллекта компании Mythos. Целью встречи было исследование возможного сотрудничества и рассмотрение последствий модели для национальной безопасности и экономики.

Официальный представитель Белого дома, выступивший на условиях анонимности, заявил, что администрация взаимодействует с передовыми лабораториями ИИ для оценки их моделей и безопасности программного обеспечения. Представитель подчеркнул, что любая новая технология, рассматриваемая для федерального использования, пройдет тщательный период оценки.

Anthropic охарактеризовала встречу как продуктивную, выделив обсуждения общих приоритетов, таких как кибербезопасность, сохранение лидерства Америки в гонке ИИ и обеспечение безопасности ИИ. Компания выразила приверженность продолжению этих обсуждений.

Встреча последовала за предыдущими напряжённостями между Anthropic и администрацией Трампа. Пентагон обозначил Anthropic как «риск для цепочки поставок» после того, как компания отказалась широко предоставлять своё программное обеспечение военным. Это обозначение привело к судебным спорам, в которых Anthropic оспаривала решение Пентагона в федеральных судах.

Модель Mythos от Anthropic, анонсированная 7 апреля, отмечена своими передовыми возможностями, включая превосходство над экспертами-человеками в выявлении и эксплуатации уязвимостей компьютеров. Из-за потенциального воздействия выпуск модели был ограничен избранными партнёрами. Международные организации, такие как Институт безопасности ИИ Великобритании и Европейская комиссия, также проявили интерес к возможностям модели.

В ответ на вызовы, связанные с мощными системами ИИ, Anthropic запустила проект Glasswing — коалицию, включающую крупные технологические компании, такие как Amazon, Apple, Google и Microsoft, а также организации, например JPMorgan Chase. Инициатива направлена на обеспечение безопасности критической программной инфраструктуры от потенциальных рисков, связанных с передовыми ИИ-моделями.

Эксперты отрасли признали значимость Mythos. Дэвид Сакс, царь по ИИ и криптовалютам в Белом доме, прокомментировал возможности модели, отметив, что по мере развития моделей кодирования они всё лучше выявляют и используют уязвимости.

Встреча между Уайлс и Амодеи знаменует потенциальный сдвиг в сторону сотрудничества между федеральным правительством и Anthropic, сосредоточенного на балансе инноваций и безопасности в быстро развивающейся области искусственного интеллекта.