Anthropic опубликовала доклад об злоупотреблении ИИ со стороны преступников и государственных акторов
154-страничный доклад Anthropic о разведке угроз описывает попытки различных акторов использовать её модели ИИ для разработки оружия, наблюдения и пропаганды, а также отмечает меры компании по блокировке такого злоупотребления.
Anthropic опубликовала 154-страничный доклад по разведке угроз в четверг, описывающий попытки преступников, государственных групп, поставщиков шпионского ПО, учёных и пропагандистов использовать её модели ИИ в злонамеренных целях. Компания заявила, что приведённые случаи являются самыми заметными и новыми инцидентами, выявленными до настоящего времени, и что она чувствует ответственность за их раскрытие.
В докладе представлены пять кейсов исследователей, которые обошли защитные механизмы Anthropic, чтобы использовать её модель Claude в биологической работе, включая государственно-финансируемый грант на изучение вируса чикунгуньи. Хотя такие исследования могут способствовать разработке вакцин, Anthropic предупредила, что их также можно переориентировать на биологическое оружие, и сообщила, что вовлечённые аккаунты были заблокированы.
Другие приведённые примеры включают российские шпионские операции, кибератаки типа «смэш-энд-граб», программы наблюдения за уйгурами в Сирии и внутренними диссидентами, а также пропагандистские кампании в нескольких странах. Компания также отметила использование Claude в Йемене, Китае и России для создания программного обеспечения для обычного оружия, такого как огнестрельное оружие, ракеты и дроны.
Раскрытие информации последовало за отставкой сотрудника Anthropic Джейкоба Коксона, который утверждал, что фирма и её конкурент ускоряют развитие самосовершенствующегося суперразума, который может представлять угрозу человечеству. Эксперты, с которыми провели интервью, сказали, что непосредственные реальные угрозы от злоупотребления ИИ более актуальны, чем спекулятивные экзистенциальные риски.
"Биологическое злоупотребление является одной из самых серьёзных угроз моделей передового ИИ," говорится в докладе.
"По мере того как модели становятся всё более способными, их риски будут расти, если разработчики ИИ и защитники общества не примут меры по их обеспечению безопасностью," добавила компания.
Anthropic призвала к отраслевому сотрудничеству с правительствами и международными организациями для разработки средств защиты от подобных вредоносных действий.