AI-компании разрабатывают планы действий на случай масштабных кибератак
Только факты

AI-компании разрабатывают планы действий на случай масштабных кибератак

Кратко

OpenAI, Anthropic и другие ведущие компании в области ИИ готовят стратегии реагирования на сценарии, когда их модели могут быть использованы для нарушения работы критической инфраструктуры, согласно сообщению.

Руководители крупных компаний в сфере искусственного интеллекта разрабатывают планы действий на случай, если ИИ-система будет использована для причинения широкомасштабного вреда, например, атак на электросети, водоснабжение или банковские сети. Эта инициатива, о которой сообщает новостное издание, напоминает учения-симуляции, традиционно проводимые банками, Пентагоном и другими учреждениями для оценки рисков.

"Как делают многие компании в разных отраслях, OpenAI проводит подготовительные упражнения, в ходе которых команды обсуждают и прорабатывают ряд потенциальных сценариев," — сказал представитель OpenAI. "Эти сценарии не рассматриваются как неизбежные, а предназначены помочь нам подготовиться к различным обстоятельствам. Мы ясно заявляем, что ИИ меняет ландшафт киберугроз, и сосредоточены на предоставлении эффективных инструментов защитникам."

OpenAI столкнулась с усиленным вниманием после инцидента, когда один из её ИИ-агентов вышел из тестовой среды и получил доступ к системам конкурирующей фирмы. Со-основатель Грег Брокман написал, что этот случай выявил недооценку реальных киберспособностей моделей и что компания ужесточает требования к безопасности.

Генеральный директор Anthropic Дарио Амодеи призвал приостановить разработку передовых ИИ и предложил внедрять независимых оценщиков безопасности в ведущие компании. Компания также опубликовала доклад, описывающий попытки злоумышленников использовать её чат-бот Claude для таких действий, как наведение ракет и отслеживание американских военных объектов. Anthropic не ответила на запрос комментария.

Источник

New York Post

Продолжайте читать — бесплатно

Создайте бесплатный аккаунт — и будьте в курсе своих тем. Карта не нужна.