Unit 42 выявила риски инъекций подсказок в многоагентных системах Amazon Bedrock
Исследование Unit 42 выявляет потенциальные уязвимости инъекций подсказок в многоагентных ИИ-приложениях Amazon Bedrock, подчеркивая необходимость надежных мер безопасности.
Исследователи Unit 42 выявили потенциальные риски безопасности в многоагентных ИИ-системах Amazon Bedrock, особенно связанные с уязвимостями инъекций подсказок. Их исследование демонстрирует, как злоумышленники могут использовать межагентное взаимодействие для выполнения вредоносных действий, таких как раскрытие инструкций агентов и вызов инструментов с вводом, предоставленным атакующим. В исследовании подчеркивается, что хотя сама платформа Amazon Bedrock не обладает врожденными уязвимостями, риск инъекций подсказок остается серьезной проблемой для систем, использующих большие языковые модели (LLM). Исследователи сотрудничали с командой безопасности Amazon и подтвердили, что включение встроенной защиты от атак подсказок Guardrail в Bedrock эффективно снижает эти угрозы. Они рекомендуют многоуровневую стратегию защиты, включающую узкое определение возможностей агентов, тщательную проверку вводимых в инструменты данных, регулярное тестирование безопасности и применение принципа наименьших привилегий для повышения безопасности многоагентных приложений.
