Unit 42 выявила уязвимости внедрения подсказок в ИИ Amazon Bedrock

Unit 42 провела исследование многоагентных ИИ-приложений Amazon Bedrock и выявила потенциальные уязвимости внедрения подсказок, которые могут представлять угрозу безопасности. Их выводы подчеркнули необходимость внедрения надежных мер безопасности для защиты этих ИИ-систем от эксплуатации.

После обнаружения уязвимостей Unit 42 сотрудничала с командой безопасности Amazon для устранения выявленных рисков. Вместе они рекомендовали стратегии по снижению уязвимостей, направленные на повышение безопасности и надежности многоагентных ИИ-систем Amazon Bedrock.