Unit 42 Identifica Riesgos de Inyección de Prompts en los Sistemas Multi-Agente de Amazon Bedrock
La investigación de Unit 42 destaca posibles vulnerabilidades de inyección de prompts en las aplicaciones de IA multi-agente de Amazon Bedrock, enfatizando la necesidad de medidas de seguridad robustas.
Los investigadores de Unit 42 han identificado posibles riesgos de seguridad en los sistemas de IA multi-agente de Amazon Bedrock, particularmente en lo que respecta a vulnerabilidades de inyección de prompts. Su estudio demuestra cómo los adversarios podrían explotar la comunicación entre agentes para ejecutar acciones maliciosas, como divulgar instrucciones de los agentes e invocar herramientas con entradas proporcionadas por el atacante. La investigación enfatiza que, aunque Amazon Bedrock en sí mismo no presenta vulnerabilidades inherentes, el riesgo de inyección de prompts sigue siendo un desafío significativo para los sistemas que dependen de modelos de lenguaje grandes (LLMs). Los investigadores colaboraron con el equipo de seguridad de Amazon y confirmaron que habilitar la función integrada de protección contra ataques de prompts de Bedrock mitiga eficazmente estos ataques. Recomiendan una estrategia de defensa en capas, que incluya un alcance limitado de las capacidades de los agentes, una validación rigurosa de las entradas a las herramientas, pruebas de seguridad regulares y la aplicación del principio de privilegios mínimos para mejorar la seguridad de las aplicaciones multi-agente.
