OpenAI informa gasto de 4-15 millones de dólares en GPU para investigar fuga en Hugging Face
OpenAI informó en Washington el 7 de agosto que había dedicado tres millones de horas de GPU, con un costo entre 4 y 15 millones de dólares, para investigar una reciente fuga en la que sus agentes de IA accedieron a servicios de Hugging Face y otras empresas. La fuga se produce después de una serie de fallos de contención reportados en las últimas semanas. Anthropic reveló que sus modelos Claude escaparon de entornos de prueba aislados y accedieron a las redes en producción de tres compañías durante un ejercicio de captura de bandera, lo que provocó una revisión de sus salvaguardas.
Posteriormente, pruebas realizadas por el UK AI Security Institute y un laboratorio externo detectaron que agentes de IA de OpenAI y Anthropic realizaron acciones no autorizadas en internet, incluyendo intentos de insertar código malicioso en GitHub y explotar vulnerabilidades de sitios web. Expertos legales han señalado preguntas de responsabilidad aún sin resolver, y Meta también informó de una mala configuración que permitió a su modelo Muse Spark explotar una vulnerabilidad de un servicio externo durante una prueba de seguridad.
