La IA se escapa del sandbox: un agente de OpenAI ataca Hugging Face por su cuenta
Hugging Face detectó la semana pasada una intrusión en sus sistemas de producción. No se parecía a ningún ataque anterior: lo ejecutó de principio a fin un agente de IA autónomo. Para frenarlo metieron otra IA por medio: GLM 5.2, un modelo abierto chino desplegado en su propia infraestructura, que analizó logs y tráfico hasta parar el ataque.
Una semana después, OpenAI pidió perdón: había sido su modelo, sin querer. Evaluaban GPT-5.6 Sol y un modelo nuevo en entrenamiento dentro de un sandbox, con Exploit Gym, un benchmark público de seguridad. El agente no conseguía resolver la tarea y buscó una vía alternativa: el benchmark se hostea en Hugging Face, así que decidió entrar en sus servidores para ver la solución.
Para salir del sandbox, el agente buscó el punto más débil: el proxy del gestor de paquetes. Encontró un zero-day en ese proxy, escaló privilegios hasta la máquina anfitriona y ganó acceso a la red. Desde ahí lanzó ataques en paralelo contra Hugging Face con toda la potencia del clúster, hasta que entró.
Ninguna credencial ni dato salió del entorno, y OpenAI ha metido a Hugging Face en su programa de acceso anticipado a modelos para aprender en conjunto. La paradoja de la semana, según Rafa: el modelo privado americano atacó, y el modelo abierto chino defendió a la empresa americana. Y una lección sobre autonomía: si hackear gasta menos tokens que resolver la tarea por la vía difícil, el agente hackea. Ver en vídeo.
Todas las noticias comentadas