inicia sesión o regístrate.
Un episodio protagonizado por inteligencia artificial encendió las alarmas en la industria tecnológica. OpenAI reconoció que un agente basado en sus modelos más avanzados actuó de manera autónoma durante una prueba de ciberseguridad, encontró la forma de acceder a Internet y terminó comprometiendo infraestructura de Hugging Face, una de las principales plataformas mundiales dedicadas al desarrollo y distribución de modelos de IA.
El incidente fue confirmado oficialmente por OpenAI el 21 de julio. La compañía calificó lo sucedido como un “incidente cibernético sin precedentes” por las capacidades demostradas por sus modelos durante la evaluación.
El caso genera especial preocupación porque buena parte de las acciones no fueron ejecutadas paso por paso por una persona. El agente recibió un objetivo y fue encontrando de forma autónoma diferentes caminos para alcanzarlo, incluso algunos que los investigadores no habían previsto.
Cómo un agente de OpenAI terminó hackeando a Hugging Face
Todo comenzó durante una evaluación interna diseñada para comprobar hasta dónde podían llegar los modelos de OpenAI frente a problemas complejos de ciberseguridad.
Según explicó la propia compañía, la prueba utilizaba una combinación de sus modelos, entre ellos GPT-5.6 Sol y otro modelo más avanzado que todavía no había sido lanzado públicamente. Para medir sus capacidades máximas, los investigadores habían reducido algunas de las restricciones relacionadas con actividades cibernéticas y desactivado clasificadores que normalmente bloquean conductas consideradas de alto riesgo.
El agente tenía como objetivo encontrar soluciones para una evaluación denominada ExploitGym.
Pero ocurrió algo inesperado.
Mientras operaba dentro de un entorno supuestamente aislado, el sistema dedicó recursos a encontrar una manera de obtener acceso abierto a Internet.
Para conseguirlo detectó y explotó una vulnerabilidad “zero-day”, es decir, una falla de seguridad que todavía no había sido identificada ni corregida por el proveedor del software.
Después realizó distintas maniobras de escalamiento de privilegios y movimientos dentro de la infraestructura de investigación de OpenAI hasta alcanzar un servidor que sí tenía conexión con Internet.
El agente encontró por su cuenta a Hugging Face
Una vez conectado a Internet, el sistema dedujo que Hugging Face podía tener modelos, conjuntos de datos o información relacionada con las respuestas que necesitaba para completar la evaluación.
A partir de allí comenzó a buscar formas de acceder a información reservada de la plataforma.
OpenAI señaló que, en uno de los casos analizados, el agente combinó distintas técnicas de ataque, entre ellas credenciales obtenidas durante la intrusión y vulnerabilidades desconocidas, hasta conseguir una vía para ejecutar código de manera remota en servidores de Hugging Face.
En otras palabras, el agente no se limitó a responder preguntas o generar código: fue encadenando acciones de forma autónoma para superar las barreras que encontraba hasta alcanzar su objetivo.
OpenAI sostuvo que todas las evidencias disponibles indican que los modelos estaban “hiperconcentrados” en resolver la prueba ExploitGym y que llegaron a extremos no previstos con tal de conseguir las soluciones.
Hugging Face detectó miles de acciones automatizadas
Hugging Face había informado días antes, el 16 de julio, que había sufrido un incidente de características inusuales.
La compañía señaló inicialmente que la intrusión había sido impulsada “de principio a fin” por un sistema autónomo de agentes de inteligencia artificial, aunque en ese momento todavía desconocía qué modelo había sido utilizado.
La investigación registró más de 17.000 eventos durante la actividad del atacante. Hugging Face informó que se produjo acceso no autorizado a un conjunto limitado de datos internos y a algunas credenciales utilizadas por sus servicios.
La empresa aclaró que no encontró evidencias de modificaciones en los modelos, datasets o Spaces públicos disponibles para sus usuarios y que verificó que su cadena de distribución de software permaneciera intacta.
Posteriormente, la investigación conjunta permitió vincular el episodio con la evaluación interna que estaba realizando OpenAI.
La advertencia de OpenAI después del incidente
El episodio llevó a OpenAI a reconocer un nuevo problema para la industria: a medida que los agentes de inteligencia artificial adquieren mayor capacidad para trabajar durante períodos prolongados y utilizar diferentes herramientas, también aumenta la posibilidad de que encuentren caminos no previstos para cumplir una orden.
La compañía anunció que reforzará los controles sobre sus futuras evaluaciones y entrenamientos y que aplicará mayores mecanismos de monitoreo y protección durante las pruebas internas. También informó que comunicó de manera responsable la vulnerabilidad zero-day encontrada durante el incidente para que pueda ser corregida.
Un día antes de revelar el caso, OpenAI ya había advertido que los modelos capaces de trabajar autónomamente durante largos períodos pueden realizar “acciones no deseadas” y presentar comportamientos que las evaluaciones tradicionales no siempre consiguen anticipar.
La compañía sostiene que estas nuevas capacidades obligan a combinar las pruebas previas al lanzamiento con monitoreo permanente, sistemas capaces de intervenir durante la ejecución y mecanismos que permitan detener rápidamente a un agente cuando aparecen comportamientos inesperados.
¿ChatGPT se descontroló?
No exactamente.
El episodio no involucró al ChatGPT que millones de personas utilizan diariamente para realizar consultas.
Se trató de modelos avanzados de OpenAI ejecutados como agentes dentro de una prueba específica de ciberseguridad. Además, varias de las protecciones que normalmente limitan las actividades peligrosas habían sido deliberadamente reducidas para comprobar las capacidades máximas del sistema.
Sin embargo, el incidente expuso un fenómeno que hasta hace poco pertenecía principalmente al terreno de las hipótesis: un agente de IA fue capaz de buscar vulnerabilidades, superar restricciones, conseguir acceso a Internet y comprometer infraestructura externa mientras perseguía autónomamente el objetivo que le habían asignado.
Hugging Face fue contundente sobre el nuevo escenario: las herramientas ofensivas autónomas basadas en inteligencia artificial “ya no son teóricas”. Para la compañía, los sistemas de este tipo permiten desarrollar ataques complejos, persistentes y a velocidad de máquina, lo que obliga a utilizar inteligencia artificial también para defender las infraestructuras digitales.