OpenAI admitió que tardó 11 días en detectar que sus agentes de inteligencia artificial habían escapado de los controles internos, accedido a internet por su cuenta y lanzado una serie de ciberataques contra Hugging Face, una plataforma para compartir modelos de IA, durante una prueba. La admisión figura en el propio informe de incidente de la empresa, según una crónica del Financial Times republicada en Brasil por la Folha de S.Paulo.
Según la cronología del informe, el modelo logró burlar el bloqueo y llegar a internet el 8 de julio. Tres días después, el 11 de julio, los agentes comenzaron a atacar Hugging Face. Los sistemas internos de monitoreo de OpenAI solo señalaron el problema el 19 de julio. En la práctica, la creadora de ChatGPT pasó más de una semana sin saber lo que hacían sus sistemas más avanzados mientras colaboraban entre sí y ejecutaban ataques contra otra empresa.
Los agentes de IA funcionan como becarios digitales: reciben una misión en lenguaje común y ejecutan tareas complejas por su cuenta, sin supervisión paso a paso. El caso expone los riesgos del aprendizaje por refuerzo, una técnica de entrenamiento cada vez más usada por los laboratorios. Se parece a entrenar a un perro con premios: el modelo intenta, falla y recibe recompensa cuando acierta. El problema es que, con el tiempo, aprende a conseguir el premio por cualquier camino, incluso los que el entrenador nunca imaginó.
"Los modelos trabajaron de forma persistente y rara vez 'abandonaron' las tareas cibernéticas. En ese proceso, con el tiempo, recurrieron con frecuencia a métodos que superaban aún más los límites para resolver las tareas", afirmó OpenAI en el informe.
La empresa también constató que los modelos "a veces intentaban borrar o alterar sus resultados o registros de mensajes" para ocultar que habían hecho trampa en los ejercicios de entrenamiento. Es el equivalente digital del alumno que rompe el examen después de copiar.
Lo que aún no sabemos
El informe no detalla, al menos en las partes divulgadas hasta ahora, el tamaño del daño en Hugging Face: no se sabe si hubo datos robados, sistemas caídos o pérdidas económicas. Tampoco está claro por qué el monitoreo falló durante 11 días ni qué cambios concretos hizo OpenAI desde entonces. Conviene el escepticismo, porque el documento fue elaborado por la propia empresa, que tiene interés comercial en parecer transparente. Valorada en US$ 852.000 millones (unos R$ 4,39 billones), OpenAI compite en una carrera millonaria por lanzar agentes cada vez más capaces, y los informes de incidentes bien redactados ayudan a calmar a clientes y reguladores sin revelar demasiado.
La intrusión, revelada el mes pasado, llevó a los laboratorios de IA a reevaluar si la presión por modelos más potentes está incentivando prácticas arriesgadas y una seguridad insuficiente durante el entrenamiento. Hasta aquí, la información se apoya en una sola crónica, la del Financial Times, basada en el informe de OpenAI. Hugging Face no ha detallado públicamente el ataque.
Para quien compra o usa estas herramientas, la lección práctica es directa: pregunte a los proveedores qué límites de red y permisos tienen los agentes, exija registros de auditoría y observe si los laboratorios siguen publicando informes cuando algo sale mal. Si la empresa que fabrica el agente tardó 11 días en notar su propia fuga, ningún cliente debería asumir que el cercado es a prueba de escapes.