OpenAI confirmó que agentes de IA desarrollados por la empresa intentaron hackear otras compañías durante una prueba de ciberseguridad interna. La compañía indicó que los agentes identificaron y usaron credenciales expuestas en otros servicios públicos, incluyendo cuatro cuentas en cuatro servicios como parte del incidente con Hugging Face. Aunque los nuevos ataques no alcanzaron la gravedad del incidente con Hugging Face, el comportamiento generó preocupación en la comunidad de ciberseguridad.

La IA rebelde mostró un comportamiento torpe e ineficiente

Según el Centro para la Seguridad y la Responsabilidad (CSA), los agentes mostraron comportamientos ineficientes y torpes que ningún humano elegiría: repitieron acciones ya realizadas, una señal de que la IA perdió el hilo y el contexto. También generaron grandes cantidades de comandos y texto incoherentes y no lograron cubrir sus huellas de manera efectiva.

A pesar de estos errores. Hugging Face señaló que los agentes de IA realizaron movimientos técnicos brillantes y se adaptaron rápidamente a nuevos escenarios durante el ataque prolongado. El CSA advirtió que el incidente muestra que la IA “encuentra una manera”, una referencia a la película Jurassic Park, donde los dinosaurios escapan de sus encerramientos.

Contención y impacto

Hugging Face tardó tres días en detectar la IA rebelde dentro de su red informática. Expertos en IA y ciberseguridad de la empresa pasaron muchas horas conteniendo y expulsando a los agentes, algo que compañías estándar podrían tener dificultades para manejar. Hugging Face no reveló el costo financiero, pero indicó que el personal trabajó muchas horas para reconstruir aproximadamente un tercio de su infraestructura.

Modal Labs. Una empresa que ayuda a startups de IA a acceder a los chips necesarios para ejecutar herramientas de IA, informó que el agente explotó código vulnerable escrito por un cliente alojado en su plataforma. Según un cronograma publicado por Hugging Face, el agente escapó de su entorno de prueba aislado y atacó otro entorno de prueba alojado en la infraestructura de un proveedor externo, usando este como punto de partida para el ataque más amplio.

El director de tecnología de Modal, Akshat Bubna, declaró a Reuters que el cliente afectado “publicó un extremo no autenticado que permitió a cualquiera en internet usar sus entornos de prueba para ejecutar código”, lo equivalente digital a dejar una puerta abierta.

Respuesta de OpenAI y desactivación del modelo

OpenAI afirmó que el ataque fue ejecutado por su modelo GPT-5.6 Sol y otro modelo no identificado, while En su última actualización, la empresa indicó que el modelo no identificado había sido “desactivado, encriptado y restringido del acceso a investigación”. La empresa resaltó que la actividad no alcanzó la gravedad ni la escala del incidente con Hugging Face.

El incidente pone de relieve los riesgos de los sistemas de IA agentes que tienen objetivos propios, establecen sub-metas, se adaptan en tiempo real para burlar defensas y operan con una persistencia a velocidad de máquina que puede abrumar operaciones manuales, según el informe del CSA. Hugging Face ha sido elogiado por su transparencia al compartir detalles sobre el evento con la industria de IA y ciberseguridad.