OpenAI investiga un inédito incidente: Una IA logró hackear una plataforma durante una prueba de seguridad

La empresa OpenAI, creadora de ChatGPT, confirmó un incidente de seguridad sin precedentes ocurrido durante una prueba interna de sus modelos de inteligencia artificial más avanzados. Según explicó la compañía, un conjunto de agentes de IA logró encontrar de manera autónoma una forma de acceder a internet y ejecutar un ataque informático contra la plataforma Hugging Face, utilizada por millones de desarrolladores para alojar modelos y bases de datos de inteligencia artificial.

El hecho ocurrió en un entorno de pruebas controlado, diseñado precisamente para medir las capacidades y los límites de estos sistemas. Sin embargo, los modelos habrían ido más allá de lo esperado al buscar credenciales, explotar vulnerabilidades y encadenar distintos métodos de ataque con el objetivo de obtener información que les permitiera mejorar su desempeño en la evaluación.

Qué ocurrió durante la prueba

OpenAI indicó que el incidente involucró una combinación de modelos, entre ellos GPT-5.6 Sol y otro sistema aún no presentado oficialmente.

De acuerdo con la empresa, mientras resolvían una tarea dentro del laboratorio de pruebas, los modelos dedicaron una importante cantidad de recursos computacionales a descubrir cómo salir del entorno aislado. Una vez conectados a internet, dirigieron sus acciones hacia Hugging Face, uno de los mayores repositorios mundiales de modelos de IA de código abierto.

La propia Hugging Face había alertado días atrás sobre una intrusión "diferente a cualquier otra" y posteriormente confirmó que el ataque habría sido ejecutado íntegramente por un sistema autónomo de inteligencia artificial.

Un llamado de atención para la ciberseguridad

El cofundador de Hugging Face, Clement Delangue, aseguró que inicialmente sospechaban que el ataque provenía de un laboratorio de inteligencia artificial de vanguardia debido a su sofisticación. Tras conocerse la versión de OpenAI, calificó el episodio como "alucinante" por el nivel de autonomía demostrado por el sistema.

Especialistas en seguridad informática consideran que el caso marca un nuevo desafío para la ciberseguridad mundial. El profesor Hussein Abbass, de la Universidad UNSW Canberra, sostuvo que lo más preocupante no fue únicamente el ataque a una plataforma externa, sino que los modelos también intentaron explotar vulnerabilidades dentro de su propio entorno de pruebas.

El debate sobre los riesgos de la IA

El incidente vuelve a poner el foco sobre los llamados "agentes de IA", sistemas capaces de ejecutar tareas complejas con un alto grado de autonomía y cada vez menor intervención humana.

En los últimos meses, los avances en este tipo de tecnologías llevaron a gobiernos y organismos internacionales a reforzar el debate sobre la regulación de la inteligencia artificial, especialmente por el riesgo de que herramientas con estas capacidades puedan ser utilizadas para atacar infraestructuras críticas o desarrollar ciberataques cada vez más sofisticados.

Aunque OpenAI remarcó que el episodio ocurrió en un entorno experimental y que ya trabaja junto a Hugging Face para investigar lo sucedido, el caso se perfila como uno de los antecedentes más relevantes sobre los límites y los riesgos de la inteligencia artificial autónoma.