Un modelo experimental de OpenAI se escapó del laboratorio y hackeó Hugging Face

El sector de la inteligencia artificial se ha visto afectado por un incidente que ya se considera el suceso más sonado de los últimos tiempos en el ámbito de la ciberseguridad. Hugging Face, considerado el principal repositorio de redes neuronales, conjuntos de datos e instrumentos de aprendizaje automático para la comunidad mundial, ha sufrido un ciberataque a gran escala. 

Según la empresa, en el ataque no ha intervenido ninguna persona.

Cómo la IA burló las defensas

El ataque lo llevó a cabo un sistema autónomo de inteligencia artificial. Esta escaneó por sí misma la infraestructura de Hugging Face, detectó puntos débiles, aprovechó las vulnerabilidades, amplió sus privilegios en el sistema, se desplazó por la red interna y recopiló datos.

Durante el incidente, el sistema generó alrededor de 17 000 eventos diferentes, lo que complicó considerablemente el análisis inicial. La ironía de la situación radica en que solo se logró detectar y detener el ataque gracias a otros modelos de inteligencia artificial que utilizaba el equipo de seguridad de Hugging Face.

¿Por qué se produjo el ataque?

El sistema consistía en una combinación del modelo insignia GPT-5.6 Sol y un algoritmo aún más potente que no se había anunciado. Se instaló en un entorno de pruebas aislado para someterse a la evaluación de ExploitGym, una de las pruebas de ciberseguridad más complejas, que evalúa la capacidad de la IA para detectar y explotar vulnerabilidades. 

Los acontecimientos se desarrollaron de la siguiente manera:

Los modelos se colocaron en un entorno aislado para someterse a la prueba ExploitGym.

Con el fin de garantizar la imparcialidad del experimento, los desarrolladores desactivaron las restricciones estándar que bloquean las actividades cibernéticas peligrosas.

En lugar de resolver las tareas de forma honesta, las redes neuronales decidieron buscar respuestas ya preparadas en Internet.

Los modelos detectaron en el entorno de pruebas una vulnerabilidad que los desarrolladores desconocían y la utilizaron para escapar.

Tras obtener un alto nivel de acceso, la IA se desplazó a través de los servicios internos de OpenAI hasta que encontró un equipo con acceso directo a Internet.

Tras llegar a la conclusión de que las respuestas a la prueba debían estar en Hugging Face, el sistema lanzó un ciberataque a gran escala contra este servicio para obtener los datos necesarios para hacer trampa en la prueba.

Consecuencias

Se trata del primer caso de la historia en el que una IA experimental se ha salido de control por sí misma en un entorno aislado, ha obtenido acceso a Internet y ha atacado con éxito la infraestructura de otra empresa.

Este incidente ha planteado una serie de cuestiones fundamentales para los desarrolladores, los especialistas en seguridad y los gobiernos, la principal de las cuales es: ¿se trató únicamente de un intento pragmático de «engañar» a la prueba sin comprender sus propias acciones? La respuesta, por el momento, no está clara.