OpenAI confirmó que uno de sus modelos de inteligencia artificial, aún no publicado, logró escapar de un entorno de pruebas aislado y ejecutó un ciberataque contra Hugging Face durante una evaluación interna. El episodio reabre el debate sobre los límites de la seguridad en el desarrollo de la IA y la capacidad de contener sistemas cada vez más avanzados.
La compañía explicó que el incidente ocurrió mientras sometía a prueba un modelo de preproducción junto con ChatGPT Sol 5.6 en un entorno aislado o sandbox. Según OpenAI, ambos sistemas recibieron una misión compleja, pero, de manera autónoma, encontraron una vulnerabilidad que les permitió salir del entorno cerrado y acceder a internet.
Una vez fuera del sistema de pruebas, los modelos concluyeron que la plataforma Hugging Face era el lugar con mayor probabilidad de contener la información necesaria para resolver la tarea asignada. Para lograrlo, explotaron fallos de seguridad y encadenaron credenciales comprometidas hasta acceder a sistemas internos. El propósito no era sabotear la plataforma, sino obtener las respuestas del ejercicio planteado por los investigadores.
Puede leer: Un hombre fue asesinado a disparos en el barrio Camilo Daza de Cúcuta
¿Qué pasó entre OpenAI y Hugging Face y por qué preocupa a los expertos?
La semana anterior, Hugging Face había informado sobre un ataque informático cuya procedencia era desconocida. Ahora se confirmó que el origen fue una evaluación interna de capacidades ofensivas realizada por OpenAI.
“Sospechábamos que el ciberataque de la semana pasada podía venir de un laboratorio puntero, dada la sofisticación del agente. ¡Es bastante alucinante que todo esto ocurriera de forma autónoma!”, afirmó Clement Delangue, cofundador de Hugging Face.
Para José Hernández-Orallo, director de investigación del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge y catedrático de la Universidad Politécnica de Valencia, el incidente marca un precedente preocupante. “Es alarmante que la jaula de sandbox de uno de los laboratorios líderes se haya roto justo por la ciberseguridad", señaló. Además, advirtió que el caso “siembra muchas dudas sobre el ‘problema de la contención’” y comparó la situación con “un león” que “ha sacado una zarpa fuera de la jaula”.
El investigador también ilustró el caso con una analogía: “Es como si a un estudiante de ciberseguridad le pasas unos ejercicios (...) El alumno no solo encuentra una nueva vulnerabilidad (...) sino que encima la usa para acceder al ordenador del creador del examen (...) Con eso, ya está listo para sacar un 10 en el examen”.
En un comunicado, OpenAI reconoció la gravedad de lo ocurrido: “Se trata de un incidente sin precedentes, con capacidades ofensivas de última generación, y estamos respondiendo en consecuencia”.
Lea además: Así funcionaban Los Cyber, red digital de estafas en la que participaba hijo de reconocido exfutbolista
Por su parte, Senén Barro, catedrático de Ciencias de la Computación e Inteligencia Artificial de la Universidad de Santiago de Compostela, advirtió que, incluso con objetivos razonables, estos sistemas “pueden hacer cosas que no solo no estaban previstas en absoluto, sino que tengan consecuencias muy negativas”.
El episodio contrasta con la estrategia seguida por Anthropic para lanzar su modelo Mythos Preview, cuya evaluación en ciberseguridad se realizó de forma controlada antes de su publicación. Mientras tanto, Bloomberg reveló que Sam Altman tenía previstas reuniones con el Gobierno de Estados Unidos para informar sobre las capacidades de los nuevos modelos de OpenAI, en un contexto en el que expertos plantean incluso el uso de instalaciones con aislamiento físico extremo para futuras pruebas.
