«Y entonces, según OpenAI, los modelos “infirieron” que las soluciones al examen de ExploitGym podían estar alojadas en los servidores de Hugging Face, el almacén central del mundo de la IA»
por Juan Pablo Anaya
«Este martes, OpenAI publicó en su web un comunicado en el que explicaba que, durante la evaluación interna de sus modelos, había ocurrido “un incidente de seguridad significativo” (…) Los hechos, reconstruidos a partir del propio comunicado, son los siguientes. OpenAI probaba las capacidades ofensivas de sus modelos en un entorno aislado llamado ExploitGym, una especie de gimnasio de vulnerabilidades donde los sistemas practican ataques sin las salvaguardas normales. La empresa había rebajado a propósito en su experimento los rechazos de ciberseguridad de los modelos y desactivado los clasificadores que operan en producción. En la prueba participaban GPT-5.6 Sol, el modelo grande que OpenAI lanzó al público el 9 de julio, y otro más capaz todavía sin lanzar.
En lugar de resolver los retos dentro de las paredes del gimnasio, los modelos encontraron una vulnerabilidad Zero-Day, un fallo que nadie conocía, en el proxy de un registro de paquetes. La explotaron para asomarse a internet. Después vino la escalada de privilegios y el movimiento lateral, el vocabulario de cualquier intrusión seria, hasta alcanzar un nodo con salida a la red. Y entonces, según OpenAI, los modelos “infirieron” que las soluciones al examen de ExploitGym podían estar alojadas en los servidores de Hugging Face, el almacén central del mundo de la IA. Fueron a por ellas: encadenaron credenciales robadas con nuevos Zero-Day, lograron ejecución remota de código en la infraestructura de producción de Hugging Face y accedieron a su base de datos. Buscaban la hoja de respuestas de su propio examen.»
bordarretazos 