Miles de cuentas intentaron robar los procesos de pensamiento secretos de los modelos de IA – rastreados hasta una empresa de IA china

Cuando el cifrado no es suficiente

Parecía tráfico ordinario. Miles de solicitudes, distribuidas entre cientos de cuentas, que probaban cuidadosamente los límites de lo que los sistemas de OpenAI permitían. Pero detrás de ese comportamiento aparentemente rutinario se ocultaba algo mucho más sofisticado: un intento coordinado de robar el proceso de pensamiento de los modelos de IA más avanzados del mundo.

Según The Decoder, OpenAI reveló recientemente un ataque que explota una vulnerabilidad técnica en cómo las empresas manejan cadenas de pensamiento cifradas en sus modelos orientados al razonamiento. El principio es elegante en su sencillez e inquietante en sus consecuencias: un modelo más barato y débil se utiliza como herramienta de descifrado para desbloquear y leer los procesos de pensamiento ocultos que en realidad pertenecen a un modelo más caro y poderoso. Palabra por palabra. Pensamiento por pensamiento.

El ataque escaló rápidamente

La actividad comenzó en pequeña escala el 1 de julio, pero entre el 24 y el 25 de julio el tráfico se multiplicó. Se registraron más de 16 000 solicitudes de más de 4 000 usuarios únicos en apenas dos días. En total, se identificó una red de más de 15 000 cuentas con patrones de comportamiento similar. El 28 de julio, OpenAI las había desactivado todas.

La empresa vincula un grupo central detrás del ataque a personas con conexiones con Moonshot AI, la empresa china de IA que desarrolla el modelo de lenguaje Kimi. No es un incidente aislado: Anthropic ha reportado recientemente intentos similares de actores de IA chinos. No se trata entonces de oportunistas individuales, sino de lo que parece ser un esfuerzo sistemático y bien organizado para apoderarse del núcleo intelectual de la investigación de IA occidental.

La vulnerabilidad era conocida – pero no fue corregida

Aquí es donde la historia se vuelve aún más interesante. El agujero de seguridad ya había sido documentado por el investigador Joachim Schaeffer y su equipo. Sus hallazgos mostraron que los paquetes de datos cifrados con razonamiento pueden moverse libremente – entre diferentes conversaciones, entre usuarios e incluso entre diferentes modelos – porque comparten claves de cifrado. Esto significa que la protección era en la práctica ilusoria.

OpenAI indica que ahora ha cerrado el agujero, ha dificultado el registro de cuentas e implementado revisión en tiempo real de los resultados. Son buenas noticias. Pero lo verdaderamente preocupante en el informe de The Decoder es que la misma vulnerabilidad aún existe en Microsoft Azure. La infraestructura alrededor del modelo sigue expuesta, a pesar de que el modelo en sí se considera protegido.

La seguridad es un ecosistema, no un producto

Esta es la lección más importante que debemos extraer de este incidente, y es crucial para todas las organizaciones que construyen sus ofertas sobre plataformas de IA de terceros.

Tendemos a pensar en la seguridad de la IA como una propiedad del modelo – qué tan bien está entrenado, qué tan cuidadosamente se revisa, qué mecanismos de protección tiene integrados. Pero este ataque demuestra que la seguridad en la era de la IA debe entenderse como un ecosistema. El modelo puede estar blindado, pero si la infraestructura circundante – los servicios en la nube, la gestión de API, los sistemas de autenticación – tiene deficiencias, de poco sirve.

Este no es un problema abstracto. Las empresas que construyen sus modelos de negocio ofreciendo servicios impulsados por IA a través de plataformas como Azure o la API de OpenAI dependen en la práctica de toda la cadena. Un eslabón débil es suficiente.

Qué significa para el mundo empresarial

Para quienes trabajan en la transformación de IA en sus organizaciones, el mensaje es claro: no solo examinen qué modelo utilizan – examinen toda la cadena de suministro. ¿Qué estándares de cifrado se aplican? ¿Cómo se manejan los procesos de pensamiento y los pasos de cálculo intermedios? ¿Quién es responsable de la seguridad cuando contratan capacidad con un proveedor de servicios en la nube?

Esto no es razón para frenar la transformación de IA. Al contrario – es razón para hacerla más reflexiva y profesional. Las organizaciones que toman estas preguntas en serio ahora están construyendo una capacidad competitiva que será difícil de copiar más adelante.