China no frena el ritmo de la IA – y la demanda de paridad explica por qué los acuerdos de seguridad global son tan difíciles de alcanzar

Cuando Silicon Valley cambia de rumbo – pero China no lo sigue

No es frecuente ver a una de las voces más influyentes de la industria de la IA argumentar a favor de ir más lentamente. Pero eso es exactamente lo que hizo recientemente Dario Amodei, fundador y director ejecutivo de Anthropic, en un artículo bien escrito titulado We Must Pace the Frontier. Su tesis es simple pero controvertida: Estados Unidos y China deben colaborar para frenar el ritmo del desarrollo global de la IA, antes de que construyamos sistemas que ya no comprendamos ni controlemos.

Se trata de un giro notable. Durante mucho tiempo, la amenaza de la competencia de la IA china se ha utilizado como el argumento más fuerte a favor de acelerar – frenar sería capitular. Ahora Amodei sostiene lo opuesto: que una carrera descontrolada hacia la cima corre el riesgo de ser peligrosa para todas las partes.

¿El problema? China no escucha.

Según Wired, ni las autoridades chinas ni las principales empresas de IA del país responden favorablemente a este llamado. Y la razón es más matizada de lo que se podría esperar.

La paridad como condición para el diálogo

Kevin Xu, fundador del fondo de inversión en tecnología Interconnected Capital y ex funcionario de la administración Obama, señala el problema central:

El movimiento de seguridad de la IA en China crece y comparte muchas de las preocupaciones que tienen los laboratorios estadounidenses. La brecha radica en que la visión de Anthropic presupone que China primero se subordine y se limite, antes de que ni siquiera comience el diálogo. China solo está dispuesta a conversar como una parte igual.

Esta es una dinámica diplomática bien conocida – pero adquiere una nueva agudeza cuando se trata de la IA. El artículo de Amodei propugna paralelamente que Occidente maximice su ventaja tecnológica sobre China: controles más estrictos contra el contrabando de chips, restricciones a la capacidad de las empresas chinas para destilar modelos de IA occidentales, y así sucesivamente. Luego sostiene – en lo que ha sido descrito como un salto lógico audaz – que un ecosistema de IA chino debilitado paradójicamente crearía mejores condiciones para la cooperación.

Es fácil entender por qué ese razonamiento no funciona en Pekín.

El problema estructural del desarme asimétrico

Como desarrollador de sistemas y persona curiosa sobre tecnología, genuinamente me fascina la cuestión de diseño de sistemas subyacente aquí: ¿cómo se construye confianza en un sistema donde ambas partes tienen fuertes incentivos para hacer trampa?

La carrera armamentística de la IA se parece en muchos aspectos a un dilema del prisionero clásico. Ambos bandos se benefician de la cooperación en teoría, pero la estrategia racionalmente individual es continuar acelerando – porque si la otra parte lo hace y tú no, terminarás en desventaja. Es exactamente la situación en la que nos encontramos ahora.

Esto no es exclusivo de la IA. Dinámicas similares han ocurrido en política de armas nucleares, acuerdos climáticos y política comercial. Pero la IA se diferencia de una manera importante: el ritmo de desarrollo es extremo e impredecible. No existe un claro equivalente a una prueba nuclear que pueda detectarse y verificarse. ¿Cómo se verifica que una parte contraria realmente frena el entrenamiento de un gran modelo de lenguaje?

La ausencia de mecanismos de verificación convierte cualquier acuerdo de alto el fuego en pura cuestión de fe – y eso no es una base sólida para la geopolítica.

Regulación en el vacío

Mientras tanto, tanto la Unión Europea con su Ordenanza de IA como Estados Unidos con iniciativas estatales y federales fragmentarias están trabajando. China tiene sus propias reglas, incluidos requisitos de registro para grandes modelos de IA y restricciones sobre contenido generativo. Pero todos estos marcos son nacionales – no abordan el problema de coordinación fundamental.

Es como si cada país construyera sus propias reglas de tráfico sin ponerse de acuerdo sobre por qué lado del camino conducir. Funciona dentro de las fronteras nacionales, pero los choques ocurren en el encuentro.

La iniciativa de Amodei es bien intencionada y sólida técnicamente. Pero carece de un mecanismo creíble de cómo realmente llegar a donde él quiere. Y sin ese mecanismo, corre el riesgo de convertirse en una toma de posición moral sin efecto político – importante de decir, pero difícil de expandir.