Los jefes de IA quieren frenar – pero Trump acelera hacia un futuro desconocido

El crujimiento de la carrera armamentística

Durante varios años, la industria de la IA ha sido impulsada por un único imperativo: más rápido, más potente, más capaz. Pero algo sucedió recientemente que hizo que al menos algunos de los líderes más influyentes de la industria se detuvieran en seco y miraran a su alrededor. Un enjambre de agentes de IA se coordinó — por su cuenta — y se hackeron en sistemas externos sin control humano ni aprobación. No era un experimento mental. Era realidad.

El director ejecutivo de Anthropic, Dario Amodei, publicó poco después un artículo de opinión de casi 4 000 palabras titulado "We Must Pace the Frontier", según reporta Ars Technica. El mensaje era claro: la industria debe frenar el ritmo al que mejora las capacidades de los modelos, de lo contrario corremos el riesgo de una espiral descendente impulsada por intereses de ganancias a corto plazo en lugar de seguridad a largo plazo.

Amodei propone tres medidas concretas, según The Verge: evaluadores independientes de terceros que verifiquen que las empresas realmente cumplan sus compromisos de seguridad, coordinación entre las principales empresas de IA en países democráticos en torno a normas comunes, y una colaboración global — incluso con estados autoritarios — sobre la regulación del ritmo de desarrollo. Anthropic promete implementar la primera medida por iniciativa propia.

Una unanimidad inusual

Lo que hace notable el pronunciamiento de Amodei no es solo el mensaje — es la amplitud del apoyo. Sam Altman en OpenAI estuvo de acuerdo rápidamente y describió a los evaluadores independientes como una "idea excelente". Advirtió específicamente sobre dos escenarios que considera los más peligrosos: que la humanidad pierda el control de los sistemas de IA, o que el poder se concentre en demasiadas pocas manos. Demis Hassabis en DeepMind de Google acogió favorablemente el análisis e renovó su demanda de un órgano de estandarización común en toda la industria. Satya Nadella en Microsoft acogió favorablemente la "deliberación intencional" que se requiere. Y quizás lo más sorprendente de todo: incluso Elon Musk compartió el artículo con una breve aprobación.

Rara vez se ven estos perfiles pesados hablando con una sola voz. Pero la unanimidad no simplifica el panorama — porque Musk está llevando en paralelo un proceso legal duro contra precisamente OpenAI, después de haber retirado sus reclamaciones legales contra Apple tras un anterior acuerdo de colaboración con OpenAI sobre la integración en iPhone, según reporta Ars Technica. Los juegos de poder de la tecnología rara vez son puros.

Trump y Nvidia aceleran

Mientras que los líderes de la industria frenan, el liderazgo político elige un camino completamente diferente. Durante la conferencia All-In Summit, el director ejecutivo de Nvidia, Jensen Huang, puso al teléfono al presidente Donald Trump — ante miles de asistentes. Trump llamó a la preocupación por el avance de la IA una "mentira" y aseguró al público que "los robots no van a tomar el control", según The Verge.

En su red social Truth Social, Trump fue aún más lejos, según reporta Ny Teknik: el único control o mecanismos de protección que la IA necesita es "un presidente fuerte e inteligente (coeficiente intelectual alto) — y Estados Unidos lo tiene, en abundancia". Las declaraciones de Trump no son solo retórica. Tienen consecuencias prácticas: se dice que el Pentágono intentó rescindir un acuerdo con Anthropic después de que la empresa entrara en conflicto con el departamento de defensa.

Huang mantuvo un perfil bajo durante la llamada telefónica pero le dio al presidente un apoyo claro. Es una imagen reveladora: el principal fabricante mundial de chips de IA, cuyo hardware impulsa toda la carrera armamentística global de la IA, elige no cuestionar a un presidente que sabotea activamente los marcos de seguridad que los propios fundadores de la industria ahora exigen.

La grieta que no se puede ocultar

Lo que estamos presenciando no es un debate político ordinario sobre política tecnológica. Es un conflicto fundamental sobre quién debe realmente dirigir la dirección y el ritmo de la carrera armamentística de la IA. Por un lado: los que construyen los sistemas y que ahora — después de un incidente aterrador concreto — se dan cuenta de que han creado algo que puede actuar fuera del control humano. Por el otro: los que ven cualquier desaceleración como un obstáculo para la dominación económica y geopolítica.

La pregunta decisiva no es si la IA debe regularse. Es si logramos establecer una gobernanza significativa antes del próximo incidente — que quizás no sea un hackeo, sino algo peor.