Aviones militares en el aire tras una alucinación de IA — ahora la UE exige normas más estrictas

Cuando la realidad supera a la política

Comencemos con aquello que debería haber conmocionado a todos y cada uno de los responsables de decisiones del planeta: según TechCrunch, aviones militares estadounidenses ya estaban en el aire cuando los comandantes se percataron de que la inteligencia que justificaba una operación armada contra un buque chino era fabricada — generada por un servicio de IA. Un analista había dejado que un sistema de IA compilara datos abiertos con inteligencia de señales clasificada. El sistema alucina un manifiesto de carga falso con componentes de armas nucleares. El informe se propagó hacia arriba en la cadena de mando. Nadie lo cuestionó.

La operación fue cancelada en el último momento. Un potencial conflicto militar entre las dos superpotencias mundiales fue evitado por poco margen.

Esta es la realidad en la que vivimos ahora. Y es sobre esa base que las noticias regulatorias de la semana deben entenderse.

La UE actúa — y OpenAI elige enfrentar la regulación

En el frente europeo, Wired informa que la UE prepara legislación — la denominada EU Kids Act — dirigida específicamente a chatbots que se dirigen a menores de edad. El objetivo son las funciones de servicios como ChatGPT, Character.ai y My AI de Snapchat que los hacen atractivos, incluso adictivos, para usuarios jóvenes. Es una iniciativa bienvenida. Los niños no son solo un grupo vulnerable en sentido abstracto — son los usuarios más activos de IA conversacional en este momento.

OpenAI parece haberlo entendido. La empresa presentó su Australian Youth Safety Blueprint — un plan de seis pilares para experiencias de IA más seguras para jóvenes — y la elección de Australia es difícilmente casual. Es un país con las normas más estrictas del mundo para el uso de internet por parte de jóvenes, y al acoger en lugar de resistirse al debate regulatorio allí, OpenAI envía una clara señal: no queremos ser el problema, queremos ser la solución.

Es el enfoque correcto. Y es un marcado contraste con el clima político que prevalece en Washington.

Trump y la cortina de humo

El presidente Trump publicó, según TechCrunch, una encuesta en Truth Social sobre qué debería renombrarse la IA — Inteligencia Superior, Inteligencia Extrema o Inteligencia Suprema — y desestimó las preocupaciones de seguridad como otro engaño democrático, en el mismo aliento en que mencionó la investigación de Rusia y la amenaza climática. Por supuesto, no se proporcionaron pruebas para la afirmación.

Al mismo tiempo, Rstechnica informa que un sitio web administrado por los Archivos Nacionales estadounidenses ofreció a los visitantes la posibilidad de buscar documentos gubernamentales utilizando el modelo de IA Qwen de Alibaba — la misma empresa a la que el FBI identificó recientemente por copia no autorizada a gran escala de modelos de IA estadounidenses. El servicio fue dado de baja después de que se difundieran capturas de pantalla, pero ilustra cuán fragmentada es realmente la política de seguridad estadounidense en el ámbito de la IA.

La lucha interna de la industria sobre regulación

No son solo los políticos quienes no están de acuerdo. The Verge informa que el aparentemente unido frente entre líderes tecnológicos — donde Dario Amodei, Sam Altman y Demis Hassabis parecía haber llegado a un consenso sobre un marco para frenar el desarrollo de la IA — se rompió rápidamente. Mark Zuckerberg, Elon Musk y Jensen Huang de Nvidia detuvieron los planes para un organismo de supervisión financiado por la industria.

Y The Verge plantea una pregunta aún más inquietante: Jonathan Kanter, quien dirigió la unidad de competencia de Estados Unidos bajo Biden, advierte que las empresas de IA ahora cabildean para obtener excepciones de la legislación antimonopolio — en nombre de la seguridad — lo que en la práctica permitiría la formación de cárteles. ¿Son auténticos los argumentos de seguridad, o se trata de frenar a competidores más baratos de China? Esta es una pregunta que merece una respuesta directa.

Mientras tanto, millones de dólares en dinero de cabildeo vinculado a intereses de IA se inyectan en las elecciones estatales estadounidenses, según reporta Wired, mientras que una mayoría de estadounidenses dice ser escéptica sobre la expansión de centros de datos. ¿Quién está dirigiendo realmente la política tecnológica?

La velocidad es tanto la oportunidad como el riesgo

Es fácil enfocarse en lo aterrador. Pero quiero ser claro: la tecnología subyacente no es el problema — la ausencia de reglas bien pensadas lo es. El incidente de IA militar no muestra que la IA sea peligrosa en sí — muestra que la IA sin suficiente escrutinio humano en los procesos de toma de decisiones es peligrosa. Este es un desafío solucionable. El plan de seguridad juvenil de OpenAI muestra que es posible construir estructuras que protejan a grupos vulnerables sin sofocar la innovación.

La ventana política está abierta, como señala Chris Lehane de OpenAI. Pero las ventanas se cierran.