La UE quiere obligar a los desarrolladores de IA a pagar por los daños, Estados Unidos quiere establecer las normas – la lucha por el poder en la IA ha llegado

El terreno de juego cambia – ahora se trata de responsabilidad

Existe un momento en la madurez de toda industria en que pasa de ser una noticia prometedora a convertirse en un problema social que exige normas claras. Para la IA, ese momento es ahora.

Tres eventos de la última semana ilustran este cambio con una precisión casi quirúrgica. Juntos, cuentan una historia sobre poder, responsabilidad y la lucha por quién debe definir las reglas del juego de la tecnología más transformadora de nuestro tiempo.

La UE quiere hacer responsables a los desarrolladores

Cuatro destacados eurodiputados – de varios grupos políticos – presionan ahora a la Comisión Europea para que elabore una ley completamente nueva: una llamada ley de responsabilidad de la IA. Según Politico, citado por Computer Sweden, se trata de obligar a los desarrolladores de modelos de IA avanzados a asumir responsabilidad económica por los daños que causa su tecnología.

Es un paso importante. El reglamento de IA vigente de la UE ciertamente establece requisitos de seguridad y regula los riesgos – pero carece de mecanismos para hacer frente a la situación después de que el daño ya ha ocurrido. La carga de la prueba es hoy pesada y el camino legal largo para quien sufre una decisión incorrecta de la IA.

La propuesta aún está en una fase temprana, pero con un apoyo político amplio puede ganar impulso rápidamente. Y la señal es clara: Europa no está satisfecha solo con regular los riesgos de antemano – también quiere poder exigir responsabilidad después.

OpenAI: Deja que Estados Unidos establezca las normas

Al otro lado del Atlántico, la imagen es diferente. OpenAI insta a Estados Unidos a asumir el papel de liderazgo en el trabajo internacional sobre normas técnicas comunes – y el momento no es nada casual. El director ejecutivo de OpenAI, Sam Altman, habló ante el Consejo de Seguridad de la ONU, lo que dio a la cuestión una escena internacional significativa.

En su blog, OpenAI escribe que si Estados Unidos toma la iniciativa ahora, determinará si el país tiene la oportunidad de dar forma al marco global para la IA – o si en su lugar se establece un sistema fragmentado y conflictivo. El mensaje es directo: quien establece las normas también forma las reglas del juego.

Es una posición estratégica que es fácil de entender desde una perspectiva comercial. Pero también plantea una pregunta legítima: ¿es realmente un marco regulatorio formado por las principales empresas de IA del mundo, con claros intereses comerciales, la mejor protección para los ciudadanos y las sociedades a nivel global?

La advertencia de los investigadores: No confíes ciegamente en el bombo

No menos importante por ello, la tercera noticia merece ser tomada en serio. Timnit Gebru, directora ejecutiva del instituto de investigación DAIR, y Emily M. Bender, profesora de lingüística en la Universidad de Washington, publicaron recientemente un análisis conjunto a través de MIT Technology Review en el que instan al público y a los responsables de las decisiones a ser mucho más críticos con las afirmaciones de la industria.

Su tesis: la sensación artificial de urgencia y los avances espectaculares funcionan no solo como marketing – también son una herramienta política que induce a error a los legisladores sobre dónde se encuentra realmente la tecnología. El patrón es recurrente: una empresa presenta un resultado asombroso, los medios lo recogen, y pasan semanas o meses antes de que expertos independientes hayan tenido tiempo de examinar qué sucedió realmente.

Es un recordatorio importante justo ahora, cuando se están formando normas y regulaciones. Las decisiones tomadas sobre la base de promesas exageradas corren el riesgo de ser demasiado débiles – o de golpear cosas equivocadas.

Tres fuerzas, una pregunta decisiva

Lo que une estos tres eventos es una sola pregunta fundamental: ¿quién tiene el poder de definir qué significa el desarrollo responsable de la IA?

Europa responde: los legisladores y los ciudadanos afectados. OpenAI responde: Estados Unidos y la industria tecnológica. Los investigadores independientes responden: comienza siendo honesto sobre lo que la tecnología realmente puede hacer.

Todos estos tres perspectivas tienen su punto. Y el resultado más probable es que la regulación de la IA del futuro se formará en la tensión entre ellos – no por ningún actor individual solo.