¿Bastan las promesas de la propia industria de la IA? La historia dice que no

Cuando la industria ocupa el lugar del juez

La escena estaba bien escenificada. Los directivos de IA más influyentes de EE. UU. se reunieron en el Despacho Oval para firmar un acuerdo conjunto de seguridad: un apretón de manos ante las cámaras que debía transmitir responsabilidad y madurez. El presidente Donald Trump resumió con inusual franqueza la filosofía que hay detrás de la iniciativa: «Ellos van a supervisar, y se van a supervisar entre ellos, y se van a autorregular».

Es una frase que debería dar motivos para detenerse a todos los que se preocupan por el futuro de la tecnología.

Me entusiasma de verdad lo que la IA puede lograr. Veo su fuerza transformadora cada día: en la forma en que las empresas agilizan sus procesos, en cómo la sanidad encuentra nuevas herramientas de diagnóstico, en cómo la educación llega a más personas que nunca. Pero el entusiasmo nunca debe convertirse en ingenuidad. Y es precisamente ingenuo creer que una industria con billones de dólares en ingresos potenciales va a priorizar voluntaria y constantemente la seguridad de la sociedad por encima del crecimiento, sin que ninguna instancia independiente le exija responsabilidades.

La advertencia de la historia en la industria automovilística

El paralelismo histórico que destaca Wired no es solo retórico. Es clínico y está bien documentado.

En 1966 murieron casi 51 000 personas en las carreteras estadounidenses. Los cinturones de seguridad ya existían como tecnología, pero la industria automovilística no tomó ninguna medida voluntaria. No fue la buena voluntad del sector lo que cambió la tendencia. Fue la intervención del Congreso y la legislación posterior, la National Traffic and Motor Vehicle Safety Act, que en 1968 impuso la obligatoriedad del cinturón de seguridad. La mortalidad en carretera cayó de forma notable, aunque el número de vehículos en las vías siguió aumentando.

La analogía, por supuesto, no es perfecta: no existe una solución técnica sencilla para los riesgos de la IA que equivalga a la simplicidad mecánica del cinturón de seguridad. Los factores de daño potencial de la IA son más difusos, más difíciles de medir y de prever. Pero precisamente esa incertidumbre hace que la supervisión independiente sea más urgente, no menos.

El núcleo del problema de credibilidad

La autorregulación funciona, en el mejor de los casos, como complemento de la legislación, nunca como sustituto. Existen ejemplos bien conocidos en la industria farmacéutica, el sector financiero y la industria alimentaria de acuerdos voluntarios del sector que se erosionan sistemáticamente cuando chocan con intereses económicos.

Además, el sector de la IA es en muchos aspectos más difícil de regular que esos predecesores. La tecnología avanza más deprisa que la capacidad de los legisladores para comprenderla. Las valoraciones de riesgo están genuinamente divididas: algunos analistas destacados advierten de consecuencias catastróficas en el plazo de una década, mientras que otros descartan esas afirmaciones como exageraciones. Ese desacuerdo crea un vacío que el lobby de la industria gustosamente llena con sus propias definiciones de lo que significa «seguro».

No se trata de una conspiración. Es un problema estructural. Y no se resuelve con un apretón de manos en el Despacho Oval.

La perspectiva de las oportunidades, sin cerrar los ojos

Quiero dejarlo claro: exigir supervisión independiente no equivale a ser hostil a la transición hacia la IA. Al contrario, es una condición para que esa transición pueda llevarse a cabo de una manera que genere confianza duradera.

Las empresas de IA que de verdad cuentan con procedimientos de seguridad fiables deberían dar la bienvenida a la revisión independiente, porque es la única forma de distinguir a los actores creíbles de quienes solo usan la retórica de la seguridad como herramienta de marketing. Un informe de seguridad transparente y revisado por terceros sería una ventaja competitiva para los actores serios, no un obstáculo.

Para responsables políticos, inversores y usuarios, lo importante es plantear las preguntas adecuadas: ¿quién controla a los controladores? ¿Qué mecanismos de sanción existen? ¿Y qué pasa cuando un compromiso de seguridad choca con un cierre trimestral?

Esas preguntas merecen respuestas más sólidas que un comunicado conjunto.