Pinker critica las tácticas de miedo en el debate sobre la IA: Reclama una técnica de seguridad sobria en lugar de profecías apocalípticas

El gran optimista se encuentra con las fantasías más oscuras de la tecnología

Existe una paradoja extraña en cómo hablamos de inteligencia artificial en este momento. Por un lado, vivimos en medio de una de las transformaciones tecnológicas más revolucionarias de la historia de la humanidad — con herramientas que crean, resuelven problemas y potencian la capacidad humana de maneras que apenas hemos asimilado. Por el otro lado, el debate público está dominado por escenarios de catástrofe sacados de la ciencia ficción.

Ahora Steven Pinker, psicólogo de Harvard y uno de los defensores más conocidos del progreso humano en nuestro tiempo, entra en ese debate. En una carta abierta en la revista cultural Quillette, dirigida al influyente bloguero de tecnología Scott Alexander, Pinker se enfrenta a lo que él llama retórica apocalíptica — y reclama en su lugar técnica de seguridad concreta y sistemática fundamentada en supervisión independiente y control humano.

La fábrica de gemas y la trampa lógica incorporada

Pinker apunta a uno de los experimentos mentales más citados en el debate sobre la seguridad de la IA: la idea de una IA que, en su esfuerzo por maximizar la producción de gemas, al final sacrifica a toda la humanidad para lograr su objetivo. Es un escenario dramático — pero se basa, sostiene Pinker, en una inversión de pensamiento fundamental.

El supuesto de que la inteligencia está automáticamente vinculada a un impulso de dominar y controlar el entorno simplemente no se ajusta a cómo funciona realmente la inteligencia. Ni en los seres humanos ni en las máquinas. Ser inteligente no significa que por definición se quiera conquistar el mundo — es una proyección humana, no una necesidad técnica.

Es un argumento que debe tomarse en serio, no menos porque desafía los fundamentos completos del movimiento del llamado "riesgo existencial" dentro del debate sobre la seguridad de la IA.

Pinker no es un tecnólogo ingenuo

Lo que hace que la intervención de Pinker sea interesante — y creíble — es que no es un admirador acrítico de la tecnología. Él admite abiertamente, según The Decoder, que anteriormente subestimó lo poderosos que llegarían a ser los grandes modelos de lenguaje. Es un reconocimiento inusualmente honesto de un intelectual público.

También critica duramente a las empresas de IA y su tendencia a lanzar productos antes de que se implementen suficientes medidas de seguridad. Y con una cierta ironía bien colocada, señala que a menudo son los mismos actores que alzan la voz más sobre riesgos existenciales quienes impulsan la difusión más rápida e irresponsable de la tecnología. Es una contradicción que merece más atención de la que ha recibido hasta ahora.

Los riesgos reales — y qué deberíamos hacer al respecto

¿Qué peligros toma en serio Pinker entonces? Las respuestas son más prácticas pero no menos graves: bioterrorismo, ataques informáticos y agentes de IA descontrolados que actúan sin intervención humana o posibilidad de intervención. Son riesgos que ya existen, que son medibles y que requieren respuestas concretas — no ejercicios filosóficos sobre superinteligencia.

Contra estas amenazas, la retórica apocalíptica no solo es inútil — es directamente perjudicial. Desvía la atención de las medidas que realmente harían la diferencia: supervisión independiente, cadenas de responsabilidad claras y técnica de seguridad sistemática que se desarrolle en paralelo con, en lugar de mucho después de, los sistemas que debe proteger.

Es una posición que, como desarrollador de negocios y entusiasta de la IA, puedo respaldar de todo corazón. He visto cómo las organizaciones se paralizan a sí mismas con escenarios de catástrofe en lugar de construir las estructuras y procesos que realmente gestionan los riesgos. El miedo rara vez es una buena estrategia — el criterio y la sistematización lo son.

Una voz bienvenida — pero la cuestión no está resuelta

¿Significa eso que Pinker tiene completamente razón y que quienes advierten sobre riesgos de IA más amplios están equivocados? No, y sería una simplificación igualmente cruda como los escenarios apocalípticos que critica. El debate sobre cómo gestionamos sistemas cada vez más autónomos es legítimo e importante.

Pero Pinker aporta algo que el debate necesita desesperadamente: una base sobria y basada en evidencia en la que basarse. Un recordatorio de que la preocupación sin acción es inútil, y que las imaginaciones más dramáticas a veces nublan la vista de los problemas reales que realmente podemos y debemos resolver — ya ahora.