¿Quién realmente se beneficia de que tengas miedo de la IA?

Cuando el miedo se convierte en una herramienta comercial

No cabe duda de que la IA está transformando el mundo fundamentalmente. Pero ¿la está transformando de las formas que afirman las voces más ruidosas? Timnit Gebru –la investigadora que fue despedida de Google después de cuestionar los sesgos en grandes modelos de lenguaje– sostiene que en el fondo estamos haciendo preguntas equivocadas. Y las consecuencias de ese error distan mucho de ser inofensivas.

En una entrevista con Wired, Gebru ofrece uno de los análisis más agudos del debate sobre IA que hemos visto en mucho tiempo. Su tesis es clara: el movimiento creciente que presenta la inteligencia artificial como una amenaza existencial para la humanidad sirve principalmente a intereses económicos poderosos, no al bien público.

El dinero detrás de la profecía

Gebru señala un patrón que debería hacer que muchos levantaran las cejas. Los mismos multimillonarios que fundaron y financiaron Anthropic –una de las empresas de IA más destacadas del mundo de cara a una futura salida a bolsa– son también quienes financian organizaciones cuyo mensaje principal es que la IA es peligrosa. Entre ellas menciona el Future of Life Institute, fundado por el físico del MIT Max Tegmark y el multimillonario Jaan Tallinn, quienes también han financiado a METR, un auditor de IA.

No es una teoría conspirativa, es un conflicto de intereses estructural. Cuando quienes más se benefician de las inversiones en IA son también quienes establecen el marco sobre cómo hablamos de los riesgos de la IA, debemos preguntarnos: ¿cuyos intereses se están protegiendo realmente?

– No es solo una distracción, es perjudicial, dice Gebru en su entrevista con Wired.

Los daños reales ocurren ahora

Este es el punto en el que, como desarrollador empresarial, realmente presto atención. La crítica de Gebru no se trata de negar que la IA conlleva riesgos –sería ingenuo hacerlo. Su argumento es que los daños que los sistemas de IA causan en la actualidad se ocultan sistemáticamente por el debate sobre escenarios futuros hipotéticos.

Piensa en sistemas algorítmicos que determinan a quién se le aprueba un préstamo, a quién se le llama para una entrevista de trabajo o a quién se marca como riesgo de seguridad. Piensa en las desigualdades estructurales que se refuerzan cuando los datos de entrenamiento reflejan relaciones de poder históricas. Estos daños no son teóricos, afectan a personas reales, ahora mismo, cada día.

Gebru dedicó su tiempo en Google a poner de relieve exactamente esto, incluso a través del informe muy publicitado que acuñó el término «loros estocásticos» –una metáfora de cómo los grandes modelos de lenguaje pueden producir contenido convincente pero sin sentido o dañino sin ninguna comprensión real. El informe le costó el trabajo. Pero abrió un debate que ya no puede cerrarse.

Una oportunidad oculta en la crítica

Quiero ser claro: la perspectiva de Gebru no es un argumento en contra de la transición hacia la IA. Es un argumento a favor de hacerlo correctamente.

Para quienes trabajamos en desarrollo empresarial y transformación estratégica, hay una lección importante aquí. Las organizaciones que se conforman con discutir riesgos existenciales futuros pero cierran los ojos ante los daños concretos y medibles en sus propios sistemas de IA –en realidad están asumiendo un gran riesgo empresarial. El escrutinio regulatorio, la pérdida de confianza de los clientes y las consecuencias legales no vendrán de un escenario hipotético de superinteligencia dentro de cincuenta años. Vendrán de algoritmos de contratación sesgados y sistemas de decisión opacos que se utilizan hoy.

La organización que toma en serio la crítica de Gebru e invierte en una IA verdaderamente responsable –transparente, auditable y diseñada equitativamente– construye una ventaja competitiva que es difícil de replicar.

El próximo libro de Gebru, Deep Unlearning, está previsto que se publique a principios del próximo año. Si mantiene la misma agudeza que sus intervenciones públicas, promete ser lectura obligatoria para todos los que quieran entender la verdadera complejidad de la transición hacia la IA, no solo su versión de relaciones públicas.