Las advertencias apocalípticas de los investigadores de IA – ¿genuino valor cívico o táctica de miedo lucrativa?

Cuando las advertencias provienen desde adentro

Rishub Jain era investigador en Google DeepMind hasta que el pasado verano descubrió algo que lo llevó a presentar su renuncia. Trabajaba con modelos de IA de próxima generación y vio cómo los sistemas escribían cada vez más código que mejora otros sistemas — un proceso llamado automejora recursiva— donde la supervisión humana gradualmente desaparece del panorama. Según Wired, él está muy lejos de ser el único.

El punto culminante dramático más reciente llegó cuando Jacob Coxon, investigador en Anthropic, se fue públicamente con una advertencia contundente de que la empresa "se precipita directamente hacia superinteligencia que se automejora y está jugando con nuestras vidas." Lo que verdaderamente dejó a la industria sin palabras fue que el propio responsable de alineamiento de seguridad de Anthropic — en lugar de distanciarse— abiertamente coincidió e indicó que personalmente estima el riesgo de que la IA mate a todos los humanos en más del diez por ciento en la próxima década.

Una sincronización extraordinariamente sensible

TechCrunch destaca un detalle que cambia completamente la lectura del evento: se reporta que Anthropic se está preparando actualmente para una salida a bolsa. Ciertamente no es un contexto trivial. Cuando un investigador de seguridad se va con palabras apocalípticas, y el propio responsable de seguridad de la empresa está de acuerdo, justo durante los preparativos de uno de los debutantes bursátiles más esperados de la industria tecnológica — bueno, entonces es razonable preguntarse qué está realmente sucediendo.

¿Es valor cívico? ¿O es algo más calculado?

El discurso apocalíptico como estrategia de marca

La columnista de Breakit Hanna Åkesson identifica un patrón que merece ser tomado en serio: las empresas que construyen las IA más poderosas del mundo son las mismas que alzan banderas de advertencia sobre su peligrosidad. Es una paradoja con una posible explicación. Las advertencias sirven múltiples propósitos simultáneamente — refuerzan la imagen de la tecnología como revolucionaria y poderosa, lo que atrae inversores, y posicionan a las empresas como actores responsables a pesar de que aceleran a todo ritmo.

Como señala Breakit: las mismas empresas que venden herramientas de IA para uso cotidiano advierten que precisamente ese tipo de tecnología puede volverse existencialmente peligrosa. La lógica cojea, y la pregunta sobre responsabilidad permanece sin respuesta.

La crítica que no se deja cegar

La investigadora Timnit Gebru — conocida desde su dramática salida de Google en 2018— va directo al punto. En su nuevo libro Deep Unlearning, argumenta, según Wired, que las advertencias sobre la extinción de la humanidad están destinadas a distraer de los daños concretos que ya ocurren hoy. Sesgos incorporados en sistemas, vigilancia masiva, y marginación de voces vulnerables en el desarrollo tecnológico.

— ¿Por qué invierten recursos enormes en resolver problemas matemáticos? pregunta retóricamente. Se trata de poder decir: Lo resolvimos. Y en el siguiente aliento reclamar que lo que resolvimos es tan peligroso que nadie más debería controlarlo.

Es un análisis contundente — y no carente de peso.

Los reguladores se quedan atrás

En medio de esta tensión hay un tercer actor que rara vez aparece en los titulares: los organismos reguladores. Computer Sweden reporta que la agencia de ciberseguridad de la UE, Enisa, después de meses de negociaciones finalmente obtuvo acceso al modelo avanzado de Anthropic Mythos 5 — pero no a la versión más reciente Mythos 5.1. El Instituto de Seguridad de IA del Reino Unido se encuentra en la misma situación.

Esto es sintomático. Mientras las empresas innovan a ritmo trimestral y mensual, el escrutinio independiente se mueve en un tempo completamente diferente. La UE está en medio de la implementación de su regulación de IA, y las preguntas sobre transparencia y control son urgentes — pero las respuestas tardan.

Y quizá es precisamente ahí donde aprieta el zapato más. Independientemente de si las advertencias de los investigadores son genuinas o estratégicas, señalan un problema estructural: quienes construyen la tecnología establecen por sí solos las condiciones sobre quién puede examinarla, y a qué ritmo.