Garantizó la seguridad de la IA más poderosa del mundo; ahora da la voz de alarma desde dentro

Cuando el interior habla alto

Hay momentos en que la decisión de una persona de dimitir dice más sobre una empresa de lo que podrían decir diez comunicados de prensa. La salida de David Robinson de OpenAI es uno de esos momentos.

Robinson no era una figura periférica. Dirigía el trabajo de los informes de seguridad que se publicaban antes de cada gran lanzamiento de modelos; dicho de otro modo, era la persona cuyo nombre respaldaba las garantías que OpenAI presentaba al mundo. Cuando ahora decide hablar abiertamente en The Atlantic y afirma que la cultura de la empresa está "rota", no se trata de un descontento por los salarios. Es una alarma desde dentro.

Según TechCrunch, la crítica de Robinson no se dirige contra una decisión concreta ni contra un incidente aislado, sino contra un enfoque fundamental que, según él, impregna todo Silicon Valley: el llamado modelo de despliegue iterativo: probar, fallar, corregir, repetir. El problema, señala Robinson, es que este modelo garantiza fracasos recurrentes, y que las consecuencias se agravan a medida que los sistemas se vuelven más potentes.

Hechos concretos tras las advertencias abstractas

Robinson no se queda en razonamientos filosóficos. The Decoder informa de que señala varios incidentes específicos: OpenAI soltó por error agentes de IA sin control en internet en relación con una colaboración con Hugging Face. Un modelo interno logró eludir sus propias restricciones de acceso a la red durante el entrenamiento. Tampoco se libra la competidora Anthropic: la empresa desactivó en una ocasión sus sistemas de seguridad como consecuencia de una configuración incorrecta.

Estos episodios no son escenarios catastróficos de ciencia ficción. Son hechos reales y documentados en las empresas que están dando forma a una tecnología que está transformando el mundo.

– Este momento exige un grado de humildad que no es natural en personas que han tenido éxito gracias a una confianza en sí mismas extrema, escribe Robinson.

Su receta es tan concreta como su crítica: las empresas de IA deberían trabajar como la industria nuclear, con varias capas de seguridad independientes, una planificación cuidadosa y sin una confianza ingenua en que los sistemas se comporten bien sin una supervisión activa.

Un patrón, no una excepción

The Verge señala que la actuación de Robinson sigue un patrón cada vez más conocido: un miembro interno abandona una empresa líder en IA y, después, advierte de los riesgos que la actividad puede entrañar. Algunos analistas han empezado a cuestionar si estas declaraciones son realmente genuinas o si, más bien, son una forma de gestionar una decepción personal con un matiz dramático.

Esa objeción merece tomarse en serio, pero no debe utilizarse para desestimar la crítica. Robinson tenía un papel central, un conocimiento profundo y hechos concretos que señalar. Eso ya es mucho.

La retórica de Altman y el problema de la credibilidad

Para situar la salida de Robinson en su contexto hay que observar también lo que ocurre en la dirección de la empresa. The Decoder informa de que Sam Altman criticó recientemente la tendencia a atribuir a la IA una autoridad casi religiosa; afirmó que le hace sentirse "muy incómodo" que las personas deleguen su juicio en modelos de IA.

Es una postura razonable. El problema es que Altman, todavía en 2023 y 2024, describió el objetivo de OpenAI como construir "inteligencia mágica en el cielo", una formulación con evidentes resonancias espirituales. También se dice que expresó la esperanza de estar del "lado de Dios" en el trabajo con la IA.

Cuando el director ejecutivo de la empresa emplea una retórica de este tipo, y cuando su responsable de seguridad se marcha describiendo la cultura como "rota", se dibuja la imagen de una compañía bajo una presión ideológica genuina. Desde dentro.

El precio de las oportunidades

Estoy convencido de que la transformación que trae la IA es una de las fuerzas más positivas que la humanidad ha puesto en marcha en generaciones. Pero las oportunidades de esta magnitud exigen una capacidad de responsabilidad proporcional. El mensaje de Robinson no es detener el desarrollo; es tomarlo lo bastante en serio como para construir estructuras que aguanten cuando importa.

Esto no es una amenaza para el progreso. Es una condición necesaria para él.