Construyen la tecnología que puede eliminarnos – y lo saben

La advertencia desde adentro

Cuando Jacob Coxon, empleado anterior de la empresa de seguridad de IA Anthropic, publicó su mensaje de despedida en X, tal vez no esperaba que se convirtiera en un terremoto en la industria. Pero lo que transformó un mensaje de adiós ordinario en una propagación viral fue lo que afirmó sobre el ambiente detrás de puertas cerradas: quienes construyen los sistemas de IA más poderosos del mundo creen profundamente que la tecnología puede matarnos a todos antes de que termine esta década.

Lo verdaderamente impactante llegó después. Uno de los propios responsables de seguridad de Anthropic confirmó la visión públicamente – sí, así es aproximadamente como lo vemos. Según Wired, esta no es una posición nueva para Anthropic; los fundadores de la empresa han promovido durante mucho tiempo una idea comercial abiertamente paradójica: construimos algo lo suficientemente peligroso para destruir a la humanidad, y precisamente por eso debe ser nosotros quienes lo hagamos – con la seguridad en el centro.

Sin embargo, la acusación de Coxon es que esta filosofía bien intencionada no se sostiene en la práctica. Según él, Anthropic se comporta en realidad de forma tan despiadada como sus competidores en la búsqueda de modelos cada vez más poderosos. El corresponsal de tecnología de Wired, Will Knight, señala que lo notable no es la opinión en sí – ha circulado durante mucho tiempo en la industria – sino que una visión concreta de la cultura interna ahora se ha hecho de dominio público.

Frenos que tal vez sean ilegales

Mientras tanto, al otro lado del panorama político en Washington, está ocurriendo una discusión completamente diferente pero igualmente reveladora. Según Wired, OpenAI ha contactado a legisladores en el Congreso estadounidense con una pregunta casi surrealista: ¿es legal coordinadamente frenar el desarrollo de IA más avanzado?

La pregunta no es académica. El científico jefe de OpenAI, Jakub Pachocki, argumentó recientemente en público que la investigación de IA del futuro debe incluir frenos coordinados – en particular para sistemas de mejora automática que de otro modo correrían el riesgo de volverse imposibles de manejar. Suena razonable. El problema es que tal colaboración entre los principales laboratorios de IA puede chocar con la legislación estadounidense de competencia.

Nicholas Felstead, subdirector de la agencia australiana de competencia y consumidor, estableció en marzo que una pausa coordinada en el desarrollo de IA puede equipararse a que las empresas limiten conjuntamente su producción – lo que potencialmente viola la Ley Sherman estadounidense sobre competencia. Aunque la mayoría de colaboraciones de seguridad probablemente pasarían una prueba legal, Felstead advierte que la incertidumbre legal en sí puede actuar como elemento disuasorio. En otras palabras: el temor a las consecuencias legales puede impedir precisamente las medidas de seguridad que todas las partes realmente desean implementar.

El fallo del sistema absurdo

Tomadas en conjunto, las dos noticias dibujan algo que se asemeja a un fallo del sistema institucional de proporciones históricas. Por un lado, tenemos empresas de IA que internamente reconocen que construyen tecnología potencialmente existencialmente peligrosa. Por otro lado, un marco legal y político que puede prohibirles hacer algo coordinadamente al respecto.

Es aquí donde la imagen se vuelve verdaderamente nítida: no es necesariamente la falta de voluntad lo que impulsa la carrera hacia adelante – puede ser la falta de permiso para detenerse.

¿Hay rayos de esperanza? Sí, de hecho. Wired reporta que hay señales tempranas de que el Congreso comienza a escuchar. Es un paso pequeño pero importante. Porque si los legisladores entienden que la ley de competencia vigente hace prácticamente imposible la colaboración de seguridad necesaria, al menos existen las condiciones para cambiar las reglas del juego.

Como profesional de desarrollo empresarial, veo enormes oportunidades en la transformación de la IA – pero las oportunidades requieren un fundamento que funcione. Un ecosistema donde las empresas no pueden colaborar en seguridad sin arriesgar demandas no es un ecosistema que entregue valor a largo plazo. Es un mecanismo de tiempo.

La pregunta real ya no es si la IA es peligrosa. Parece que la industria misma lo ha aceptado. La pregunta es si las estructuras que rodean la tecnología son lo suficientemente ágiles para seguir el ritmo que mantiene el desarrollo.