Las barreras éticas contra armas autónomas hacen que Claude sea un riesgo de seguridad – corte de apelaciones aprueba la exclusión del Pentágono

Cuando los valores encuentran el poder militar

Hay una profunda ironía en la sentencia que una corte federal de apelaciones en Washington pronunció recientemente. Anthropic – una de las empresas de seguridad en IA más respetadas del mundo, fundada con el propósito explícito de construir IA que sea segura y beneficiosa para la humanidad – ha sido ahora determinada por la corte como una riesgo de seguridad para el estado estadounidense.

¿La razón? Precisamente lo que hace que Anthropic sea Anthropic.

Según Wired, la corte aprobó la decisión del Pentágono de excluir el modelo de IA Claude de uso militar y en agencias federales, argumentando que Anthropic codifica limitaciones en el modelo – restricciones que le impiden realizar ciertas tareas. La empresa ha declarado públicamente que sus modelos no pueden ser utilizados para controlar armas autónomas o para vigilancia doméstica. El secretario de Defensa Pete Hegseth caracterizó esa posición como un riesgo de seguridad grave, y ahora la maquinaria judicial ha puesto un sello legal en esa evaluación.

Es una situación notable. Las directrices éticas de Anthropic – vistas por muchos en la industria como un modelo a seguir – son interpretadas por el departamento de Defensa estadounidense como un obstáculo para la seguridad nacional.

Una realidad legal dividida

La situación legal está lejos de ser sencilla. La exclusión se basa en dos leyes separadas, lo que ha significado que la cuestión haya sido examinada en diferentes cortes con resultados distintos. Un juez federal en San Francisco efectivamente anuló una de las exclusiones en marzo – una decisión que fue posteriormente confirmada – mientras que la sentencia de apelación del viernes fue en la dirección opuesta.

Esto significa que Anthropic se encuentra en una zona legal ambigua: parcialmente excluida, parcialmente no. No es una situación estable, ni para la empresa ni para las agencias federales que quieren saber qué herramientas de IA pueden realmente usar.

Para la industria de IA en general, esto envía una señal clara: las reglas del juego para la contratación estatal de IA están siendo formadas ahora mismo, en tiempo real, en salas de justicia antes que en legislaturas.

La pregunta que nadie quiere hacer en voz alta

Detrás de los titulares legales se esconde una cuestión estratégica que toda la industria de IA debe enfrentar ahora: ¿Puede una empresa de IA tener principios éticos fundamentales y ser simultáneamente un socio confiable para el estado?

No es una pregunta sencilla, y quiero ser claro – no veo como obvio que el Pentágono esté equivocado. Los estados necesitan poder confiar en que los sistemas que utilizan realmente hacen lo que se les ordena, sin limitaciones incorporadas que no controlen por sí mismos. Es una perspectiva de seguridad legítima.

Al mismo tiempo, son precisamente estas limitaciones – el hecho de que Claude no haga cualquier cosa – las que hacen el modelo creíble, predecible y seguro para todos los otros usuarios. No es un defecto. Es el modelo de negocio, y quizás más importante, es la base de la confianza que Anthropic ha construido.

Aquí surge una tensión fundamental que no es resuelta por una sola sentencia: Las empresas de IA que quieren ser responsables deben establecer límites. Los estados que quieren tener control no toleran límites que no hayan establecido ellos mismos.

¿Qué significa esto para el resto del mercado?

Esta decisión no se quedará en Washington. Otros países, otras agencias y otras organizaciones contratantes en todo el mundo están observando cómo Estados Unidos navega estas cuestiones. Europa, que ya está profundamente inmersa en su propia regulación de IA, tiene mucho que aprender de lo que está sucediendo ahora.

Para empresas de IA que desean operar en el mercado público – incluyendo en Suecia y en los países nórdicos – la lección es cristalina: vuestras decisiones éticas no son solo cuestiones de marca, son términos contractuales. Y a veces son motivos de exclusión.

Hace que sea más urgente que nunca que la industria, los legisladores y la sociedad civil establezcan conjuntamente marcos claros sobre qué constituye un uso estatal de IA aceptable – antes de que los tribunales lo hagan por nosotros, un precedente a la vez.