¿Quién responde cuando la máquina mata? El ejército de EE. UU. crea un nuevo mando para sistemas de armas autónomos
El Ejército de EE. UU. ha creado FASCOM, un nuevo mando con un único objetivo: eliminar la inercia y acelerar el desarrollo de sistemas de armas autónomos. Es una de las expresiones más claras hasta ahora de cómo la inteligencia artificial está transformando la guerra moderna, pero cuando la capacidad de decidir sobre la violencia letal se delega cada vez más abajo en la jerarquía del sistema surge una pregunta para la que ni militares ni políticos parecen tener respuesta: ¿quién asume la responsabilidad cuando algo sale mal?
Un nuevo mando toma forma
Apenas hubo tiempo entre los anuncios. Primero, el secretario de Defensa Pete Hegseth presentó un nuevo mando de combate para la guerra autónoma. Al día siguiente, el ejército anunció la creación del Futures and Autonomous Systems Command, abreviado como FASCOM. Según Defense One, el mensaje del secretario del Ejército en funciones, Adam Telle, fue cristalino: la inercia burocrática que frenaba la modernización ha quedado atrás.
La ironía no es del todo invisible. Resolver la burocracia creando otro mando es un movimiento institucional clásico. Sin embargo, existen diferencias sustanciales con intentos anteriores que merecen tomarse en serio.
El efímero predecesor, Army Futures Command, estaba dirigido por generales de cuatro estrellas con formación de infantería: soldados experimentados, pero no necesariamente los más adecuados para dirigir la adquisición de sistemas autónomos en tiempo real. FASCOM, en cambio, será dirigido por un responsable de adquisiciones con capacidad de decisión directa. Antes, las decisiones finales acababan en la mesa del Pentágono, lo que creaba una brecha entre el desarrollo tecnológico y la adquisición real. Ahora se pretende cerrar esa brecha.
John G. Ferrari, general de brigada retirado y analista del American Enterprise Institute, lo describe para Defense One como "Futures Command 2.0", pero con una mejora decisiva: en lugar de organizaciones dispersas que a veces se obstaculizan entre sí, la responsabilidad, los mandatos y los recursos se agrupan ahora bajo un único mando militar.
Por qué sucede ahora
FASCOM no surge en el vacío. Los conflictos en Ucrania y Gaza han hecho evidente en poco tiempo que los drones, las embarcaciones autónomas y los sistemas controlados por IA ya no pertenecen al futuro: son una realidad operativa. China y Rusia invierten de forma masiva en capacidades similares, lo que presiona a EE. UU. para no perder ritmo.
Como desarrollador de sistemas, veo con claridad qué impulsa la necesidad tecnológica: los campos de batalla modernos generan enormes cantidades de datos de sensores que las personas no pueden procesar con suficiente rapidez. Los sistemas de IA pueden identificar patrones, formular recomendaciones y, en última instancia, actuar en milisegundos. Es una capacidad genuinamente poderosa, y precisamente por eso las cuestiones de control y responsabilidad se vuelven tan centrales.
Posibilidades y manchas oscuras
Permítaseme ser claro: veo posibilidades reales aquí. Los sistemas autónomos pueden reducir el riesgo de bajas humanas en situaciones peligrosas, aumentar la precisión y disminuir el riesgo de víctimas civiles en comparación con las operaciones convencionales, siempre que estén bien diseñados y bien empleados. No es un argumento trivial.
Pero el "siempre que" pesa mucho.
El núcleo ético del debate sobre los sistemas de armas autónomos gira en torno a la responsabilidad y la capacidad de discernimiento. El derecho internacional humanitario exige que todo ataque distinga entre combatientes y civiles, que se evalúe la proporcionalidad y que exista juicio humano en la cadena de decisión. Cuando un sistema actúa de forma autónoma, ¿quién asume entonces la responsabilidad si algo sale mal? ¿El programador? ¿El comandante? ¿El responsable de adquisiciones de FASCOM?
Aún no existen respuestas acordadas internacionalmente. Las deliberaciones de la ONU sobre los llamados sistemas de armas autónomos letales llevan más de una década sin un marco normativo vinculante. FASCOM podría entregar sistemas más rápido de lo que la comunidad internacional logra acordar las reglas del juego.
Esto no es un argumento contra desarrollar la capacidad. Pero sí es un argumento sólido para hacerlo con los ojos abiertos y con marcos éticos internos robustos, y no solo con una adquisición rápida.
La estructura es, en realidad, interesante
Desde una perspectiva técnica y organizativa, la configuración de FASCOM merece seguimiento. Situar las decisiones de adquisición cerca de quienes comprenden los sistemas, en lugar de dejar que asciendan por una jerarquía administrativa, es un principio sensato. Es algo parecido a cuando una empresa de software deja de permitir que el departamento jurídico y el de compras bloqueen cada decisión técnica y, en cambio, da a los equipos de producto el mandato de actuar dentro de límites claros.
La cuestión es si en este caso esos límites son lo bastante claros. Ferrari señala que los mandos de combate permanecerán independientemente de quién gane las próximas elecciones presidenciales. Esto aporta una continuidad estructural, pero la continuidad solo es valiosa si la dirección es correcta desde el principio.