Los datos de la guerra se ponen a disposición de las empresas tecnológicas – sin marco regulatorio y sin reglas de juego

El campo de batalla como fuente de datos

Hay algo profundamente inquietante en la precisión con la que se puede describir lo que está ocurriendo en Ucrania en este momento: una guerra en curso funciona como una plataforma de recopilación industrial de datos de entrenamiento. Según MIT Technology Review, se ponen a disposición de empresas de defensa y compañías comerciales millones de puntos de datos de decenas de miles de vuelos de drones – una opción deliberada por parte de Ucrania para atraer financiación y socios de colaboración internacionales.

La estrategia es comprensible. Ucrania necesita recursos, y el país posee algo que las empresas tecnológicas de otra manera apenas pueden recrear: entornos de combate reales, bajo condiciones reales, con consecuencias reales. Son datos de entrenamiento de una calidad que ninguna simulación puede igualar.

Pero es precisamente esa percepción la que debería hacernos detenernos.

Un mercado sin reglas de juego

Cory Alpert, investigador de la Universidad de Melbourne con experiencia previa en la Casa Blanca de Biden, advierte en un artículo de opinión en MIT Technology Review sobre lo que está emergiendo: un mercado completamente desregulado donde los datos de combate se tratan como cualquier otra materia prima comercial.

No es un riesgo futuro hipotético. Está sucediendo ahora.

Como desarrollador de sistemas, sé lo tentador que es cuando de repente se tienen acceso a grandes conjuntos de datos de alta calidad. Existe una lógica incorporada en usar lo que se tiene. Pero esa lógica no se sostiene cuando se trata de datos recopilados en una guerra activa – donde cada punto de datos representa un acontecimiento real con víctimas humanas.

La pregunta no es si estos datos son técnicamente útiles. Claramente lo son. La pregunta es si como sociedad nos hemos decidido a aceptar que la guerra sea un modelo de negocio para el desarrollo de IA – y ni siquiera hemos comenzado a formular esa respuesta.

¿Qué ocurre cuando nadie establece los límites?

En la actualidad no existe un marco internacional que regule cómo se recopilan, poseen y venden los datos de combate. Ciertamente existe el derecho internacional humanitario que regula la guerra, y hay regulaciones incipientes en torno a la IA en el sector civil – la Ley de Inteligencia Artificial de la Unión Europea es un paso en la dirección correcta – pero estos sistemas no se comunican entre sí de la manera que sería necesaria.

El resultado es un vacío. Y los vacíos siempre se llenan con fuerzas del mercado.

No es difícil imaginar cómo se verá en diez años si nada cambia: un ecosistema de empresas de defensa y tecnología que compiten por acceso a la siguiente cosecha de datos de un conflicto, con incentivos para desear tener más conflictos de los que aprender. Es una lógica circular inquietante.

La deuda de la tecnología con la ética

Suelo ser quien señala las posibilidades cuando otros ven amenazas. Y realmente creo que la IA puede hacer más precisa la actividad militar, reducir pérdidas civiles y acortar conflictos – pero solo si la tecnología se desarrolla bajo formas ordenadas y sometidas a escrutinio ético.

Lo que se describe en MIT Technology Review es lo opuesto: una situación donde la velocidad del mercado adelanta a la capacidad de la ética de seguirle el ritmo. No es culpa de la tecnología de IA en sí. Es un problema de gobernanza, y los problemas de gobernanza son solucionables – pero solo si reconocemos que existen.

El llamamiento de Alpert por un marco regulatorio es correcto. Se necesita un precedente internacional que aclare que los datos de combate no son un recurso libre, que se establezcan requisitos de transparencia sobre cómo se usan los datos, y que los actores comerciales no puedan impunemente construir modelos de negocio sobre la materia prima de la guerra.

El mundo tecnológico tiene el hábito de pedir perdón en lugar de permiso. Un hábito que no podemos permitirnos aquí.