Las armas biológicas ya son una amenaza – la IA no lo mejora

Cuando la amenaza es más tangible de lo que creemos

Es fácil dejar que la mente divague hacia la ciencia ficción cuando la conversación gira en torno a la IA y los riesgos existenciales. Sistemas de armas autónomos, algoritmos de decisión mal calibrados, máquinas que «despiertan». Pero a veces la realidad es tanto más aburrida como más peligrosa que la fantasía.

La empresa de IA Anthropic publicó recientemente un informe sobre el uso indebido de su modelo de conversación Claude. El informe describe cinco casos documentados en los que investigadores extranjeros intentaron eludir los filtros de seguridad del sistema para obtener acceso a información sobre la llamada investigación de «ganancia de función» – es decir, la manipulación genética de agentes patógenos con el propósito de hacerlos más contagiosos, más letales o mejor adaptados para propagarse entre mamíferos. Anthropic denegó el acceso y cerró las cuentas. Hasta ahí, el sistema funcionó como debería.

Pero lo que el informe realmente revela no es un problema de IA – es un problema de seguridad biológica que la IA simplemente ocurre que se encuentra cerca.

La naturaleza dual inherente

La investigación biológica es por naturaleza de doble filo. Los mismos métodos utilizados para desarrollar vacunas y contramedidas contra pandemias pueden, en manos equivocadas, utilizarse para construir armas biológicas. No es una falla del sistema – es una característica fundamental del conocimiento en sí mismo. Cada avance en protección contra enfermedades conlleva la posibilidad tanto de salvación como de destrucción.

La periodista Annie Jacobsen, conocida por su libro más vendido Nuclear War: A Scenario, ha seguido ahora con Biological War: A Scenario, según reporta Wired. Con acceso a militares de alto rango, funcionarios de inteligencia e investigadores, esboza un cuadro aterrador: la barrera para desarrollar armas biológicas es dramáticamente más baja que la de las armas nucleares. Las armas nucleares requieren material fisible de grado militar, ingeniería avanzada y recursos enormes. Las armas biológicas requieren fundamentalmente conocimiento, condiciones de laboratorio y acceso a agentes patógenos – infraestructura que cada vez es más accesible incluso fuera del control de actores estatales.

La IA como amplificador – no como origen

Aquí es importante mantener separadas dos preguntas distintas. La primera: ¿son las armas biológicas una amenaza seria? Sí, y lo han sido durante mucho tiempo. La segunda: ¿empeora la IA la amenaza? Potencialmente sí – pero es una pregunta secundaria.

Como desarrollador de sistemas, estoy acostumbrado a ver la tecnología como una herramienta de amplificación. La IA amplifica lo que ya podemos hacer – búsqueda bibliográfica más rápida, modelado proteico mejor, síntesis más eficiente de resultados de investigación. Esto significa que la IA puede reducir aún más los umbrales para actores que ya se encuentran cerca del límite de lo que es técnicamente posible. Este es un problema real. Pero no cambia el hecho fundamental de que la amenaza existía mucho antes de ChatGPT.

Lo que el informe de Anthropic realmente muestra es que el trabajo de seguridad dentro de la industria de la IA en realidad funciona en este caso – y que necesitamos más de ello, no menos. Identificar, registrar y detener intentos de abuso es precisamente el tipo de cumplimiento normativo y transparencia que la industria debe priorizar.

Un recordatorio de que lo peligroso no requiere superinteligencia

Quizá la lección más importante de este debate es una que a veces olvidamos quienes trabajamos en tecnología: los sistemas peligrosos no necesitan ser inteligentes. No necesitan ser autónomos. Ni siquiera necesitan ser digitales.

Un patógeno genéticamente modificado no se preocupa por la prueba de Turing. No se preocupa por si fue creado con la ayuda de un gran modelo de lenguaje o de un viejo libro de texto. Las consecuencias son las mismas.

Esto no significa que debamos dejar de preocuparnos por riesgos específicos de la IA. Pero significa que el debate sobre riesgos debe ser más amplio, más matizado y más enraizado en escenarios de amenaza reales – no solo en los tecnológicamente más espectaculares.