Investigadores revelan: robots industriales y sistemas quirúrgicos pueden ser engañados para ver incorrectamente – sin que nadie toque un solo cable

Cuando el robot se engaña a sí mismo

Imagina un robot industrial que recoge componentes en una cinta transportadora, día tras día, sin un solo error. O un asistente quirúrgico que navega con precisión de milímetro. O un vehículo de defensa que identifica amenazas en tiempo real. Ahora imagina que alguien – sin tocar un solo cable ni escribir una sola línea de código nuevo – logra que estos sistemas vean algo diferente de la realidad.

No es ciencia ficción. Es la nueva frontera en seguridad de robots, y es mucho más preocupante que los fallos de sistema tradicionales.

Según IEEE Spectrum, la IA física – sistemas de IA que controlan robots en el mundo real – se encuentra en una situación de vulnerabilidad única. Los robots modernos interpretan su entorno a través de sensores, toman decisiones utilizando modelos de IA avanzados y convierten estas decisiones en movimientos físicos. Esto los expone en cada etapa de la cadena: desde cómo fueron entrenados, hasta cómo perciben su entorno en tiempo real.

Puertas traseras ocultas que esperan su momento

Las amenazas de este tipo no son completamente nuevas. Ya en 2017, la investigación detrás de BadNets mostró que un modelo de IA podía programarse con una puerta trasera oculta – un patrón sutil que hacía que el modelo confundiera una señal de alto con una señal de límite de velocidad, pero solo cuando ese patrón específico era visible. El resto del tiempo, el modelo se comportaba de forma completamente normal. Es exactamente lo que hace que este tipo de ataques sean tan peligrosos: no se ven.

Ahora la investigación ha avanzado de forma seria. En la conferencia científica NeurIPS 2025 se presentó un ataque llamado BadVLA, dirigido a los llamados modelos de visión-lenguaje-acción – modelos que permiten a los robots ver, interpretar instrucciones y realizar movimientos coordinados. Los resultados fueron sorprendentes: el ataque podía hacer que los robots se desviaran de su trayectoria prevista cuando se activaba un disparador oculto. Aún más preocupante: la puerta trasera sobrevivió incluso a los intentos de reentrenar el modelo. Esto significa que las rutinas de seguridad comunes no son suficientes.

Un estudio complementario, GoBA, demostró que un objeto tan cotidiano como una taza de café podría funcionar potencialmente como disparador para tal ataque. No se trata, pues, de equipamiento de laboratorio avanzado – se trata de objetos que existen en cualquier fábrica, cualquier hospital o cualquier vehículo.

Lo que significa para aplicaciones reales

Seamos concretos. En fabricación, los robots impulsados por IA controlan todo, desde la soldadura hasta el control de calidad. Un sistema manipulado que aprueba sistemáticamente componentes defectuosos – sin que aparezca en los registros – puede causar problemas de producción que son difíciles de rastrear y costosos de solucionar.

En sanidad, se utilizan sistemas asistidos por robot en operaciones y distribución de medicamentos. Aquí, las consecuencias de un comportamiento incorrecto pueden ser directamente mortales – y sin que el personal necesariamente entienda que algo ha ido mal hasta que sea demasiado tarde.

En defensa, las implicaciones son evidentes. Los sistemas autónomos que identifican objetivos o navegan en entornos de combate son blancos obvios para actores respaldados por estados que desean explotar precisamente este tipo de vulnerabilidades ocultas.

La seguridad debe construirse – no pegarse

Lo que hace compleja la situación es que la visión tradicional de la seguridad de robots – manejar fallos mecánicos y errores de programación – no está adaptada para este tipo de amenazas. Que un robot se comporte normalmente el 99,9 por ciento del tiempo ya no es suficiente como prueba de que es seguro.

Lo que la industria necesita ahora es un cambio de paradigma: seguridad que se construya en toda la cadena, desde los datos de entrenamiento y la arquitectura del modelo hasta la supervisión en tiempo real de patrones de decisión. Requiere colaboración entre investigadores de IA, expertos en seguridad y las industrias que realmente implementan estos sistemas.

Esto no es un argumento contra la IA física – es un argumento para tomarla lo suficientemente en serio como para hacerlo correctamente.