¿Pueden millones de simulaciones demostrar que un robot es inofensivo?
Los robots controlados por IA se extienden por las estanterías de los almacenes, los pasillos de los hospitales y los suelos de las fábricas, pero ¿cómo sabemos que un sistema que nunca es del todo predecible no nos hace daño? Safeworld, una empresa recién creada con raíces en la investigación en seguridad de Carnegie Mellon, quiere ofrecer a la industria una respuesta: ejecutar millones de escenarios de riesgo en el ordenador antes de que el robot llegue a encontrarse con una persona. La cuestión es si eso basta para ganar la confianza en la que se apoya toda la revolución robótica.
La confianza es el verdadero problema
Hay una cosa que frena la revolución robótica más que la propia tecnología, y no es la potencia de procesamiento, la autonomía de las baterías ni la precisión de los movimientos. Es la confianza.
Cuando los robots controlados por IA empiezan a aparecer en las estanterías de los almacenes, en los pasillos de los hospitales y en los suelos de las fábricas de todo el mundo, surge en primer plano una pregunta fundamental: ¿cómo podemos estar seguros de que un sistema de IA basado en probabilidades –un sistema que, por definición, nunca es cien por cien predecible– no supone un peligro para las personas que tiene cerca?
Esa es exactamente la pregunta que Safeworld ha asumido. Según TechCrunch, la empresa fue fundada por el Dr. Ding Zhao, que dirige el laboratorio Safe AI de la Universidad Carnegie Mellon, junto con el emprendedor tecnológico Kyle Wong y el ingeniero de aprendizaje automático Simo Rachidi. Con una financiación inicial de algo más de 12 millones de dólares, liderada por Shine Capital y a16z Speedrun, y con Box Group y el fondo universitario de Carnegie Mellon como inversores adicionales, la empresa se presenta ahora ante la atención pública.
La simulación como prueba de seguridad
El método de Safeworld es elegante en su lógica: en lugar de probar los robots en entornos reales, algo costoso y peligroso, se ejecutan miles de escenarios en simulaciones informáticas detalladas con modelos realistas de personas. Un trabajador de fábrica que lleva cajas alrededor de una esquina. Alguien que tropieza y cae delante del robot. Situaciones difíciles de prever, pero que ocurren cada día en los lugares de trabajo reales.
La metodología recuerda a la forma en que la industria del automóvil prueba los coches autónomos, pero Zhao deja claro que la robótica plantea un problema más difícil. Un coche autónomo se mueve en un entorno relativamente estructurado: carreteras, carriles y normas de tráfico. Un robot en un almacén o en una cocina se enfrenta a un caos constantemente cambiante de movimientos humanos, objetos inesperados y situaciones que nadie ha podido programar de antemano.
— El desafío de seguridad consiste, por un lado, en evaluaciones avanzadas basadas en probabilidades de la IA generativa y, por otro, en la confianza. Necesitas ambas cosas para poder desplegar un robot, afirma Zhao a TechCrunch.
Es una formulación que se queda grabada. La verificación técnica y la confianza humana no son lo mismo, y la industria se ha centrado históricamente casi exclusivamente en lo primero.
La empresa adecuada en el momento oportuno
Desde una perspectiva de desarrollo empresarial, el momento elegido por Safeworld es casi perfecto. Nos encontramos en una fase crítica en la que plataformas robóticas como Figure, Agility Robotics y Boston Dynamics aceleran su expansión, y en la que los modelos de IA generativa se usan cada vez más como sistemas de control en lugar de algoritmos basados en reglas. Esto dota a los robots de capacidades extraordinarias, pero también abre nuevas brechas de riesgo.
Históricamente, la seguridad robótica ha girado en torno a limitaciones mecánicas: vallas, sensores y paradas de emergencia. Con la IA generativa como cerebro, desaparece parte de esa previsibilidad. Ya no podemos leer un manual y entender exactamente lo que el robot va a hacer en todas las situaciones. Eso requiere un nuevo tipo de infraestructura de certificación, y eso es precisamente lo que Safeworld trata de llegar a ser.
Recuerda a la forma en que la industria de la ciberseguridad surgió a la sombra de la expansión de internet. Nadie planificó esa necesidad desde el principio. Surgió como respuesta a la realidad. Ahora vemos cómo el mismo patrón toma forma en la robótica.
Una mirada crítica: ¿es suficiente?
Aun así, sería ingenuo no plantear la incómoda pregunta de seguimiento: ¿basta con el marco de simulación de una sola empresa para resolver un déficit de confianza que afecta a toda la industria?
Lo probable es que Safeworld necesite llegar a ser algo más que una empresa: tendrá que convertirse en un precedente, en un organismo de certificación compartido por el sector o, como mínimo, en una herramienta en la que puedan apoyarse las autoridades de supervisión de la industria. De lo contrario, corre el riesgo de convertirse en una capa tecnológica más en una industria que ya tiene demasiadas capas y muy poca coordinación.
Pero como punto de partida, ¿qué más se puede pedir? Es exactamente el tipo de iniciativa que estábamos esperando.