Google crea una constitución para robots que impide que maten a seres humanos
Avances en robótica: DeepMind presenta sistemas de seguridad y «Constitución de Robots»
La compañía de inteligencia artificial DeepMind ha desarrollado tres innovaciones importantes para incrementar la rapidez, calidad y seguridad en la toma de decisiones de los robots en entornos reales. Entre estos avances se encuentra un sistema de recolección de datos de entrenamiento y una «Constitución de Robots» para garantizar, por ejemplo, que un robot asistente en una oficina pueda buscar papel para la impresora sin poner en peligro a sus colegas humanos.
Protección frente a accidentes con robots
Se han registrado casos de accidentes con robots, como el dedo roto de un niño de siete años por un robot que jugaba al ajedrez, o incluso accidentes fatales en fábricas. Para mejorar la seguridad, el sistema de recopilación de datos AutoRT de Google utiliza un modelo de lenguaje visual (VLM) y un modelo de lenguaje grande (LLM) con el fin de adaptarse a entornos desconocidos y tomar decisiones adecuadas respecto a las tareas a realizar. DeepMind también ha programado a los robots para que se detengan automáticamente si la fuerza en sus articulaciones es excesiva e incorpora un interruptor físico de emergencia para ser utilizado por los operadores humanos en caso de necesidad.
Flota de robots en pruebas
Google ha estado probando una flota de 53 robots AutoRT en cuatro edificios de oficinas diferentes durante siete meses, llevando a cabo más de 77.000 pruebas. Algunos robots fueron operados por control remoto por personal humano, mientras que otros funcionaron de manera autónoma, utilizando el modelo de aprendizaje de inteligencia artificial Robotic Transformer (RT-2) de Google.
«Constitución de Robots»: seguridad y responsabilidad
Inspirada en las «Tres Leyes de la Robótica» de Isaac Asimov, la «Constitución de Robots» de Google es un sistema de instrucciones centradas en la seguridad que guían al LLM para evitar tareas que involucren a humanos, animales, objetos peligrosos y electrodomésticos. Esta constitución, dividida en reglas fundamentales, de seguridad y de encarnación, tiene como objetivo proteger tanto a los robots como a las personas, previniendo situaciones en las que los robots realicen tareas peligrosas o manipulen objetos que puedan ser perjudiciales para los seres humanos.
Tecnología y seguridad combinadas
La adopción de la «Constitución de Robots» de DeepMind llega en un contexto de importantes avances en la investigación en robótica. Sistemas como AutoRT, SARA-RT y RT-Trajectory buscan garantizar tanto la seguridad de los humanos como la de los robots. Esta constitución supervisa el desarrollo y operación de los robots, asegurando que su intervención sea segura y útil para las personas. Gracias a estas pautas y los nuevos sistemas que permiten a los robots operar correctamente sin superar sus límites, el futuro de la robótica apunta hacia una mayor eficiencia y seguridad en el apoyo a los seres humanos.
