En un futuro cada vez más cercano, los androides dotados de inteligencia artificial (IA) pueden convertirse en algo habitual. Aunque todavía no alcanzan la sofisticación vista en películas, ya hay robots con IA desarrollados para ejecutar tareas y responder preguntas. Ante la preocupación sobre el posible peligro que representarían para la humanidad, Google ha elaborado una «constitución robótica» con el objetivo de impedir que los robots nos lastimen.
Hace poco más de un año, la inteligencia artificial experimentó un avance significativo con el surgimiento de ChatGPT y sus desarrollos posteriores. Estas innovaciones permitieron la creación de chatbots capaces de responder preguntas y realizar tareas diversas, simulando un comportamiento más humano.
Google establece una «Constitución» para proteger a humanos y animales de posibles daños causados por robots
OpenAI y su chatbot GPT-4 han sido fundamentales para el desarrollo de diversos proyectos, incluidos robots inteligentes y humanoides capaces de seguir instrucciones en función de ciertas restricciones impuestas. No obstante, existe una preocupación creciente sobre cómo una IA malintencionada podría poner en riesgo a la humanidad.
Anticipándose a la creación de robots con IA avanzada, el equipo de Google DeepMind ha diseñado una constitución para enseñar a las IA a cumplir normas y evitar accidentes que afecten a seres humanos. Esta «Constitución robótica» establecerá pautas de entrenamiento para que los robots obedezcan las leyes establecidas y no pongan en peligro a humanos y animales.
Las tres leyes de la robótica de Isaac Asimov sirvieron como inspiración para la constitución
Esta constitución está basada en las Tres Leyes de la Robótica de Isaac Asimov, cuya primera ley establece que un robot nunca dañará a un ser humano. La segunda ley obliga al robot a obedecer las órdenes recibidas, siempre que no impliquen causar daño a seres humanos. La tercera ley establece que el robot debe proteger su propia existencia, siempre y cuando no viole las primeras dos leyes. Siguiendo estos principios, la constitución robótica de Google busca que los LLM eviten realizar tareas que dañen a humanos o animales.
Para entrenar a los robots, se utilizó el sistema de recopilación de datos de Google, llamado AutoRT, en combinación con VLM y LLM. A lo largo de siete meses, un total de 53 robots AutoRT llevaron a cabo más de 77.000 pruebas. Algunos de estos robots fueron operados por humanos, mientras que otros funcionaron de manera autónoma mediante el modelo RT-2 de Google. Aunque no se han reportado comportamientos extraños hasta ahora, será necesario un entrenamiento más exhaustivo para asegurar que los robots sigan completamente las normas establecidas por la constitución robótica.
