Sin conductor, sin ley – ¿quién es responsable cuando el código adelanta al código?

Cuando el código adelanta al código

El 3 de septiembre se reunieron nueve equipos universitarios de tres continentes en la icónica pista de Laguna Seca en Monterey, California. La misión: dejar que automóviles de carreras autónomos compitieran entre sí – no en la pista ovalada que el Indy Autonomous Challenge había utilizado siempre, sino en una auténtica pista de carreras con desafíos técnicos considerados durante mucho tiempo demasiado complejos para que el software autónomo los manejara en tiempo real.

El resultado, según reporta The Robot Report, fue un avance histórico. Por primera vez en la historia de la competencia, automóviles autónomos ejecutaron maniobras de adelantamiento exitosas en curvas. El ganador fue el equipo italiano Unimore Racing de la Universidad de Modena y Reggio Emilia, que en la final derrotó al equipo estadounidense Purdue AI Racing.

Lo que hace la competencia particularmente interesante desde una perspectiva técnica es que todos los equipos condujeron vehículos idénticos – un chasis Dallara con motor Honda, sensores Luminar y unidades de procesamiento gráfico de Nvidia. La diferencia radicaba exclusivamente en el software. Los algoritmos que en fracciones de segundo calculaban el momento correcto para adelantar a un adversario en una pista sinuosa – ese era el verdadero escenario de competencia. Los pilotos están en el código, no en la cabina.

Una novedad de esta edición fue que los equipos primero tuvieron que clasificarse en simulación digital, en el entorno de software D-Space, antes de poder llevar las ruedas al asfalto real. Es un principio sensato que recuerda cuán en serio ve la industria ahora la verificación y la seguridad – se prueba en el gemelo digital antes de arriesgar consecuencias reales.

El éxito plantea nuevas preguntas

Pero todo avance técnico trae consigo una nueva serie de desafíos. Y a veces esos desafíos son más humanos que técnicos.

Paralelo a los triunfos en la pista de carreras, Breakit informa sobre una pregunta de investigación que a primera vista puede parecer absurda – pero que es completamente seria: ¿cómo se evita que los pasajeros tengan relaciones sexuales en los taxis sin conductor?

Mayebe suene como un titular de broma, pero la lógica detrás de la pregunta es aguda. Cuando no hay un conductor en un vehículo de taxi desaparece el control social que damos por sentado. Los pasajeros se encuentran en un espacio privado que se desplaza a través del espacio público – sin testigos, sin responsabilidad y sin reglas claras. Empresas como Waymo, Tesla y Uber están en vías de desplegar servicios a gran escala con vehículos sin conductor, y los marcos regulatorios de la sociedad se quedan atrás a pasos agigantados.

Investigadores en derecho, ética e ingeniería han comenzado a tomar el problema en serio. Las preguntas son difíciles: ¿Quién asume la responsabilidad legal si algo ocurre dentro del vehículo? ¿Cómo debe reaccionar el automóvil? ¿Y qué soluciones de vigilancia son razonables sin convertir cada viaje en taxi en un servicio de vigilancia?

Las posibles soluciones técnicas que se discuten incluyen cámaras integradas, sensores que registren patrones de movimiento anómalos y sistemas de advertencia automática. Pero cada respuesta genera nuevas preguntas sobre dónde trazarla línea entre seguridad e invasión de privacidad.

Dos caras de la misma moneda

Es tentador tratar estas dos noticias como separadas. Pero en realidad son expresión del mismo movimiento fundamental: el desarrollo tecnológico se adelanta a las estructuras sociales y jurídicas que hemos construido durante décadas.

En la pista de carreras es un triunfo – el software toma mejores decisiones en tiempo real de lo que la mayoría de conductores humanos pueden bajo las mismas condiciones. En el taxi es un vacío – la ausencia de un ser humano crea un espacio sin normas que la sociedad aún no sabe cómo manejar.

No es coincidencia que ambas preguntas surjan simultáneamente. Nos encontramos en una etapa en la que la tecnología autónoma es lo suficientemente madura para actuar, pero donde los marcos regulatorios, la ética y las normas sociales aún están en sus comienzos. Es en esa brecha donde surgen las preguntas realmente interesantes – y difíciles.

Construir un automóvil autónomo que gane una carrera es impresionante. Construir una sociedad que sepa qué hacer con ese automóvil – esa es la verdadera prueba.