La IA se despliega a un ritmo récord, pero las estructuras de gobernanza y las cuestiones de responsabilidad se quedan atrás

La transformación ya está aquí, pero faltan las reglas del juego

No cabe duda de que la IA está transformando la industria en profundidad. Desde las plantas de fabricación hasta los despachos de abogados, los procesos de trabajo, los fundamentos de las decisiones y los modelos de negocio están cambiando a una velocidad que exige tanto valentía como reflexión por parte de los líderes. Pero, en su afán por estar a la vanguardia, demasiadas organizaciones corren el riesgo de desplegar tecnología potente sin las estructuras de gobernanza necesarias para gestionar sus consecuencias.

Esta es precisamente la advertencia que lanza MIT Technology Review en un nuevo artículo con Arti Garg, directora de tecnología de la empresa de software industrial AVEVA, que lleva más de veinte años trabajando con IA en la industria. El mensaje es de agradecer por lo claro que es: la IA industrial autónoma, sin supervisión humana, no es un objetivo, sino un escenario de riesgo.

Los datos son la base, pero el control es la clave

Según MIT Technology Review, los datos bien estructurados son la condición indispensable para que la IA industrial funcione en la práctica. Los entornos industriales generan enormes cantidades de información —datos de medición, registros de servicio, documentación técnica— que históricamente han estado aislados en sistemas separados. Las nuevas tecnologías permiten ahora unir y analizar estas fuentes en tiempo real, lo que ofrece a los operadores una base para decidir muy distinta a la de antes. Además, los robots controlados por IA pueden recoger información en entornos que son directamente mortales para las personas.

Sin embargo, una mayor autonomía de las máquinas exige un marco normativo bien pensado. El marco de IA responsable de AVEVA se basa en tres pilares: seguridad, eficiencia y supervisión humana. Garg es rotunda en su postura: la IA debe complementar a las personas, no sustituirlas en los procesos de decisión críticos. Se trata de incorporar limitaciones que definan dónde los sistemas automatizados pueden actuar por su cuenta y dónde un gestor humano debe tener la última palabra.

Es una distinción que parece evidente, pero que en la práctica requiere mucho más trabajo del que la mayoría de las organizaciones prevé.

El derecho se enfrenta a las mismas preguntas

Paralelamente al camino de la IA en la industria, el sector jurídico se encuentra en una encrucijada similar. Los días 4 y 5 de noviembre, cientos de líderes tecnológicos, abogados y responsables de decisiones se reúnen en Londres para Legal Innovators UK, uno de los principales foros del año para la tecnología jurídica. La conferencia, celebrada en Minster Building, reúne a actores como Harvey, Legora, LexisNexis y Spellbook, y abarca desde despachos de abogados hasta departamentos jurídicos corporativos.

El tema es el mismo que en la industria: ¿cómo cambia la IA la profesión en profundidad y cómo se gestiona la transformación sin perder el control? Resulta revelador que los organizadores, según informa Artificial Lawyer, hayan decidido dividir la conferencia en dos jornadas separadas, una para los despachos y otra para los juristas de empresa, porque los retos son muy distintos según el contexto.

El derecho es uno de los sectores en los que las consecuencias de las decisiones erróneas de la IA se notan más. Un precedente basado en datos incorrectos, un contrato que contiene un sesgo sistemático incrustado en un sistema de modelo de lenguaje: los riesgos son concretos y están regulados por ley. Eso convierte al sector jurídico en una prueba de fuego interesante para comprobar hasta qué punto los marcos de IA están realmente maduros.

La década de las oportunidades exige un ritmo responsable

Quiero ser clara: no veo estas señales de alerta como motivos para frenar. Al contrario. La organización que logre combinar un ritmo de implantación elevado con estructuras de gobernanza sólidas obtendrá una ventaja competitiva excepcional en los próximos diez años.

Pero para ello es necesario dejar de tratar el cumplimiento normativo y el diseño ético de la IA como obstáculos y empezar a verlos como activos estratégicos. El enfoque de AVEVA —integrar el control humano como un principio arquitectónico y no como un añadido posterior— es precisamente el camino correcto. Lo mismo ocurre en el sector jurídico, donde iniciativas como Legal Innovators UK generan el capital colaborativo necesario para que el sector establezca en común normas razonables.

El ritmo no es el problema. El problema es la falta de reglas del juego.