IA en el derecho: lo que casi es correcto es lo más peligroso de todo

Las herramientas genéricas no son suficientes

Existe la tentación de creer que una herramienta poderosa basada en modelos de lenguaje – una que ya puede escribir código, analizar contratos y resumir investigaciones – también es suficiente para manejar análisis jurídico a nivel profesional. Esa tentación es peligrosa.

Jean-Rémi de Maistre, director ejecutivo de la plataforma jurídica Jus Mundi, lo formula con precisión en un análisis recogido por Artificial Lawyer: el resultado de IA jurídica más peligroso no es el que es evidentemente incorrecto – es el que casi es correcto. Los casos judiciales fabricados y la legislación inventada hace tiempo que son un problema conocido con sus propias bases de datos de incidentes. El error más sutil y grave es más difícil de captar: un sistema de IA puede resumir un caso de forma coherente y convincente, y sin embargo fallar en la tarea que aparentemente es más simple de reproducir una sentencia textualmente.

Esto crea una situación casi paradójica para el abogado. O bien se acepta una respuesta que es en gran medida correcta pero que puede ocultar inexactitudes cruciales – o se examina cada afirmación línea por línea, y entonces desaparece precisamente el ahorro de tiempo que la herramienta debería proporcionar.

El mercado de IA jurídica se ha dividido durante mucho tiempo en tres niveles: sistemas genéricos, plataformas específicas de derecho e instrumentos muy especializados de nicho. Ese límite se está difuminando a medida que las grandes empresas entran en el mercado jurídico – pero la distinción en calidad y confiabilidad persiste. La especialización ya no se trata de acceso a datos, sino de la capacidad de razonar correctamente dentro de un ordenamiento jurídico específico.

El capital fluye hacia donde el derecho es más complejo

Que el despacho de abogados global White & Case haya invertido ahora en la empresa de tecnología jurídica saudí Clauze – reporta Artificial Lawyer – ilustra precisamente esto. Es notable por varias razones. White & Case rara vez, si es que alguna vez, ha entrado como inversor directo en una empresa de tecnología jurídica. Que la inversión apunte hacia una plataforma construida específicamente para el derecho empresarial saudí y regional, bilingüe en árabe e inglés, con almacenamiento de datos exclusivamente dentro del país, dice algo importante.

El capital no busca las plataformas genéricas – busca los sistemas jurídicos y mercados donde la complejidad es mayor y las soluciones existentes son más limitadas. Detrás de Clauze está Waad Alkurini, con más de una década de experiencia precisamente en la oficina de Riyadh de White & Case y asesoramiento a actores como Aramco y Red Sea Global. Este es el perfil de competencia fundadora de una plataforma que realmente puede entregar – no un tecnólogo que ha aprendido algo de derecho, sino un abogado que entiende lo que la tecnología debe ser capaz de hacer.

La lección de la salud: la integración lo es todo

Si desviamos la mirada hacia la sanidad, nos encontramos con un reflejo del mismo problema fundamental. MIT Technology Review constata que grandes empresas tecnológicas ahora ofrecen modelos de IA capaces de procesar historiales de pacientes extensos, interpretar terminología médica compleja y resumir grandes volúmenes de información. La capacidad técnica de los modelos es impresionante. Pero no es ahí donde está el cuello de botella.

El caos administrativo de la sanidad no se debe a una falta de información – se debe a sistemas fragmentados que cada uno captura algo importante pero nunca están diseñados para razonar a lo largo de toda la cadena. Sistemas de citas, sistemas de historiales, sistemas de facturación y herramientas de análisis viven sus propias vidas. El resultado es que médicos, clínicas y personal administrativo dedican una cantidad desproporcionada de tiempo a buscar datos que en teoría ya existen – solo que en el sistema equivocado.

El proceso de facturación se destaca como un campo de prueba concreto: alto volumen de transacciones, lógica compleja, resultados medibles. Es precisamente el tipo de entorno donde la IA puede demostrar utilidad operativa real – pero solo si las herramientas se integran realmente en los flujos de trabajo donde se toman decisiones, no se superponen como una capa adicional que nadie tiene tiempo de usar.

La misma lección, dos sectores

Es notable cuán consistente es el mensaje. En el derecho se trata de que la IA debe especializarse para ser confiable, no solo capaz. En la sanidad se trata de que la IA debe integrarse para producir efecto, no solo desplegarse. Lo que tienen en común es que la tecnología en sí está lista – y que el trabajo humano y organizacional sigue siendo lo que determina si realmente alcanzamos el beneficio.