Solo uno de cada cinco respuestas de IA sobre el mundo contiene la cifra correcta – ahora la ONU y Google van a cerrar las grietas

¿Podemos confiar en lo que la IA dice sobre el mundo?

Es una pregunta que deberíamos hacernos con más frecuencia. Pedimos a los asistentes de IA respuestas rápidas sobre preguntas de datos verificables a diario – sobre cifras de pobreza, mortalidad infantil, crecimiento económico, datos climáticos. Pegamos las respuestas en presentaciones, informes y documentos de apoyo a decisiones. Pero ¿qué sucede si esas cifras son incorrectas?

La respuesta, resulta ser, es que con bastante frecuencia lo son.

Según TechCrunch, UNICEF probó seis de los mayores modelos de lenguaje más utilizados del mundo – incluyendo GPT-4o de OpenAI, Claude de Anthropic y Gemini de Google – con más de 133 000 preguntas sobre indicadores de desarrollo global. El resultado es desalentador: la precisión promedio fue de apenas 21,2 por ciento. Tres de cada cinco respuestas carecían de una cifra concreta – los modelos optaron en su lugar por responder de manera evasiva y vaga. Y cuando se formularon las mismas preguntas nuevamente dos días después, solo la mitad de las respuestas proporcionaron exactamente la misma cifra que la primera vez.

No es un error aislado. Es un fallo del sistema.

Una nueva plataforma como respuesta a un problema real

En este contexto, la iniciativa conjunta de la ONU y Google es mucho más que una actualización técnica – es una reparación fundamental necesaria de la base de conocimiento de la IA. La nueva plataforma, llamada UN System Data Commons, reemplaza el antiguo portal UNData y se basa en el software de código abierto de Google. La diferencia con su predecesora es fundamental: en lugar de que los usuarios naveguen manualmente en interfaces de bases de datos complicadas, ahora pueden formular preguntas en lenguaje corriente – sueco, inglés, español, lo que sea – y obtener respuestas extraídas directamente de las bases de datos oficiales de los organismos de la ONU.

Aún más importante desde una perspectiva de IA: la plataforma admite un protocolo de estándar técnico que permite que los sistemas de IA se conecten directamente a fuentes de datos externas y recuperen estadísticas actuales automáticamente. Esto significa que un agente de IA, en lugar de adivinar o reproducir datos de entrenamiento obsoletos, en realidad puede consultar la respuesta en tiempo real desde la fuente.

Este es precisamente el tipo de cambio de infraestructura que se necesita para que la IA funcione como una herramienta confiable en contextos donde los datos verificables realmente importan.

El problema con los datos de entrenamiento es estructural

Vale la pena detenerse y entender por qué los grandes modelos de lenguaje tienen un rendimiento tan pobre en preguntas de datos verificables. No se trata principalmente de que los modelos sean malos para razonar – son impresionantes en eso. El problema es que su base de conocimiento es una instantánea, congelada en un momento determinado durante el entrenamiento, y las estadísticas mundiales se actualizan continuamente. Las cifras de población cambian. La cobertura de vacunación aumenta o disminuye. Las cifras de PIB se revisan.

Cuando un modelo responde a la pregunta "¿qué porcentaje de niños en el Sahel son vacunados contra el sarampión?" no tiene forma de saber si su respuesta internalizada sigue siendo correcta. Adivina – de manera informada, pero aún así.

Este es un problema bien conocido en la industria, y la solución ha sido señalada durante mucho tiempo: anclar los sistemas de IA en fuentes de datos externas confiables y actualizadas en lugar de depender únicamente de datos de entrenamiento estáticos. Eso es exactamente lo que UN System Data Commons posibilita.

De motor de búsqueda a infraestructura de conocimiento

Hay una imagen más amplia aquí que merece atención. En los últimos años, hemos visto un cambio de paradigma en cómo pensamos en el papel de la IA. Nos estamos alejando de la IA como motor de búsqueda avanzado hacia la IA como agente activo – un sistema que no solo responde preguntas sino que de hecho realiza tareas, toma decisiones y actúa en el mundo.

En ese cambio, la calidad de los datos ya no es solo un detalle técnico. Es un pilar estratégico fundamental. Un agente de IA que recupera datos de pobreza incorrectos puede tomar decisiones de priorización erróneas. Un informe generado con indicadores de salud incorrectos puede conducir a políticas equivocadas.

La colaboración entre la ONU y Google es un paso concreto hacia la construcción del tipo de infraestructura de conocimiento confiable que se necesita para que la IA realmente pueda cumplir sus promesas – no como un asistente impresionante pero poco confiable, sino como una herramienta en la que realmente podemos confiar cuando se trata de datos verificables.