Necesidad de memoria reducida a la mitad y alertas de sequía más precisas, pero el juicio del juez de IA no vale mucho más que un lanzamiento de moneda

El laboratorio ha tenido una semana llena de acontecimientos

Es fácil perder la perspectiva cuando las noticias sobre IA llegan en un flujo constante. A veces ayuda detenerse y tener una visión de conjunto de lo que realmente ocurre en la frontera de la investigación: no solo los avances puntuales, sino también los contratiempos y las preguntas que aún no tienen respuesta.

Empecemos por la infraestructura en la que se apoya todo: la memoria.

Necesidad de memoria reducida a la mitad: una ventaja práctica

Uno de los problemas más concretos de ejecutar grandes modelos de lenguaje en situaciones reales es que las necesidades de memoria crecen rápidamente cuando las conversaciones se alargan. La llamada caché clave-valor, una estructura de datos central en los modelos transformer, absorbe cada vez más con cada nuevo mensaje.

Ahora los investigadores presentan AttSVD, un método de compresión que aborda el problema desde un ángulo distinto al de soluciones anteriores. En lugar de descartar información sobre partes concretas del texto, el método conserva toda la información, pero en un formato más compacto. La técnica matemática se llama descomposición en valores singulares y se adapta dinámicamente a cada instrucción. El resultado es un consumo de memoria de hasta un 50 % menor sin un deterioro de calidad apreciable.

En una línea similar se presenta SoloQ, un marco de cuantización para modelos de lenguaje basados en difusión que reduce el uso de memoria hasta 2,61 veces y acelera la inferencia hasta 2,24 veces, sin necesidad de datos de calibración. Y DART-ES mejora la eficiencia del entrenamiento con estrategias evolutivas, con un uso de memoria por tarjeta gráfica de hasta un 51 % menor en comparación con métodos competidores.

Son tres grupos de investigación separados que, de forma independiente unos de otros, ofrecen soluciones al mismo cuello de botella fundamental. Esto indica que el campo está maduro y que la presión por hacer la IA más eficiente en el uso de recursos es alta.

SchemaFill añade una capa más al panorama: cuando los modelos de lenguaje actúan como agentes y necesitan invocar herramientas externas, un nuevo método de decodificación en paralelo puede cuadruplicar el rendimiento frente al procesamiento secuencial. Cuatro veces más rápidas las llamadas a herramientas no son una curiosidad académica: son la diferencia entre un sistema que se siente ágil y uno que no.

Modelización climática: un paso adelante, un problema pendiente

En el ámbito climático se presenta un modelo Vision Transformer que predice la humedad del suelo con varias semanas de antelación y supera tanto a los modelos de aprendizaje profundo como al sistema de predicción meteorológica ECMWF, ya establecido. Una idea clave del trabajo de los investigadores es que cómo se formula el problema importa tanto como la propia arquitectura del modelo: calcular la humedad del suelo en unidades físicas en lugar de anomalías estandarizadas resultó marcar una diferencia notable.

Pero aquí hay una limitación honesta que conviene señalar: las sequías rápidas, en las que las condiciones empeoran drásticamente en poco tiempo, siguen siendo difíciles de predecir para todos los sistemas existentes. Esto no es un fracaso del estudio concreto, sino un recordatorio de que algunos fenómenos son genuinamente difíciles de modelar. La humildad ante ello es una virtud, no una debilidad.

El modelo juez que adivinaba

Llegamos al resultado más decepcionante de la semana. Investigadores han evaluado CLM-v0.1-8B, un modelo de lenguaje contrastivo de código abierto, en el papel de juez automático para valorar la calidad de las respuestas generadas por IA. El modelo no rinde estadísticamente mejor que el azar en varias baterías de pruebas reconocidas, y respondió a un conjunto de pruebas completo con una misma etiqueta constante.

Los modelos de recompensa comparables alcanzan una precisión de hasta 0,976. El modelo CLM se queda en 0,593 como máximo.

Hay dos destellos positivos: las estimaciones de confianza del modelo pueden calibrarse, y sus respuestas casi no se ven afectadas por el orden en que se presentan las respuestas, una debilidad habitual de los modelos generativos usados como jueces que un estudio paralelo confirma como un problema extendido en el campo. Pero como juez independiente, el modelo es en la práctica inutilizable.

Es un resultado importante. La evaluación automática de sistemas de IA se utiliza hoy en gran medida y, si los modelos jueces no están a la altura, corremos el riesgo de construir sistemas sobre una base defectuosa.

Una imagen más amplia

Además de estas líneas principales, hay investigación que muestra que los modelos de IA representan los idiomas de forma similar sin importar la lengua humana que manejen: una explicación teórica para un fenómeno conocido desde hace tiempo. También existe un nuevo marco para el desarrollo de fármacos que aborda la escasez de datos de entrenamiento mediante metaaprendizaje. Y un método para eliminar datos específicos de modelos ya entrenados es hasta 483 veces más rápido que los anteriores, una pieza clave para la privacidad y el cumplimiento normativo.

¿Qué une todo esto? Un movimiento hacia sistemas de IA más eficientes, más fiables y más fáciles de auditar. Es la dirección correcta.