Los modelos de IA aprenden de sus propios errores: nueva investigación reduce la necesidad de modelos docentes externos
La investigación en IA de esta semana apunta hacia sistemas cada vez más autosuficientes. Nuevos métodos muestran cómo los modelos pueden mejorar analizando sus propios errores, en algunos casos por completo sin respuestas correctas externas ni modelos docentes. Al mismo tiempo, se presentan técnicas que reducen enormes sistemas de IA a una fracción de su tamaño original, y avances teóricos que arrojan nueva luz sobre cómo las máquinas aprenden realmente a generalizar.
Sistemas que se enseñan a sí mismos dan un gran paso adelante
Una de las tendencias más claras de la semana es que los modelos de IA aprenden cada vez más de sí mismos, sin necesitar respuestas de referencia preparadas ni modelos docentes externos.
Un ejemplo elocuente es ACSD (Activation-Conditioned Self-Distillation), donde un modelo de lenguaje analiza las diferencias en sus propias activaciones internas entre razonamientos exitosos y fallidos. A partir de estos contrastes se extraen vectores de control, que luego se utilizan para guiar al modelo en cada paso de predicción. Los resultados son claros: en cinco modelos distintos, ACSD logró la mayor precisión media en cuatro pruebas de referencia matemáticas, y todo ello sin acceso a respuestas correctas externas.
En una línea similar se presenta SCOUT, un marco en el que el modelo docente se adapta continuamente a los patrones de texto del alumno mediante aprendizaje por refuerzo. Resuelve un problema clásico de asimetría: el docente está acostumbrado a sus propias secuencias, pero se ve obligado a guiar secuencias que ha creado el alumno. Gracias a la adaptación mutua, el proceso de destilación mejora de forma consistente, una solución elegante a un problema fundamental del entrenamiento.
La investigación sobre grokking, el fenómeno en el que un modelo de pronto «comprende» mucho después de haber memorizado los datos de entrenamiento, recibe ahora también una explicación teórica más rigurosa. Nuevas investigaciones demuestran una llamada ley de cero-uno para la generalización y muestran que la regularización que induce dispersión puede dar resultados dramáticamente mejores. Viene acompañada de una advertencia importante: cambios muy pequeños en la intensidad de la regularización pueden producir resultados de generalización completamente distintos, aunque el error de entrenamiento se mantenga bajo.
La compresión drástica abre las puertas a nuevo hardware
Otra gran noticia es ShamAN-Q, un método de cuantización que comprime los grandes modelos de lenguaje a menos de un bit por valor de peso. El método se basa en una medición de curvatura más precisa, inspirada en el algoritmo de optimización Shampoo, y aproxima la matriz de información de Fisher mediante productos de Kronecker. Las pruebas realizadas con modelos de lenguaje de Qwen muestran mejoras claras frente a su predecesor, NanoQuant. La consecuencia es concreta: los potentes modelos de IA podrán pronto ejecutarse en hardware con memoria muy limitada, lo que abre la puerta a sistemas de IA locales de verdad en hardware de consumo.
Agentes que planifican y no se quedan atascados en bucles
En el ámbito de los agentes se presentan varios avances prometedores. MILO (Meta-evolutionary Island Orchestration) automatiza el diseño de marcos de agentes y alcanza una precisión del 86,1 por ciento en Terminal-Bench 2.1, por encima del mejor resultado de la clasificación oficial y con un 26 por ciento menos de pasos de cómputo.
Otra aportación bienvenida es Reflect Reverse, que resuelve un problema conocido de los agentes de IA basados en difusión: la tendencia a quedarse atrapados en bucles de repetición cuando las acciones fallan. El método no requiere entrenamiento adicional y funciona aprovechando la capacidad de los modelos de difusión enmascarados para calcular la probabilidad de una tarea dada una acción, y no al revés.
Un tercer avance relacionado con agentes trata de la planificación a largo plazo sin objetivos predefinidos. Mediante movimiento aleatorio en un entorno, el agente aprende las relaciones temporales entre estados. Las representaciones aprendidas presentan propiedades similares a un mapa cognitivo en varias escalas, parecido a la forma en que los mamíferos se orientan en su entorno.
Examen crítico de verdades establecidas
La semana también trae importantes correcciones a supuestos erróneos. Un estudio sistemático con 63 configuraciones y 372 puntos de control medidos no encontró relaciones significativas entre los llamados conflictos de gradiente y el rendimiento real de los modelos multimodales, una teoría que durante mucho tiempo ha influido en el diseño de estos sistemas.
Sobre el mismo tema, un nuevo estudio muestra que los modelos de cuellos de botella conceptuales interpretables no son automáticamente más robustos: solo redistribuyen dónde aparece la sensibilidad. La interpretabilidad y la robustez son objetivos distintos que requieren medidas distintas.
La investigación sobre modelos sustitutos de simulación física condicionados por texto lanza una advertencia contundente: un modelo de control alimentado con texto sin sentido funcionó tan bien como modelos con descripciones reales de la física. Los modelos de IA quizá no comprendan las instrucciones tan bien como creemos.
Infraestructura y metodología
En el ámbito de la infraestructura, FlashDiffusion resuelve un problema de memoria de larga data en el análisis espectral, donde las matrices de núcleo densas exigen tradicionalmente espacio de memoria cuadrático. El método calcula los bloques del núcleo directamente en los núcleos de procesamiento de la tarjeta gráfica sin materializar la matriz completa, una solución elegante para el aprendizaje geométrico a gran escala.
GENSCRIPT genera datos sintéticos en dos minutos y crea 50 000 filas de datos en menos de seis segundos, sin entrenar un modelo generativo. El sistema analiza las propiedades estadísticas de los datos y hace que un modelo de lenguaje genere un programa de muestreo ejecutable. Flexible, rápido y notablemente eficiente.