IA como colaboradora, no como superordenador: pero las deficiencias fundamentales revelan lo lejos que queda

La singularidad es la metáfora equivocada

Durante décadas, el debate sobre el futuro de la IA ha girado en torno a una misma imagen: una máquina individual que se mejora a sí misma constantemente hasta superar todo el pensamiento humano. La llamada singularidad. Es una historia dramática, pero quizá no sea la correcta.

Según The Decoder, investigadores de DeepMind sostienen ahora que necesitamos un marco completamente distinto. Lo denominan Inteligencia Artificial Simbiótica, y la idea de fondo es sencilla pero de gran alcance: la inteligencia no es una propiedad de una máquina aislada. Es un fenómeno social que surge de la interacción entre agentes, tanto humanos como sintéticos.

En lugar de perseguir una superinteligencia en singular, proponen que nos centremos en cómo pueden coordinarse y gobernarse redes complejas de personas y sistemas de IA. Es un cambio desde el pensamiento centrado en la máquina hacia el pensamiento de ecosistema, y parece una forma más honesta de describir el mundo que realmente estamos construyendo.

Los investigadores también señalan un hallazgo empírico interesante: los modelos de IA de razonamiento, como DeepSeek-R1 y QwQ-32B, muestran de forma espontánea comportamientos que se asemejan a un debate interno. Cambian de perspectiva, sopesan objeciones e intentan conciliar conclusiones contradictorias, sin que ello esté programado explícitamente. Es como si la inteligencia colectiva surgiera desde dentro del propio modelo.

Pero bajo la superficie: un aprendizaje defectuoso

Mientras se formulan estas grandes visiones, se trabaja intensamente para comprender qué ocurre realmente cuando entrenamos grandes modelos de lenguaje, y las respuestas no siempre son alentadoras.

Un nuevo fenómeno que investigadores han identificado recientemente y publicado en arXiv se denomina forking. Surge cuando modelos con una memoria de n-gramas sobredimensionada se entrenan repetidamente con los mismos datos. El resultado es una marcada brecha entre la pérdida de entrenamiento y la pérdida de validación en los límites de época: el modelo aprende de memoria sus ejemplos de entrenamiento, pero no logra generalizar. El fenómeno se ha reproducido en varias arquitecturas de modelos y se sitúa junto a las perturbaciones ya conocidas, como grokking y doble descenso.

Es fascinante y preocupante a la vez. Construimos sistemas de enorme complejidad y seguimos descubriendo nuevas formas en que pueden fallar.

Las soluciones empiezan a tomar forma

La buena noticia es que la comunidad investigadora no se conforma con cartografiar los problemas: las propuestas de solución se suceden unas a otras.

El marco FAER, presentado en arXiv, aborda un problema fundamental del proceso de entrenamiento: los datos se seleccionan según criterios superficiales, como el formato y la longitud de las respuestas, en lugar de según lo que el modelo realmente necesita aprender. FAER introduce un sistema de selección de datos consciente del aprendizaje, y los resultados son claros: en el punto de referencia matemático GSM8K, la puntuación de calidad sube de 0,55 a 0,66 en comparación con la selección aleatoria.

Otra publicación presenta MatrixReward, una técnica para recompensar a los modelos de IA en preguntas sin respuestas correctas claras. En lugar de evaluar cada respuesta de forma aislada, todas las respuestas se comparan por parejas según varios criterios, lo que ofrece una imagen mucho más rica de la calidad. En pruebas de referencia abiertas, el método superó en unos dos puntos porcentuales al competidor más fuerte: una mejora pequeña, pero significativa, en un ámbito que tradicionalmente es difícil de medir.

Para los agentes de IA, es decir, sistemas que realizan tareas en varios pasos, existe un problema fundamental similar: la retroalimentación suele llegar solo al final de una tarea, lo que dificulta entender qué decisiones intermedias fueron realmente valiosas. T2SPO, otra publicación en arXiv, resuelve esto calculando lo cerca que está un estado dado del objetivo a partir de ejemplos históricos de éxito, y utiliza esa información como señal de retroalimentación complementaria durante el entrenamiento. En pruebas con los entornos de agentes ALFWorld y WebShop, el método supera de forma consistente a las alternativas establecidas.

Finalmente, en cuanto a la generación de imágenes, EvoGen-Harness demuestra que es posible mejorar considerablemente los sistemas de texto a imagen sin tocar siquiera los parámetros del modelo base, simplemente optimizando los componentes externos que rodean a un generador congelado. Es un enfoque elegante que recuerda cuánto se puede ganar sin empezar desde cero.

Dos historias sobre el mismo viaje

Lo llamativo al leer estos estudios en conjunto es que, en realidad, cuentan la misma historia desde perspectivas distintas. La visión simbiótica de DeepMind trata de hacia dónde nos dirigimos. La investigación sobre el forking, FAER, MatrixReward y T2SPO trata de por qué el camino hasta allí es más largo y difícil de lo que parece.

Es precisamente esa combinación lo que hace que este momento del desarrollo de la IA resulte tan interesante, y tan importante de seguir de cerca.