La investigación sobre IA revela un hecho incómodo: el algoritmo funciona por azar

Investigación básica en plena temporada alta

En las capas más profundas de la investigación en IA está ocurriendo mucho en este momento. Dos nuevos estudios en arXiv –la plataforma donde los investigadores de IA publican sus resultados antes de que pasen por una revisión formal– abordan preguntas que pocas personas fuera del ámbito académico saben siquiera que existen. Sin embargo, las respuestas son importantes.

El primer estudio analiza Adam, el algoritmo que entrena prácticamente todos los modelos modernos de aprendizaje profundo. Adam se usa a diario para entrenar desde chatbots hasta modelos de generación de imágenes, pero no se ha aclarado del todo por qué funciona tan bien. El estudio mide cuánto se aparta Adam del llamado descenso de gradiente natural, un método de optimización teóricamente ideal. La respuesta, según la publicación en arXiv, es que la desviación puede ser enorme: de hasta 1 000 unidades en una red neuronal pequeña en condiciones desfavorables. Aun así, Adam logra resultados buenos de forma consistente. La conclusión es tan elegante como inquietante: la eficacia de Adam parece depender de un afortunado equilibrio entre errores que se anulan mutuamente, más que de que el algoritmo haga exactamente lo que dice la teoría.

El segundo estudio profundiza en los mecanismos de atención, el componente de la arquitectura de transformadores que decide en qué partes de una secuencia de texto debe centrarse un modelo. Los investigadores detrás de este estudio en arXiv prueban una técnica en la que el método de cálculo habitual se sustituye por un filtro de paso de banda controlado por frecuencia. Los resultados apuntan a que las estructuras de filtro oscilantes son decisivas, a que los filtros óptimos se centran en torno a una distancia de unos 70 símbolos y a que los filtros gaussianos simples empeoran realmente el rendimiento. El código está disponible de forma abierta en GitHub, lo cual es loable, pero la pregunta es quién lo descarga realmente y lo utiliza como base para seguir avanzando.

La brecha cómoda

Aquí conviene detenerse. Ambos estudios están técnicamente bien elaborados y abordan cuestiones reales. Pero también comparten un rasgo común que los hace difíciles de asimilar para un público más amplio: carecen de consecuencias claras para los productos, de socios industriales o de próximos pasos concretos.

Eso no es culpa de los investigadores. La investigación básica debe poder seguir la curiosidad sin trabas. Pero esto crea una inercia estructural en todo el campo. La comprensión de las propiedades geométricas de Adam es fascinante, pero ¿qué hace un director de desarrollo en una empresa de productos con esa información mañana por la mañana? La respuesta es, en la mayoría de los casos, nada.

La brecha no es nueva. Pero se ha vuelto más visible ahora que las aplicaciones de IA se despliegan en la industria a un ritmo nunca antes visto. Los equipos de producto luchan por que sus modelos funcionen de forma fiable en producción, mientras que parte de la comunidad investigadora sigue analizando por qué funcionan los algoritmos, sin necesariamente relacionar esos conocimientos con los problemas que realmente frenan la adopción.

¿Qué falta?

Lo que falta no es investigación. Lo que falta son constructores de puentes: personas y organizaciones capaces de tomar los conocimientos académicos y traducirlos en decisiones de ingeniería. El estudio sobre atención basada en frecuencia señala, por ejemplo, que el método funciona mejor en modelos bidireccionales de tipo BERT, pero requiere variantes causales para los modelos generativos de tipo GPT. Es una distinción importante, pero exige que el lector ya entienda la diferencia entre las dos arquitecturas para poder evaluar su relevancia.

La buena noticia es que el campo avanza, de hecho, hacia una investigación más aplicada. Cada vez más grupos académicos colaboran con socios industriales, y la publicación abierta de código, como en el caso del estudio sobre atención, reduce el umbral para quien quiera probar los métodos en la práctica. Es la dirección correcta.

Pero todavía no hemos llegado. Y conviene decirlo en voz alta.