Agentes de IA eligen sus propios datos de entrenamiento y reescriben su código – reducen la necesidad de control humano

De herramientas a actores independientes

Siempre ha existido un límite claro: los sistemas de IA son herramientas que los humanos construyen, entrenan y despliegan. Ese límite está comenzando a disolverse. Una avalancha de nuevos artículos de arXiv de la semana pasada pinta una imagen de agentes que no solo ejecutan instrucciones – aprenden, se adaptan y mejoran sin necesidad de que los guiemos en cada paso.

Tomemos AutoData como un ejemplo ilustrativo. El sistema permite que un agente de IA busque de forma independiente los métodos óptimos para seleccionar datos de entrenamiento para grandes modelos de lenguaje. Anteriormente, era el trabajo de los ingenieros de datos – un oficio que requería años de experiencia e intuición sobre qué produce un buen modelo. AutoData encontró en una sola noche métodos de selección que superan las tuberías de datos diseñadas manualmente, y los métodos funcionan incluso mejor cuando se escalan. No es una pequeña mejora marginal – es un cambio estructural en quién es responsable de un paso central en el desarrollo de IA.

Paralelamente, SIFT (Recursive Self Improvement via Fast Tree-search) muestra cómo un agente de codificación puede modificar recursivamente su propia implementación para mejorar progresivamente en tareas de programación. Lo ingenioso de SIFT no es solo que funcione, sino que es rentable: al combinar la evaluación tradicional con un modelo de lenguaje como juez, reduce la necesidad de ejecutar miles de tareas de prueba en cada iteración. Los resultados en el punto de referencia multilingüe Polyglot son convincentes.

Agentes que mantienen el enfoque – durante diez días

Una de las debilidades clásicas de los agentes de IA ha sido la ventana de contexto: cuando la memoria de conversación se llena, el agente comienza a perder el hilo. Una nueva arquitectura aborda esto con un sistema de memoria jerárquico que resume y preserva el contexto a través de límites de sesión. En un experimento de diez días, un agente logró recrear un resultado publicado en aprendizaje por refuerzo con supervisión humana solo una vez al día. No es una prueba de concepto en una pizarra – es un experimento realmente ejecutado con trabajo continuo durante más de una semana.

De manera similar, FINSKILLOPS, un sistema para análisis de informes financieros dirigidos a la agencia reguladora estadounidense SEC, muestra cómo los agentes pueden seguir mejorando después del despliegue. El sistema identifica errores recurrentes – períodos de tiempo incorrectos, uso insuficiente de pruebas – y los convierte en ajustes de competencia delimitados. De 33 cambios propuestos, se aprobaron seis, y el porcentaje de respuestas incorrectas bajó del 20 al 12,5 por ciento. El control de versiones estricto y las pruebas de regresión aseguran que las nuevas mejoras no destruyan lo que ya funcionaba.

Aprender reglas que nadie ha escrito

Otra pieza fascinante del rompecabezas es Continual Discovery Agent, que mapea reglas empresariales ocultas en sistemas corporativos sin conocerlas de antemano. En el entorno de prueba EnterpriseWorldShift – construido sobre un entorno real de ServiceNow – el agente interactúa con el sistema, observa qué sucede y construye progresivamente un modelo mundial interno. La mejora respecto a métodos anteriores es de casi nueve puntos porcentuales en precisión. Para quien ha trabajado en integración de sistemas, sabe cuánto tiempo se dedica a documentar exactamente estos tipos de reglas implícitas – reglas que además cambian.

La infraestructura no está a la altura

En medio de todo este desarrollo de capacidades existe un problema práctico importante: la infraestructura no está diseñada para ello. Un nuevo estudio muestra que los agentes de IA presentan requisitos de recursos dramáticamente diferentes según el tipo de tarea, y que el ecosistema actual en gran medida no tiene en cuenta estas dinámicas. Los cuellos de botella surgen de manera diferente – a veces en el procesador, a veces en el acceso a disco – y simplemente añadir más potencia de cálculo al problema no siempre lo resuelve. Con asignación de recursos adaptada a la tarea, el tiempo de respuesta disminuyó hasta 5,4 veces en escenarios sensibles.

Además, la investigación señala un problema de seguridad pasado por alto: los agentes de IA pueden inventar llamadas a herramientas hacia interfaces que no existen. En un estudio se midieron 322 alucinaciones genuinas de herramientas en diez modelos, y notablemente, el tamaño del modelo no tuvo importancia – un modelo con 675 mil millones de parámetros no fue mejor que modelos con 7–8 mil millones de parámetros. Es un problema estructural que requiere soluciones estructurales.

Los investigadores ahora abogan por un Foundation Model Operating System – una capa del sistema que maneje la gestión de memoria, selección de modelos, asignación de recursos y cumplimiento de normas, más o menos como un sistema operativo abstrae el hardware de las aplicaciones. La analogía es acertada: nos encontramos en la fase del desarrollo de infraestructura de IA por la que pasó la industria informática antes de que se inventaran los sistemas operativos.