Nuevo sistema de IA reduce costos en un 57 por ciento – sin sacrificar la calidad

Los laboratorios trabajan a pleno rendimiento

Si quieres entender hacia dónde se dirige el desarrollo de la IA no debes mirar los lanzamientos de productos – debes mirar los archivos de preimpresión. En arXiv, la base de datos abierta donde los investigadores publican sus hallazgos antes de ser formalmente revisados, se publican cientos de estudios relacionados con IA cada semana. En ese flujo es posible discernir un patrón claro: el mundo investigador está profundamente enfocado en hacer que los sistemas de IA sean más prácticamente útiles – no solo más inteligentes sobre el papel.

Se trata de costos, seguridad y eficiencia operativa. Tres cuestiones que durante mucho tiempo han quedado relegadas a la carrera pura de rendimiento.

Costos reducidos a la mitad sin perder calidad

Toma la recuperación de información como ejemplo. Los sistemas RAG basados en grafos – es decir, métodos en los que un modelo de lenguaje se combina con un grafo de conocimiento estructurado para poder responder preguntas complejas de varios pasos – han sufrido durante mucho tiempo de un problema fundamental: son costosos de operar. Cada búsqueda requiere muchas llamadas al modelo de lenguaje, y los costos se acumulan rápidamente.

Ahora investigadores presentan un sistema llamado EffiRAG que resuelve esto elegantemente. En lugar de generar respuestas directamente desde el grafo, el grafo se utiliza únicamente para encontrar pasajes de texto relevantes, después de lo cual la respuesta se obtiene del texto original. El resultado es contundente: en las pruebas, los evaluadores prefirieron las respuestas de EffiRAG en 93 de 120 casos en comparación con un sistema alternativo líder – y el costo total se redujo en un 57 por ciento. Con mayores volúmenes de texto, el sistema fue hasta 4,5 veces más barato. Este es el tipo de investigación que realmente avanza posiciones en la práctica.

Una lógica similar impulsa el proyecto When2Think, que aborda otro desperdicio: los modelos de razonamiento modernos dedican la misma potencia de cálculo a una simple pregunta de matemáticas que a un problema complejo de varios pasos. El marco le enseña al modelo a detectar el nivel de dificultad de la tarea y adaptar cuán profundamente piensa. En el referente matemático AIME24, la precisión aumentó en un 10 por ciento mientras que el consumo de recursos disminuyó en casi un 28 por ciento. Es una forma inteligente de describirlo: la IA aprende a no sobrpensar cosas simples.

IA en automóviles controlados por voz – un riesgo de seguridad que debe tomarse en serio

Pero la eficiencia es solo la mitad de la historia. La otra mitad trata sobre seguridad – y el panorama es más preocupante. Un nuevo estudio examinó qué tan bien los modelos de lenguaje manejan comandos de voz en entornos vehiculares, donde las decisiones incorrectas pueden tener impacto físico directo. Los resultados varían ampliamente: el modelo local más pequeño logró apenas el 40 por ciento de los escenarios correctamente, mientras que el mejor sistema alcanzó poco más del 89 por ciento. Incluso los mejores modelos aprobaron incorrectamente comandos que deberían haber sido denegados.

La conclusión que extraen los investigadores es simple pero importante: un modelo de lenguaje no puede ser el único mecanismo de seguridad en un vehículo. Se requiere un sistema de control independiente que verifique permisos y estado del vehículo. El mismo pensamiento recurre en un estudio paralelo sobre IA en el sector ferroviario, donde investigadores identifican tres pilares fundamentales para que la IA pueda certificarse en entornos críticos de seguridad: robustez, dominios operativos claramente definidos y explicabilidad. La industria ferroviaria actualmente solo permite IA en aplicaciones no críticas – pero el marco que se propone ahora puede abrir la puerta un poco.

IA en tu propia computadora – sin centros de datos

Una tercera línea de frente trata sobre dónde se ejecuta la IA. Hoy en día, los modelos más capaces requieren infraestructura de servidor enorme. Pero un equipo de investigadores ha publicado Edge0, un motor abierto que permite que un modelo de 35 mil millones de parámetros se ejecute localmente en hardware de consumidor – directamente desde disco SSD. El truco es un enrutador predictivo que anticipa qué capa del modelo será necesaria a continuación e inicia la recuperación del disco a tiempo para ocultar la latencia. El resultado: 20 tokens por segundo en una máquina con 24 gigabytes de memoria. No es tan rápido como un servidor dedicado, pero es suficiente para uso real – y ocurre sin la nube.

El cerebro de la mosca de la fruta que quiere ser editor

Y luego está la investigación que es difícil de categorizar pero imposible de ignorar. El periodista de WIRED Steven Levy ha construido PitchFly – un sistema de sugerencia de artículos basado en un conectoma digital del cerebro de una mosca de la fruta, completo con 166 000 células nerviosas y 125 millones de sinapsis. El sistema alimenta una red de reconocimiento de patrones con titulares populares y genera nuevas combinaciones – sin entender ni una sola palabra. El proyecto es un recordatorio de que la investigación en IA no solo se impulsa por utilidad práctica. A veces la curiosidad es suficiente.