Un modelo de decisión pequeño supera a los gigantes: nueve veces menos parámetros, pero la puntuación más alta en la comparativa

IA que toma decisiones, no que escribe novelas

La mayoría de nosotros pensamos en los grandes modelos de lenguaje como generadores de texto: se formula una pregunta, el modelo produce una respuesta palabra por palabra, token por token. Eso funciona muy bien para chatbots y para resumir textos, pero es desesperadamente lento cuando se necesita una respuesta en 20 milisegundos en un sistema embebido.

Ese es exactamente el problema que Liquid AI aborda con sus nuevos modelos, presentados a través de Hugging Face. En lugar de generar texto paso a paso, los modelos d1 responden en un único paso de cálculo. Se trata de una diferencia arquitectónica fundamental que no solo hace los modelos más rápidos, sino que los hace adecuados para una categoría de problemas completamente distinta.

Se trata de modelos de decisión, no de modelos de lenguaje. Piense en la clasificación de intenciones, la detección de toxicidad, la respuesta a preguntas médicas o la comprensión lectora: tareas en las que la respuesta es una categoría, un sí o un no, una evaluación de riesgo. Tareas en las que cada milisegundo cuenta.

Las cifras hablan por sí solas

El más grande de los dos modelos, d1-3B, alcanza una puntuación media de 82,9 puntos en siete pruebas de referencia públicas. No es solo bueno para su tamaño: es el resultado más alto de la tabla comparativa, según el blog de Hugging Face, y se consigue con hasta nueve veces menos parámetros que los competidores.

El pequeño modelo hermano, d1-omni-600M, es aún más fascinante desde el punto de vista técnico. Con solo 600 millones de parámetros, maneja tres modalidades (texto, imagen y audio) y, aun así, supera a Decider 2B con sus 77,1 puntos. Es cierto que se encuentra en una fase temprana de investigación, pero la dirección está clara.

En colaboración con NVIDIA, Liquid AI también ha probado d1-3B directamente en hardware de la familia Jetson, la plataforma de NVIDIA para IA en el borde. Los resultados son concretos y prácticos:

• 16 ms de latencia en NVIDIA Jetson AGX Thor
• 26 ms en Jetson AGX Orin
• 50 ms en el más compacto Jetson Orin Nano

En una tarjeta gráfica convencional, la latencia se sitúa por debajo de 10 milisegundos.

Para ponerlo en perspectiva: el tiempo de reacción humano ronda los 150–250 ms. Un modelo que responde en 16–50 ms en hardware embebido no solo es rápido, sino que es más rápido que lo que tarda el sistema que lo rodea en reaccionar.

Por qué la computación en el borde es el siguiente frente

Durante los últimos años, el desarrollo de la IA se ha centrado en gran medida en construir modelos cada vez más grandes y ejecutarlos en la nube. Esto ha dado resultados impresionantes, pero conlleva limitaciones evidentes: dependencia de la red, retardos, consumo energético y, en muchos casos, problemas de privacidad.

La IA en el borde, es decir, ejecutar modelos directamente en el dispositivo, cerca de la fuente de datos, resuelve varios de estos problemas a la vez. Es esencial en contextos donde la conexión de red no puede garantizarse, donde los tiempos de respuesta deben ser deterministas o donde los datos sensibles no pueden salir del dispositivo. Robots industriales, herramientas de diagnóstico médico, sistemas de vehículos, cámaras inteligentes: la lista de aplicaciones es larga.

Hasta ahora, la IA en el borde ha supuesto a menudo compromisos: o bien se ejecuta un modelo pequeño y limitado, o bien se acepta que el proceso lleve tiempo. Los modelos de Liquid AI desafían esa disyuntiva de manera convincente.

Abierto y accesible, y eso importa

Ambos modelos están disponibles de forma abierta a través de Hugging Face. Esto no es un detalle: es una decisión estratégica que determina hasta dónde puede llegar su difusión. Cuando un modelo es abierto, la comunidad investigadora puede examinarlo, los desarrolladores industriales pueden integrarlo sin costes de licencia y las startups pueden crear productos sin depender de los servicios en la nube de un único proveedor.

En una época en la que el debate entre el desarrollo abierto y el cerrado de la IA es intenso, merece la pena señalar que Liquid AI apuesta por la transparencia. Eso refuerza la confianza en la tecnología y reduce el umbral de adopción.

Esto no es IA como un servicio en la nube al que te suscribes. Es IA como una herramienta que tú posees, despliegas y controlas por ti mismo.