IA local sin nube ni suscripciones: pero el hardware cuesta y los obstáculos son reales
¿Un asistente de IA que nunca sale de tu ordenador, nunca vende tus datos y nunca envía una factura suena demasiado bueno para ser verdad? The Verge puso a prueba la realidad detrás de ese sueño y encontró tanto una libertad auténtica como obstáculos considerables. El precio del hardware revela para quién es realmente esta libertad.
La gran atracción: IA sin intermediarios
Nos encontramos en una etapa interesante de la historia de la era de la IA. Por un lado, nunca antes habían estado disponibles modelos tan potentes para los usuarios comunes. Por otro, crecen la preocupación por la privacidad de los datos, la dependencia de los grandes servicios en la nube y la cuestión de quién es realmente el dueño de nuestras conversaciones con estos sistemas.
Es en este contexto donde ha cobrado impulso el movimiento en torno a los modelos de IA ejecutados localmente. Y es un movimiento que merece tomarse en serio.
El periodista tecnológico Vjeran Pavic, de The Verge, ha hecho algo que cada vez más usuarios curiosos de la tecnología sueñan con hacer: montar un sistema de IA propio que funciona exclusivamente en su propio ordenador. Sin salida de datos, sin suscripciones mensuales y sin depender de OpenAI, Google o Microsoft. Los resultados son, como revela el título de su diario, emocionantes, abrumadores y frustrantes a la vez.
El hardware necesario: no para todos los bolsillos
Lo primero y más evidente: este no es un proyecto para cualquiera. Pavic realizó sus experimentos en un Apple M5 Ultra Mac Studio con 256 gigabytes de memoria unificada — una máquina de una gama de precios que la mayoría nunca se acercará a alcanzar. Apple ha posicionado deliberadamente sus Mac más recientes como adecuados para ejecutar IA en local, y Nvidia promociona sus equipos RTX Spark para Windows con hasta 128 gigabytes de memoria de trabajo dirigidos al mismo público.
Esto señala algo importante: los fabricantes de hardware ven aquí un mercado. La cuestión es con qué rapidez se democratizará ese mercado.
El software: abierto, libre y abrumador
La herramienta que eligió Pavic se llama Hermes Agent, un programa de escritorio gratuito para agentes de IA autoinstalados que funciona en macOS, Windows y Linux. El modelo que ejecutó — Qwen 3.8 Flash Next, con 125 mil millones de parámetros y un tamaño de alrededor de 105 gigabytes — es representativo de lo que realmente se necesita para obtener un rendimiento comparable al de los servicios comerciales.
Sin embargo, aquí uno se topa rápidamente con un obstáculo conocido para cualquiera que se haya movido en el panorama de la IA abierta: la tiranía de las opciones. La cantidad de modelos disponibles es casi inabarcable. ¿Cuál se ajusta a tu caso de uso? ¿Cuál está optimizado para tu sistema operativo? ¿Cuál requiere cuánta memoria? Son preguntas que exigen tiempo, dedicación y la disposición a fallar un par de veces antes de que todo encaje.
¿Qué funciona y qué no?
Los primeros resultados de la prueba de The Verge ofrecen una imagen matizada. Un resumen matutino automático — que resume el correo electrónico, el calendario y el tiempo a una hora fija cada día — acabó funcionando sin errores. Pero el camino hasta ahí requirió paciencia y una depuración que la mayoría de los usuarios no está dispuesta a afrontar.
Esa es, en realidad, la clave de toda la cuestión: la IA local ofrece control, pero exige competencia. Cambias la comodidad de un servicio en la nube por la libertad de tener tu propia infraestructura. Es un equilibrio clásico que el mundo empresarial conoce bien en la comparación entre on-premise y soluciones en la nube, aunque ahora en un contexto que afecta a particulares y pequeñas empresas.
Un movimiento en la dirección correcta
Aun así, veo claros indicios de que esto se está volviendo más accesible. Los modelos se reducen de tamaño sin perder capacidad. Las herramientas de instalación y gestión maduran con rapidez. Y con cada noticia sobre filtraciones de datos, cambios en las condiciones de uso o entrenamiento de IA con conversaciones privadas, crece la motivación de más personas para tomar el asunto en sus propias manos.
La IA local es hoy un proyecto para entusiastas de la tecnología y pioneros motivados por la privacidad de sus datos. Pero la tendencia apunta claramente a que el umbral está bajando, y lo hace rápido.