El avance de la inteligencia artificial ha revolucionado el mundo tecnológico, especialmente con la incorporación de ChatGPT, que ha facilitado la realización de tareas y brindado inspiración en diferentes áreas. A mediados de junio de 2023, una nueva aplicación para iPhone permitió la integración de ChatGPT en el dispositivo.
Supercomputación y modelos de lenguaje en la nube
Estas tecnologías funcionan gracias a la supercomputación, que emplea servidores con una capacidad de cálculo inmensa para procesar nuestras solicitudes. Los algoritmos se basan en información previa e interpretan el lenguaje humano mediante unidades mínimas llamadas «tokens«.
Sin embargo, este proceso requiere una gran capacidad de cálculo, lo que limita su aplicabilidad. Aunque actualmente solo llevamos dos años explorando las posibilidades de estos modelos de lenguaje, su principal desventaja es la necesidad de conexión a internet para enviar y recibir información.
La solución «ChatGPT» en nuestros bolsillos
Recientemente, una nueva aplicación llamada Offline Chat ha llegado a la App Store. Aunque su interfaz gráfica no es muy atractiva, es una solución fácil de usar y sin configuración. La aplicación utiliza un modelo Mistral 7B 0.2 entrenado con más de 7 mil millones de parámetros, siendo ideal para ejecutar en dispositivos móviles.
La potencia de los últimos procesadores de iPhone, con sus aceleradores en procesos de Machine Learning y la cantidad de RAM disponible, permite llevar a cabo este tipo de cálculos localmente, sin necesidad de conexión a internet. Esto es especialmente útil en situaciones de emergencia o en lugares sin cobertura, como cuando necesitamos información sobre cómo cambiar una rueda de automóvil.
Hay mucho potencial en la IA local para el futuro
En los próximos meses, veremos más aplicaciones de este tipo que aprovechan al máximo la potencia de los dispositivos móviles y los avances en la inteligencia artificial. Las IA locales tienen un gran potencial para mejorar la comunicación con asistentes inteligentes, proporcionando un contexto más natural en las conversaciones, y ofreciendo una mayor privacidad al no requerir conexión a servidores externos.
Apple ha diseñado dispositivos potentes con su arquitectura Apple Silicon y ha hecho una gran inversión en la aceleración mediante hardware de Machine Learning. Esto abre un sinfín de posibilidades en aplicaciones que aprovechan estas tecnologías, como la comentada aplicación Offline Chat, que nos anticipa lo que podría llegar con futuras versiones de iOS.
En Applesfera | iOS 18 será solo el principio: Apple prepara su gran rival de ChatGPT para 2024, según un analista
