Apple busca que su inteligencia artificial funcione directamente en el iPhone y no en la nube
Apple innova en IA generativa para aumentar rendimiento en dispositivos
En el panorama de la Inteligencia Artificial (IA) generativa, Apple ha mantenido cierta distancia respecto a gigantes tecnológicos como Google, Microsoft y Meta. Aunque no ha lanzado modelos propios ni mencionado explícitamente la IA, Apple ha estado trabajando en un modelo interno denominado AppleGPT, el cual podría estar integrándose con Siri. A través de un estudio llamado LLM in a Flash, se ha revelado la posible apuesta de Apple en el desarrollo de IA generativa.
Ejecución de Modelos de Lenguaje a nivel local en dispositivos Apple
Apple investiga una tecnología que permitiría a los iPhones y otros dispositivos de la marca ejecutar Modelos de Lenguaje de gran tamaño (LLM) de forma local, manteniendo la velocidad y el rendimiento. La propuesta implica utilizar la memoria Flash presente en los dispositivos móviles y discos duros SSD para ejecutar LLM sin conexión a un centro de datos.
El uso de la memoria Flash como solución al problema de la RAM
Los dispositivos actuales tienen mayor cantidad de memoria Flash que de RAM. Dado que los LLM requieren grandes cantidades de RAM, la memoria Flash, que además es más económica, podría ser una buena alternativa. Los investigadores de Apple buscan optimizar el rendimiento mediante técnicas como Windowing y Row-Column Bundling, reduciendo la necesidad de transferir datos entre la memoria Flash y la RAM, y acelerando el acceso a la información.
Potenciales beneficios para empresas y usuarios
Esta técnica de ejecución de LLM locales permitiría modelos de hasta dos veces el tamaño de la RAM disponible y una velocidad de ejecución multiplicada hasta 25 veces en la GPU y 5 veces en la CPU. Este enfoque posibilita la implementación de LLM avanzados en entornos de recursos limitados, mejorando su accesibilidad y aplicabilidad. Además, reduciría los costes de centros de datos y aumentaría la privacidad al mantener la información dentro de los dispositivos.
Planes futuros para la implementación de IA generativa en Apple
Los iPhone podrían ejecutar modelos avanzados de IA de forma local sin conexión a la nube en un futuro próximo. Según The Information, esta tecnología generativa podría llegar a móviles y tablets de Apple a finales del próximo año con las actualizaciones de iOS e iPadOS 18.
