Qualcomm y Meta llevarán la IA generativa a los dispositivos móviles

Qualcomm y Meta informaron que trabajan conjuntamente para optimizar la ejecución de los modelos de lenguaje generativo Llama 2 de Meta directamente en los dispositivos móviles, sin depender del uso exclusivo de los servicios en la nube.

Mediante la capacidad de ejecutar modelos de IA generativa como Llama 2 en dispositivos como smartphones, PC, gafas VR/AR y vehículos, los desarrolladores pueden ahorrar en los costos en la nube y ofrecer experiencias más privadas, fiables y personalizadas, indican desde Qualcomm.

Qualcomm pretende ofrecer implementaciones de IA Llama 2 en los dispositivos para permitir la creación de nuevas aplicaciones de IA, como asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenido y entretenimiento, entre otras. Estas nuevas experiencias de IA en los dispositivos, impulsadas por Snapdragon, pueden funcionar en zonas sin conectividad o incluso en modo avión.

Las previsiones de Qualcomm apuntan a ofrecer implementaciones de IA Llama 2 en dispositivos que funcionan con Snapdragon a partir de 2024. Los desarrolladores pueden empezar a optimizar sus aplicaciones para la IA en los dispositivos utilizando el Qualcomm AI Stack, un conjunto de herramientas dedicado que permite procesar la IA de forma más eficiente en Snapdragon, lo que hace posible la IA en todo tipo de dispositivos, sin importar su tamaño.