¿Puede la inteligencia artificial (IA) generativa ayudar a que los servicios en la nube sean más accesibles, confiables y privados? Puede, y en eso están trabajando Qualcomm y Microsoft, con foco en mejorar la experiencia de los usuarios empresariales e industriales a través de sus diversos dispositivos.
“Tanto el procesamiento en la nube como el procesamiento en dispositivos son necesarios para ampliar la IA en todo el vasto universo de dispositivos y aplicaciones”, dijo Pavan Davuluri, vicepresidente corporativo del departamento de Silicon and System Integration de Windows en Microsoft, y valoró que “al reunir el liderazgo de Microsoft en la IA en la nube y las capacidades de la plataforma Windows con la experiencia de Qualcomm Technologies en IA en dispositivos, aceleraremos las oportunidades para experiencias de inteligencia artificial generativa”.
Sucede que las plataformas Snapdragon incluyen al Qualcomm AI Engine, herramienta dedicada a procesar cargas de trabajo de IA de manera más eficiente que cuando se procesan únicamente en la CPU o la GPU y esto es, justamente, lo que permite que la IA sea posible en cualquier dispositivo.
“Para que la IA generativa se vuelva realmente convencional, gran parte de la inferencia deberá ejecutarse en dispositivos periféricos”, dijo Ziad Asghar, vicepresidente senior de gestión de productos de Qualcomm Technologies en el marco del evento Microsoft Build 2023, donde presentó los avances de IA generativa en dispositivos que Qualcomm está realizando (incluidas las plataformas de cálculo Snapdragon), así como nuevas opciones para los desarrolladores que crean aplicaciones para PC con Windows 11 alimentadas por Snapdragon.
Inclusive, las demostraciones probaron que es posible el uso del modelo de inteligencia artificial generativa de texto a imagen, que posee más de 1.000 millones de parámetros llamado Stable Diffusion, en una PC de próxima generación y adelantaron que también se trabaja para que, en los próximos meses, se pueda ejecutar también modelos más grandes, con hasta 10.000 millones de parámetros (incluidos modelos de lenguaje extenso o LLM, por sus siglas en inglés).
Así, el Qualcomm AI Engine Direct SDK se presenta como la ayuda para que los desarrolladores puedan crear la próxima generación de experiencias de IA, al tiempo que el anuncio precisa que con ONNX Runtime y Qualcomm AI Stack, se pueden ejecutar cargas de trabajo de IA en el Snapdragon 8cx Gen 3 AI Engine, tanto en dispositivos como el Surface Pro 9 5G o en una Lenovo ThinkPad x13s.
