Qualcomm y Microsoft se unen para impulsar la IA en dispositivos Build

Durante el evento Microsoft Build 2023, Qualcomm Technologies
presentó sus últimas innovaciones en IA en dispositivos, incluyendo la
ejecución de IA generativa en plataformas de cálculo Snapdragon, así como
nuevas opciones para los desarrolladores que crean aplicaciones para PC con
Windows 11 alimentadas por Snapdragon.

“Para que la IA generativa se vuelva realmente
convencional, gran parte de la inferencia deberá ejecutarse en dispositivos
periféricos” dijo Ziad Asghar, VP sénior de Gestión de Productos de
Qualcomm Technologies: “Nuestro járdwer y sóftwer de IA de primera clase
capacita a los desarrolladores para aprovechar al máximo nuestras potentes
capacidades de IA, brindando increíbles experiencias de usuario en computadoras
portátiles, teléfonos y otros dispositivos con Snapdragon”.

El futuro de la inteligencia artificial debe incluir tanto
la IA en dispositivos como en la nube. Ejecutar aplicaciones de IA en
dispositivos mejora la eficiencia de costos, la privacidad, la personalización
y la latencia. Las plataformas Snapdragon incluyen un Qualcomm AI Engine
dedicado para procesar cargas de trabajo de inteligencia artificial de manera
más eficiente que cuando se procesan únicamente en la CPU o la GPU, lo que hace
posible la IA en el dispositivo, incluso en los pequeños, delgados y livianos.

En Microsoft Build, Qualcomm Technologies hará
demostraciones y ofrecerá herramientas para ayudar a desarrollar inteligencia
artificial generativa en la próxima generación de PC con Windows 11. Stable
Diffusion, un modelo de inteligencia artificial generativa de texto a imagen
con más de mil millones de parámetros, ahora se ejecuta completamente en el
dispositivo, y la compañía afirma tener un claro camino hacia la ejecución de
modelos con hasta diez mil millones de parámetros en dispositivos en los
próximos meses, incluidos modelos de lenguaje extenso (LLM, por sus siglas en
inglés). Para mejorar el Qualcomm AI Stack y ayudar a los desarrolladores a
crear la próxima generación de experiencias de IA en dispositivos, el Qualcomm
AI Engine Direct SDK estará disponible al público por primera vez en Build. Con
ONNX Runtime y Qualcomm® AI Stack, puedes ejecutar tus cargas de trabajo de IA
hoy en el Snapdragon 8cx Gen 3 AI Engine tanto en Surface Pro 9 5G como en
Lenovo ThinkPad x13s.

“Tanto el procesamiento en la nube como el
procesamiento en dispositivos son necesarios para ampliar la IA en todo el
vasto universo de dispositivos y aplicaciones” dijo Pavan Davuluri, VP
Corporativo del Departamento de Silicon and Sistem Integration de Windows en
Microsoft. “Al reunir el liderazgo de Microsoft en la IA en la nube y las
capacidades de la plataforma Windows con la experiencia de Qualcomm
Technologies en IA en dispositivos, aceleraremos las oportunidades para experiencias
de inteligencia artificial generativa”.