Qualcomm Lanza Chips Snapdragon Orientados a Habilitar Agentes de IA en Dispositivos
Puntos clave
- Qualcomm presentó el Snapdragon 8 Elite Gen 5 para teléfonos, que procesa hasta 220 tokens por segundo.
- Los Snapdragon X2 Elite y X2 Elite Extreme para PCs entregan alrededor de 80 TOPS, casi el doble que los modelos anteriores.
- La nueva arquitectura de CPU Oryon reemplaza los núcleos Kryo, aumentando el rendimiento de la CPU en aproximadamente un 37%.
- Los agentes de IA en dispositivos utilizarán modelos de parámetros más bajos basados en enteros en teléfonos; los PCs confiarán en modelos más grandes en la nube.
- Humain presentó un prototipo de laptop de agente de IA con una interfaz de prompt central en el summit.
- Los ejecutivos enfatizan que la latencia reducida es crucial para mantener a los usuarios comprometidos con los asistentes de IA.
Qualcomm anunció una nueva generación de procesadores Snapdragon en su Snapdragon Summit, posicionando los chips como la base de hardware para agentes de IA en smartphones y PCs. Los Snapdragon 8 Elite Gen 5 y la familia Snapdragon X2 Elite prometen velocidades de procesamiento de tokens dramáticamente más altas, un rendimiento de TOPS aumentado y soporte para modelos de lenguaje grande en el dispositivo.
Resumen del Snapdragon Summit: Nuevas Capacidades de los Chips
En el Snapdragon Summit, Qualcomm presentó sus procesadores móviles y de PC más recientes, enfatizando su papel en la entrega de agentes de IA que pueden operar directamente en los dispositivos. El chip Snapdragon 8 Elite Gen 5 para smartphones puede manejar hasta 220 tokens por segundo, un aumento sustancial con respecto a la tasa de 15 tokens de la generación anterior.
Para PCs, Qualcomm presentó los chips Snapdragon X2 Elite y X2 Elite Extreme. Ambos logran aproximadamente 80 billones de operaciones por segundo (TOPS), casi el doble de los 45 TOPS de los modelos X Elite anteriores. El aumento de TOPS y el mejor rendimiento de la CPU – citado como un aumento del 37% – están diseñados para soportar cargas de trabajo de IA más sofisticadas en el dispositivo.
Avances de Hardware Orientados a la Mejora del Rendimiento de los Agentes de IA
Los nuevos chips incorporan la arquitectura de CPU Oryon de Qualcomm, que reemplaza los núcleos Kryo basados en Arm. Este cambio, junto con unidades de procesamiento gráfico y de neuronas mejoradas, está diseñado para habilitar capacidades de IA "siempre activas" que pueden buscar en aplicaciones, archivos personales y servicios de nube para responder a las consultas de los usuarios. Los ejecutivos dijeron que las mejoras de hardware eliminan la barrera anterior que limitaba la implementación de experiencias de agentes de IA en plataformas móviles y de escritorio.
Durga Malladi, jefe de IA de Qualcomm, explicó que la combinación de un procesamiento de tokens más rápido y un mayor rendimiento de TOPS permitirá que los agentes de IA recuperen y sinteticen información más rápidamente, haciendo que la interacción se sienta natural. Vinesh Sukumar, director senior de gestión de productos de IA, agregó que la latencia más allá de un segundo puede causar que los usuarios pierdan interés, subrayando la importancia de los aumentos de tokens por segundo.
Modelos Basados en Dispositivo vs. Modelos Basados en la Nube
Qualcomm distinguió entre las limitaciones de los entornos móviles y de PC. En los smartphones, los límites de potencia y térmicos significan que los agentes de IA confiarán en modelos de lenguaje de parámetros más bajos basados en enteros (generalmente en el rango de parámetros de un solo dígito billón). Estos modelos se ejecutan localmente, preservando la privacidad y reduciendo la dependencia de la conectividad de red constante.
Demo de una Interfaz de Agente de IA en PC
Después de los anuncios de los chips, el CEO de Qualcomm, Cristiano Amon, presentó un prototipo de laptop de Humain que muestra una interfaz de agente de IA. El sistema presenta una ventana de prompt central con plantillas predefinidas que van desde tareas específicas como asesoramiento de acciones hasta consultas abiertas. Si bien la interfaz se asemeja a las cajas de chat de IA generativa familiar, encarna la visión de Qualcomm de un agente unificado que puede navegar a través de aplicaciones y fuentes de datos en nombre del usuario.
Perspectiva y Impacto en el Mercado
El liderazgo de Qualcomm expresó confianza en que la nueva familia Snapdragon elimina la principal barrera de hardware para la adopción generalizada de agentes de IA. Con los chips ahora capaces de soportar modelos más rápidos y capaces, la responsabilidad recae en los fabricantes de dispositivos y desarrolladores de software para integrar experiencias centradas en agentes. Si bien la forma exacta de los futuros agentes de IA sigue siendo fluida, la empresa cree que se ha disparado la "pistola de salida" y los usuarios pronto encontrarán asistentes de IA que optimizan tareas rutinarias, mejoran la productividad y brindan asistencia personalizada en ambos entornos móviles y de escritorio.