NPU, clave para desbloquear la IA generativa en los dispositivos
La unidad de procesamiento neuronal está diseñada para IA y complementa a los otros procesadores para acelerar las experiencias generativas.
La revolución de la inteligencia artificial generativa ya está aquí. Con la creciente demanda de casos de uso de IA generativa en sectores verticales con diversos requisitos y demandas computacionales, existe una clara necesidad de una arquitectura informática renovada y diseñada a medida.
Comienza con una unidad de procesamiento neuronal (NPU) diseñada desde cero para la IA generativa, al tiempo que aprovecha una combinación heterogénea de procesadores, como la unidad central de procesamiento (CPU) y la unidad de procesamiento de gráficos (GPU). Al utilizar un procesador adecuado junto con una NPU, la computación heterogénea maximiza el rendimiento de las aplicaciones, la eficiencia térmica y la duración de la batería para permitir experiencias de IA generativa nuevas y mejoradas.
¿Por qué es importante la computación heterogénea?
Debido a los diversos requisitos y demandas computacionales de la IA generativa, se necesitan diferentes procesadores. Una arquitectura informática heterogénea con diversidad de procesamiento brinda la oportunidad de utilizar los puntos fuertes de cada procesador, es decir, una NPU diseñada a medida centrada en la Inteligencia Artificial, junto con la CPU y la GPU, cada una de las cuales sobresale en diferentes dominios de tareas. Por ejemplo, la CPU para control secuencial e inmediatez, la GPU para transmisión de datos paralelos y la NPU para cargas de trabajo centrales de Inteligencia Artificial con matemáticas escalares, vectoriales y tensoriales.
La computación heterogénea maximiza el rendimiento de las aplicaciones, la eficiencia térmica del dispositivo y la duración de la batería para maximizar las experiencias generativas del usuario final con IA.
¿Qué es una NPU?
La NPU está construida desde cero para acelerar la inferencia de IA a baja potencia, y su arquitectura ha evolucionado junto con el desarrollo de nuevos algoritmos, modelos y casos de uso de Inteligencia Artificial.
Las cargas de trabajo de IA consisten principalmente en calcular capas de redes neuronales compuestas de matemáticas escalares, vectoriales y tensoriales seguidas de una función de activación no lineal. Un diseño de NPU superior toma las decisiones de diseño correctas para manejar estas cargas de trabajo de IA y está estrechamente alineado con la dirección de la industria de la Inteligencia Artificial.
Nuestra NPU líder y solución informática heterogénea
Qualcomm está permitiendo la computación inteligente en todas partes. Nuestra NPU Qualcomm Hexagon, líder en la industria, está diseñada para una inferencia de IA sostenida y de alto rendimiento a bajo consumo. Lo que diferencia a nuestra NPU es nuestro enfoque de sistema, diseño personalizado y rápida innovación. Al diseñar de forma personalizada la NPU y controlar la arquitectura del conjunto de instrucciones (ISA), podemos evolucionar y ampliar rápidamente el diseño para abordar los cuellos de botella y optimizar el rendimiento.
La NPU Hexagon es un procesador clave en nuestra arquitectura informática heterogénea, la mejor de su clase, Qualcomm AI Engine, que también incluye la GPU Qualcomm Adreno, la CPU Qualcomm Kryo o Qualcomm Oryon, Qualcomm Sensing Hub y el subsistema de memoria. Estos procesadores están diseñados para trabajar juntos y ejecutar aplicaciones de IA de manera rápida y eficiente en el dispositivo.
Nuestro desempeño líder en la industria en pruebas comparativas de IA y aplicaciones reales de Inteligencia Artificial generativa lo ejemplifica. Consulta el siguiente documento técnico para profundizar en nuestra NPU, nuestros otros procesadores heterogéneos y nuestro rendimiento de Inteligencia Artificial líder en la industria en Snapdragon 8 Gen 3 y Snapdragon X Elite.
Permitir a los desarrolladores acelerar las aplicaciones de IA generativa
Permitimos a los desarrolladores centrándonos en la facilidad de desarrollo e implementación en los miles de millones de dispositivos en todo el mundo impulsados por las plataformas Qualcomm y Snapdragon. Con Qualcomm AI Stack, los desarrolladores pueden crear, optimizar e implementar sus aplicaciones de Inteligencia Artificial en nuestro hardware, escribirlas una vez e implementarlas en diferentes productos y segmentos utilizando nuestras soluciones de chipset.
La combinación de liderazgo tecnológico, diseños de silicio personalizados, optimización de la Inteligencia Artificial de pila completa y habilitación del ecosistema distingue a Qualcomm Technologies para impulsar el desarrollo y la adopción de la IA generativa en el dispositivo.
