¿Cuál es la diferencia entre Nvidia Jetson Orin y los SOM AGX Javier?

Los módulos Jetson AGX Orin ofrecen un rendimiento de IA que puede alcanzar los 275 TOPS con hasta 64 GB de memoria, frente a los 30 TOPS con hasta 32 GB de memoria de Jetson Xavier.

El consumo energético de los módulos Jetson Orin también se ha optimizado como nunca, ofreciendo un consumo máximo de 60 W frente al máximo de 40 W de Jetson Xavier.

Esto lo convierte en el ordenador de IA para máquinas autónomas más potente del mundo, sin renunciar a un consumo bajo y ultraoptimizado.

Su rendimiento es hasta 8 veces superior al de la gama Jetson Xavier para manejar simultáneamente un mayor número de canalizaciones.

También se ha optimizado el soporte de interfaces con múltiples sensores, lo que satisface mejor las recientes tendencias en el campo de la robótica embebida de nueva generación.

La conexión en red, que en Jetson Xavier sólo era posible con Ethernet convencional, ahora se puede conseguir con Gigabit Ethernet en Jetson Orin, lo que hace que la transmisión de datos sea mucho más rápida.

Jetson AGX Orin contiene una GPU Ampere integrada que proporciona un total de 2048 núcleos CUDA y 64 núcleos Tensor con hasta 131 Sparse TOPs de cálculo Tensor INT8 y hasta 4.096 FP32 TFLOPs de cálculo CUDA. Su nueva precisión Tensor Float 32 (TF32) proporciona hasta 5 veces más rendimiento de entrenamiento que la generación anterior para acelerar el entrenamiento de modelos de IA y ciencia de datos sin necesidad de cambios en el código.

La GPU también incorpora soporte para sparsity, una estructura de cálculo de grano fino que duplica el rendimiento y reduce el uso de memoria. Esta nueva función de sparsity puede aprovechar la estructura de sparsity de las redes de aprendizaje profundo para duplicar el rendimiento de las operaciones de los núcleos tensoriales con respecto a la generación anterior de Turing Tensor Cores.

La GPU NVIDIA Ampere es compatible con los núcleos tensoriales de tercera generación, los núcleos TensorRT, e introduce un nuevo diseño para el multiprocesador de streaming (SM) que puede mejorar el rendimiento por vatio y por área. Las GPU Ampere mejoran la generación anterior de NVIDIA Turing y son compatibles por software, de forma que se utilizan las mismas API.

El mayor cambio en la CPU en Jetson AGX Orin es la sustitución de los núcleos de la CPU NVIDIA Carmel por el Arm Cortex-A78AE.

La CPU Jetson AGX Orin tiene 12 núcleos de CPU, lo que permite 1,7 veces el rendimiento en comparación con la CPU NVIDIA Carmel de 8 núcleos en la Jetson AGX Xavier, con cada núcleo compuesto por una caché L1 de 64 KB de instrucciones y una caché de datos de 64 KB junto con una caché L2 de 256 KB. Cada núcleo consta de 2MB de Caché L3, al igual que la Jetson AGX Xavier. La frecuencia máxima soportada por la CPU es de 2 GHz.

En comparación, el NVIDIA Jetson AGX Orin ofrece 1,4 veces más ancho de banda de memoria y 2 veces más almacenamiento que la NVIDIA Jetson AGX Xavier, con 32 GB de memoria LPDDR5 de 256 bits y 64 GB de memoria eMMC. La DRAM admite una velocidad de reloj máxima de 3200 MHz, con 6400 Gbps por pin, lo que permite un ancho de banda de memoria de 204,8 GB/s.

El sitio NVIDIA Jetson AGX Orin contiene un codificador de vídeo multiestándar (NVENC), un decodificador de vídeo multiestándar (NVDEC) y un bloque de procesamiento JPEG (NVJPEG). El NVENC permite la aceleración completa por hardware de varios estándares de codificación, como H.265, H.264 y AV1.

El NVDEC permite la aceleración completa por hardware de varios estándares de descodificación, incluidos H.265, H.264, AV1 y VP9, mientras que el NVJPG se encarga de los cálculos de (des)compresión JPEG (basados en el estándar de imágenes fijas JPEG), el escalado de imágenes, la descodificación (YUV420, YUV422H/V, YUV444, YUV400) y la conversión del espacio de color (RGB a YUV).

NVIDIA Jetson AGX Orin es compatible con el motor acelerador de visión de nueva generación, PVA v2.

El PVA es compatible con varios núcleos de visión por ordenador, como el filtrado, la deformación, la pirámide de imágenes, la detección de características y la FFT, que son esenciales para las aplicaciones de visión por ordenador sobre el detector, el rastreador, el rastreador de objetos, la disparidad estereoscópica y la percepción visual.

El NVIDIA Jetson AGX Orin está listo para ser integrado en máquinas autónomas de nueva generación, robótica o drones que trabajen para el comercio minorista, la fabricación, el transporte, la agrotecnología, las ciudades inteligentes, la industria aeroespacial, etc.

Los modelos NVIDIA Jetson AGX Xavier y NVIDIA Jetson AGX Orin coinciden en tamaño físico. Ambas están en el mismo rango de precios, pero la NVIDIA Jetson AGX Orin tiene mucha más potencia. Incluso con el software Early Access, las pruebas demuestran que el Orin es un prometedor nuevo miembro de la familia Jetson y podemos esperar resultados aún mejores con las actualizaciones de software.

Con el lanzamiento de NVIDIA Jetson AGX OrinnVIDIA ha dado un gran paso adelante en el mundo de la IA integrada.

Los dispositivos Jetson Xavier ya son muy potentes y están llenos de posibilidades. Orin allana ahora el camino para que la IA embebida siga creciendo y se pueda trabajar en proyectos más grandes y complejos que antes ni siquiera se podían haber soñado.

Para los que estaban limitados por el número de tareas, NVIDIA ha subido el listón. De hecho, en Assured Systems lo consideramos un gran paso adelante en lo que respecta a las aplicaciones de IA en los bordes y un gran cambio en las reglas del juego.