Principales différences entre Orin et Xavier
Les modules Jetson AGX Orin offrent une performance AI pouvant atteindre 275 TOPS avec jusqu'à 64 Go de mémoire, contre 30 TOPS avec jusqu'à 32 Go de mémoire pour Jetson Xavier. La consommation d'énergie des modules Jetson Orin a également été optimisée comme jamais auparavant, offrant une consommation maximale de 60 W contre un maximum de 40 W avec Jetson Xavier.
Il s'agit donc de l'ordinateur d'IA le plus puissant au monde pour les machines autonomes, sans compromis sur une consommation faible et ultra-optimisée.
Ses performances sont jusqu'à 8 fois supérieures à celles de la gamme Jetson Xavier pour la gestion simultanée d'un plus grand nombre de pipelines. La prise en charge de l'interface est également optimisée avec des capteurs multiples, ce qui permet de mieux répondre aux tendances récentes dans le domaine de la robotique embarquée de nouvelle génération.
La mise en réseau, qui n'était possible qu'avec l'Ethernet conventionnel dans la Jetson Xavier, peut désormais être réalisée avec le Gigabit Ethernet dans la Jetson Orin. La transmission des données est ainsi beaucoup plus rapide qu'auparavant.
GPU NVDIA Ampere : tensor Cores de troisième génération, Sparsity, multiprocesseur de streaming
Jetson AGX Orin contient un GPU Ampere intégré qui fournit un total de 2048 cœurs CUDA et 64 cœurs Tensor avec jusqu'à 131 Sparse TOPs de calcul Tensor INT8 et jusqu'à 4.096 FP32 TFLOPs de calcul CUDA. Sa nouvelle précision Tensor Float 32 (TF32) permet de multiplier par 5 le débit d'apprentissage par rapport à la génération précédente afin d'accélérer l'apprentissage des modèles d'IA et de science des données sans nécessiter de modification du code.
Le GPU prend également en charge la sparsité, une structure de calcul à grain fin qui double le débit et réduit l'utilisation de la mémoire. Cette nouvelle fonction de sparsité peut tirer parti de la sparsité structurée à grain fin dans les réseaux d'apprentissage profond pour doubler le débit des opérations des Tensor Cores par rapport à la génération précédente de Turing Tensor Cores.
Le GPU NVIDIA Ampere, qui prend en charge les cœurs de tenseur de 3ème génération et les cœurs TensorRT, introduit une nouvelle conception pour le multiprocesseur de flux (SM) qui peut améliorer les performances par watt et les performances par zone. Les GPU Ampere améliorent la génération précédente de NVIDIA Turing et sont compatibles avec les logiciels afin d'utiliser les mêmes API.
CPU : 1.des performances multipliées par 7
Le plus grand changement apporté au CPU de la Jetson AGX Orin est le remplacement des clusters de CPU NVIDIA Carmel par l'Arm Cortex-A78AE. Le CPU de la Jetson AGX Orin est composé de 12 cœurs de CPU, ce qui permet de multiplier par 1,7 les performances par rapport au CPU NVIDIA Carmel à 8 cœurs de la Jetson AGX Xavier, chaque cœur étant constitué d'un cache L1 d'instruction de 64 Ko et d'un cache de données de 64 Ko, ainsi que d'un cache L2 de 256 Ko. Chaque cluster comprend 2 Mo de cache L3, tout comme la Jetson AGX Xavier, et la fréquence maximale supportée par le CPU est de 2 GHz.
Mémoire et stockage : 1.4x la bande passante mémoire et 2x le stockage de la Jetson AGX Xavier
En comparaison, la NVIDIA Jetson AGX Orin prend en charge 1,4 fois la bande passante mémoire et 2 fois le stockage de la NVIDIA Jetson AGX Xavier, avec 32 Go de LPDDR5 256 bits et 64 Go d'eMMC. La DRAM prend en charge une vitesse d'horloge maximale de 3200 MHz, avec 6400 Gbps par broche, ce qui permet d'obtenir une bande passante mémoire de 204,8 Go/s.
Encodeur et décodeur vidéo multistandard et bloc de traitement JPEG (NVJPEG)
La carte NVIDIA Jetson AGX Orin contient un encodeur vidéo multistandard (NVENC), un décodeur vidéo multistandard (NVDEC) et un bloc de traitement JPEG (NVJPEG). Le NVENC permet une accélération matérielle complète pour diverses normes d'encodage, notamment H.265, H.264 et AV1.
Le NVDEC permet une accélération matérielle complète pour diverses normes de décodage, notamment H.265, H.264, AV1 et VP9. Le NVJPG est responsable des calculs de (dé)compression JPEG (basés sur la norme JPEG pour les images fixes), de la mise à l'échelle des images, du décodage (YUV420, YUV422H/V, YUV444, YUV400) et de la conversion de l'espace colorimétrique (RVB vers YUV).
Moteur d'accélération de la vision de nouvelle génération : PVA v2.
Le PVA prend en charge divers noyaux de vision artificielle tels que le filtrage, le gauchissement, la pyramide d'images, la détection de caractéristiques et la FFT, ce qui est essentiel pour les applications de vision artificielle sur le détecteur, le suiveur, le suiveur d'objets, la disparité stéréo et la perception visuelle.
Le NVIDIA Jetson AGX Orin est prêt à être intégré dans les machines autonomes de nouvelle génération, la robotique ou les drones travaillant pour la vente au détail, la fabrication, le transport, l'agtech, la ville intelligente, l'aérospatiale, etc.
Conclusion
Les NVIDIA Jetson AGX Xavier et NVIDIA Jetson AGX Orin ont la même taille physique et se situent dans la même gamme de prix, mais le NVIDIA Jetson AGX Orin est beaucoup plus puissant. Même avec le logiciel Early Access, les benchmarks susmentionnés démontrent que l'Orin est un nouvel ajout incroyablement prometteur à la famille Jetson et nous pouvons nous attendre à des résultats encore meilleurs dans un avenir proche avec les mises à jour logicielles.
En lançant la NVIDIA Jetson AGX Orin, NVIDIA a incontestablement fait faire un grand pas en avant au monde de l'IA embarquée. Les appareils Jetson Xavier sont déjà incroyablement puissants et pleins de potentiel, mais avec Orin, ils ouvrent désormais la voie à la croissance continue de l'IA embarquée, à la planification et au travail sur des projets plus importants et plus complexes qui, auparavant, n'auraient même pas pu être imaginés.
Pour ceux qui étaient limités par le nombre de tâches, NVIDIA a maintenant placé la barre plus haut. En fait, nous, à Assured Systems, nous considérons qu'il s'agit d'une avancée majeure en termes d'applications Edge AI et qu'elle change la donne.