Quelle est la différence entre les SOM Nvidia Jetson Orin et AGX Javier ?

Les modules Jetson AGX Orin offrent une performance IA pouvant atteindre 275 TOPS avec jusqu'à 64 Go de mémoire, contre 30 TOPS avec jusqu'à 32 Go de mémoire pour le Jetson Xavier.

La consommation d'énergie des modules Jetson Orin a également été optimisée comme jamais auparavant, offrant une consommation maximale de 60 W contre un maximum de 40 W avec Jetson Xavier.

Il s'agit donc de l'ordinateur d'IA le plus puissant au monde pour les machines autonomes, sans compromis sur une consommation faible et ultra-optimisée.

Ses performances sont jusqu'à 8 fois supérieures à celles de la gamme Jetson Xavier pour la gestion simultanée d'un plus grand nombre de pipelines.

La prise en charge de l'interface est également optimisée avec des capteurs multiples, ce qui répond mieux aux tendances récentes dans le domaine de la robotique embarquée de nouvelle génération.

La mise en réseau, qui dans la Jetson Xavier n'était possible qu'avec l'Ethernet conventionnel, peut maintenant être réalisée avec le Gigabit Ethernet dans la Jetson Orin, ce qui rend la transmission des données beaucoup plus rapide.

Jetson AGX Orin contient un GPU Ampere intégré, fournissant un total de 2048 cœurs CUDA et 64 cœurs Tensor avec jusqu'à 131 Sparse TOPs de calcul Tensor INT8 et jusqu'à 4,096 FP32 TFLOPs de calcul CUDA. Sa nouvelle précision Tensor Float 32 (TF32) permet de multiplier par 5 le débit d'apprentissage par rapport à la génération précédente afin d'accélérer l'apprentissage des modèles d'IA et de science des données sans avoir à modifier le code.

Le GPU prend également en charge la sparsité, une structure de calcul à grain fin qui double le débit et réduit l'utilisation de la mémoire. Cette nouvelle fonction de sparsité peut tirer parti de la sparsité structurée à grain fin dans les réseaux d'apprentissage profond pour doubler le débit des opérations des Tensor Cores par rapport à la génération précédente de Turing Tensor Cores.

Le GPU NVIDIA Ampere prend en charge les cœurs de tenseur de 3ème génération, les cœurs TensorRT et introduit une nouvelle conception pour le multiprocesseur de streaming (SM) qui peut améliorer les performances par watt et par surface. Les GPU Ampere améliorent la génération précédente de NVIDIA Turing et sont compatibles avec les logiciels afin d'utiliser les mêmes API.

Le changement le plus important dans le CPU de la Jetson AGX Orin est le remplacement des clusters du CPU NVIDIA Carmel par l'Arm Cortex-A78AE.

Le CPU de la Jetson AGX Orin comporte 12 cœurs de CPU, ce qui permet de multiplier par 1,7 les performances par rapport au CPU NVIDIA Carmel à 8 cœurs de la Jetson AGX Xavier, chaque cœur étant constitué d'un cache L1 d'instruction de 64 Ko et d'un cache de données de 64 Ko, ainsi que d'un cache L2 de 256 Ko. Chaque cluster comprend 2 Mo de cache L3, tout comme la Jetson AGX Xavier. La fréquence maximale supportée par le CPU est de 2 GHz.

En comparaison, la NVIDIA Jetson AGX Orin prend en charge 1,4 fois plus de bande passante mémoire et 2 fois plus de stockage que la NVIDIA Jetson AGX Xavier, avec 32 Go de LPDDR5 256 bits et 64 Go d'eMMC. La DRAM prend en charge une vitesse d'horloge maximale de 3200 MHz, avec 6400 Gbps par broche, ce qui permet une bande passante mémoire de 204,8 Go/s.

Le NVIDIA Jetson AGX Orin contient un encodeur vidéo multistandard (NVENC), un décodeur vidéo multistandard (NVDEC) et un bloc de traitement JPEG (NVJPEG). Le NVENC permet une accélération matérielle complète pour diverses normes d'encodage, notamment H.265, H.264 et AV1.

Le NVDEC permet une accélération matérielle complète pour diverses normes de décodage, notamment H.265, H.264, AV1 et VP9. Le NVJPG est responsable des calculs de (dé)compression JPEG (basés sur la norme JPEG pour les images fixes), de la mise à l'échelle des images, du décodage (YUV420, YUV422H/V, YUV444, YUV400) et de la conversion de l'espace colorimétrique (RVB vers YUV).

NVIDIA Jetson AGX Orin prend en charge le moteur d'accélération de la vision de nouvelle génération, PVA v2.

Le PVA prend en charge divers noyaux de vision informatique tels que le filtrage, le gauchissement, la pyramide d'images, la détection de caractéristiques et la FFT, ce qui est essentiel pour les applications de vision informatique sur le détecteur, le suiveur, le suiveur d'objets, la disparité stéréo et la perception visuelle.

Le NVIDIA Jetson AGX Orin est prêt à être intégré dans les machines autonomes de nouvelle génération, la robotique ou les drones travaillant pour la vente au détail, la fabrication, le transport, l'agtech, la ville intelligente, l'aérospatiale, etc.

Les NVIDIA Jetson AGX Xavier et NVIDIA Jetson AGX Orin ont la même taille physique. Ils sont tous deux dans la même gamme de prix, mais le NVIDIA Jetson AGX Orin est beaucoup plus puissant. Même avec le logiciel Early Access, les benchmarks démontrent que l'Orin est un nouvel ajout prometteur à la famille Jetson et nous pouvons nous attendre à des résultats encore meilleurs avec les mises à jour logicielles.

En lançant la NVIDIA Jetson AGX Orin, NVIDIA a incontestablement fait faire un grand pas en avant au monde de l'IA embarquée.

Les appareils Jetson Xavier sont déjà très puissants et pleins de potentiel. Orin ouvre désormais la voie à la croissance continue de l'IA embarquée et permet de travailler sur des projets plus vastes et plus complexes qui, auparavant, n'auraient même pas pu être imaginés.

Pour ceux qui étaient limités par le nombre de tâches, NVIDIA a maintenant placé la barre plus haut. En fait, nous, à Assured Systems, nous considérons qu'il s'agit d'une avancée majeure en termes d'applications Edge AI et qu'elle change la donne.