La Jetson Orin Nano résout les défis de l'IA d'entrée de gamme en multipliant par 80 les performances de la Jetson Nano.
NVIDIA a récemment lancé les nouveaux systèmes sur modules Jetson Orin Nano qui établissent un nouveau standard pour l'IA d'entrée de gamme et la robotique.
Pour la première fois, la famille NVIDIA Jetson comprend six modules de production basés sur l'Orin pour prendre en charge une gamme complète d'applications Edge AI et robotiques.
Cela comprend l'Orin Nano - qui fournit jusqu'à 40 trillions d'opérations par seconde (TOPS) de performances IA dans le plus petit facteur de forme Jetson - jusqu'à l'AGX Orin, qui fournit 275 TOPS pour les machines autonomes avancées.
Le Jetson Orin est équipé d'un GPU NVIDIA à architecture Ampere, de CPU basés sur Arm, d'accélérateurs de vision et d'apprentissage profond de nouvelle génération, d'interfaces à haut débit, d'une bande passante mémoire rapide et d'une prise en charge de capteurs multimodaux.
Ces performances et cette polyvalence permettent à davantage de clients de commercialiser des produits qui semblaient auparavant impossibles, qu'il s'agisse d'ingénieurs déployant des applications d'IA de pointe ou de développeurs de systèmes d'exploitation robotiques (ROS) construisant des machines intelligentes de nouvelle génération.
"Plus de 1 000 clients et 150 partenaires ont adopté Jetson AGX Orin depuis que NVIDIA a annoncé sa disponibilité il y a tout juste six mois, et Orin Nano augmentera considérablement cette adoption ", a déclaré Deepu Talla, vice président de l'informatique embarquée et de pointe chez NVIDIA. "Avec une augmentation des performances de plusieurs ordres de grandeur pour des millions de développeurs d'IA et de ROS, Jetson Orin est la plate-forme idéale pour pratiquement tous les types de déploiement robotique imaginables. "
Rendre l'IA de pointe et la robotique plus accessibles
Les modules Orin Nano sont compatibles en termes de format et de brochage avec les modules Orin NX précédemment annoncés. La prise en charge complète de l'émulation permet aux clients de commencer à développer pour la série Orin Nano dès aujourd'hui en utilisant le kit de développement AGX Orin. Les clients ont ainsi la possibilité de concevoir un système capable de prendre en charge plusieurs modules Jetson et de faire évoluer facilement leurs applications.
Orin Nano prend en charge plusieurs pipelines d'applications IA simultanées avec des E/S à grande vitesse et un GPU à architecture NVIDIA Ampere. Les développeurs d'appareils et d'applications d'entrée de gamme tels que l'analyse de la vente au détail et le contrôle de la qualité industrielle bénéficient d'un accès plus facile à des modèles d'IA plus complexes à moindre coût.
Les modules Orin Nano seront disponibles en deux versions, l'Orin Nano 8GB pouvant fournir jusqu'à 40 TOPS avec une puissance configurable de 7W à 15W, tandis que la version 4GB fournit jusqu'à 20 TOPS avec des options de puissance aussi basses que 5W à 10W.
La plateforme Jetson Orin est conçue pour relever les défis les plus difficiles en matière de robotique et permet à plus de 700 000 développeurs ROS de bénéficier de calculs accélérés. Associées aux puissantes capacités matérielles de l'Orin Nano, les améliorations apportées au dernier logiciel NVIDIA Isaac pour ROS mettent des performances et une productivité accrues à la portée des roboticiens.
Un écosystème et un support logiciel solides
Jetson Orin a bénéficié d'un large soutien dans l'écosystème de la robotique et de l'informatique embarquée, notamment de la part de Canon, John Deere, Microsoft Azure, Teradyne, TK Elevator et bien d'autres.
L'écosystème NVIDIA Jetson se développe rapidement, avec plus d'un million de développeurs, 6 000 clients - dont 2 000 startups - et 150 partenaires. Les partenaires Jetson proposent une large gamme de services allant des logiciels d'IA, du matériel et des services de conception d'applications aux caméras, capteurs et périphériques, outils de développement et systèmes de développement.
Modules de production basés sur la famille NVIDIA Jetson Orin
Modules Jetson Orin Nano 8GB et 4GB
Les modules NVIDIA Jetson Orin Nano apportent jusqu'à 40 TOPS de performances IA dans le plus petit facteur de forme Jetson, avec des options de puissance entre 5W et 15W. Ces modules multiplient par 80 les performances de la NVIDIA Jetson Nano et établissent un nouveau standard pour l'intelligence artificielle d'entrée de gamme.
Les deux modules Jetson Orin Nano seront disponibles en janvier 2023
ModulesJetson AGX Orin 64 Go et 32 Go
Les modules NVIDIA Jetson AGX Orin délivrent jusqu'à 275 TOPS de performances IA avec une puissance configurable entre 15W et 60W. Cela vous permet de multiplier par 8 les performances de Jetson AGX Xavier dans le même format compact pour la robotique et d'autres cas d'utilisation de machines autonomes.
Le module Jetson AGX Orin 32GB est disponible dès maintenant.
Le module Jetson AGX Orin 64 Go sera disponible en décembre 2022.
Modules Jetson Orin NX de 16 et 8 Go
Les modules Jetson Orin NX offrent jusqu'à 100 TOPS de performances IA dans le plus petit facteur de forme Jetson, avec une puissance configurable entre 10W et 25W. Vous obtenez ainsi jusqu'à 3 fois les performances de la Jetson AGX Xavier et jusqu'à 5 fois celles de la Jetson Xavier NX.
La Jetson Orin NX 16 Go sera disponible en décembre 2022.
La Jetson Orin NX 8GB sera disponible en janvier 2023.
Un regard approfondi sur les modules Jetson Orin Nano 8GB et 4GB
*L'architecture NVIDIA Orin de la Jetson Orin Nano 8 Go et de la Jetson Orin Nano 4 Go comporte 2 TPC et 4 SM.
Comme le montre la figure 1, la Jetson Orin Nano présente l'architecture NVIDIA Orin avec un GPU NVIDIA Ampere Architecture. Il possède jusqu'à huit multiprocesseurs de streaming (SM) composés de 1024 cœurs CUDA et jusqu'à 32 cœurs Tensor pour le traitement de l'intelligence artificielle.
La troisième génération de cœurs de tenseur de l'architecture NVIDIA Ampere offre de meilleures performances par watt que la génération précédente et apporte davantage de performances avec la prise en charge de la sparsité. Avec la sparsité, vous pouvez tirer parti de la sparsité structurée à grain fin dans les réseaux d'apprentissage profond pour doubler le débit des opérations des Tensor Cores.
Pour accélérer toutes les parties de votre pipeline d'applications, le Jetson Orin Nano comprend également un processeur Arm Cortex-A78AE à 6 cœurs, un moteur de décodage vidéo, un ISP, un compositeur d'images vidéo, un moteur de traitement audio et un bloc d'entrée vidéo.
Les modules Jetson Orin Nano intègrent diverses interfaces à haut débit dans leur petite empreinte SODIMM à 260 broches de 70 x 45 mm :
- Jusqu'à sept voies PCIe Gen3
- Trois ports USB 3.2 Gen2 à 10 Gbps à haute vitesse
- Huit voies de ports de caméra MIPI CSI-2
- Diverses E/S de capteurs
Pour réduire vos efforts d'ingénierie, nous avons rendu les modules Jetson Orin Nano et Jetson Orin NX entièrement compatibles en termes de brochage et de facteur de forme. Le tableau 1 présente les différences entre la Jetson Orin Nano 4GB et la Jetson Orin Nano 8GB.
Spécifications | Jetson Orin Nano 4GB | Jetson Orin Nano 8GB |
Performances AI | 20 TOP éparses | 10 TOP denses | 40 TOP éparses | 20 TOP denses |
GPU | gPU NVIDIA Ampere Architecture à 512 cœurs avec 16 Tensor Cores | gPU NVIDIA Ampere Architecture à 1024 cœurs avec 32 Tensor Cores |
Fréquence maximale du GPU | 625 MHz | |
CPU | cPU 64 bits Arm Cortex-A78AE v8.2 à 6 cœurs 1,5 Mo L2 + 4 Mo L3 | |
Fréquence maximale du CPU | 1.5 GHz | |
Mémoire | 4GB 64-bit LPDDR5 34 GB/s | 8GB 128-bit LPDDR5 68 GB/s |
Stockage | - | |
(Prend en charge les NVMe externes) | ||
Encodage vidéo | 1080p30 pris en charge par 1-2 cœurs de CPU | |
Décodage vidéo | 1x 4K60 (H.265) | 2x 4K30 (H.265) | 5x 1080p60 (H.265) | 11x 1080p30 (H.265) | |
Caméras | Jusqu'à 4 caméras (8 via des canaux virtuels*) 8 voies MIPI CSI-2 D-PHY 2.1 (jusqu'à 20 Gbps) | |
PCIe | 1 x4 + 3 x1 (PCIe Gen3, Root Port, & Endpoint) | |
USB | 3x USB 3.2 Gen2 (10 Gbps) 3x USB 2.0 | |
Réseau | 1x GbE | |
Affichage | 1x DisplayPort 1.2 multimode 4K30 (+MST)/e DisplayPort 1.4/HDMI 1.4* | |
Autres E/S | 3x UART, 2x SPI, 2x I2S, 4x I2C, 1x CAN, DMIC et DSPK, PWM, GPIOs | |
Alimentation | 5W - 10W | 7W - 15W |
Mécanique | 69.6 mm x 45 mm Connecteur SO-DIMM à 260 broches | |
Prix | $199† | $299† |
* Pour plus d'informations sur la compatibilité supplémentaire avec DisplayPort 1.4a et HDMI 2.1 et les canaux virtuels, consultez la fiche technique de la série Jetson Orin Nano. † 1KU Volume
Pour plus d'informations sur les fonctionnalités prises en charge, consultez la section Fonctionnalités logicielles du dernier guide du développeur NVIDIA Jetson Linux.
Comparaison des performances avec la Jetson Orin Nano
Avec Jetson AGX Orin, NVIDIA est leader dans la catégorie des performances d'inférence de MLPerf. Les modules Jetson Orin représentent un pas de géant pour vos applications de nouvelle génération, et la même architecture NVIDIA Orin est désormais accessible aux appareils d'IA d'entrée de gamme.
NVIDIA a utilisé le mode émulation avec NVIDIA JetPack 5.0.2 pour exécuter des tests de vision par ordinateur avec Jetson Orin Nano, et les résultats montrent qu'il s'agit d'un nouveau standard. Les tests ont porté sur certains de nos modèles pré-entraînés denses INT8 et FP16 de NGC, ainsi que sur un modèle ResNet-50 standard. Ils ont également exécuté les mêmes modèles à des fins de comparaison sur Jetson Nano, TX2 NX et Xavier NX.
Voici la liste complète des benchmarks :
- NVIDIA PeopleNet v2.3 pour la détection de personnes élaguée, et NVIDIA PeopleNet v2.5 pour la détection de personnes avec la plus grande précision
- Modèles 2D et 3D de NVIDIA ActionRecognitionNet
- NVIDIA LPRNet pour la reconnaissance des plaques d'immatriculation
- NVIDIA DashCamNet, BodyPoseNet pour l'estimation de la pose humaine de plusieurs personnes
- Modèle ResNet-50 (224×224)
En prenant la géométrie de ces benchmarks, la Jetson Orin Nano 8GB montre une augmentation des performances de 30x par rapport à la Jetson Nano. Avec les futures améliorations logicielles, NVIDIA s'attend à ce que les performances soient multipliées par 45. D'autres appareils Jetson ont vu leurs performances multipliées par 1,5 depuis leur première version logicielle, et NVIDIA s'attend à ce qu'il en soit de même pour la Jetson Orin Nano.