NVIDIA Jetson AGX Orin vs. NVIDIA Jetson AGX Xavier

Hauptunterschiede zwischen Orin und Xavier

Die Jetson AGX Orin-Module liefern eine KI-Leistung, die mit bis zu 64 GB Speicher 275 TOPS erreichen kann, im Vergleich zu 30 TOPS mit bis zu 32 GB Speicher bei Jetson Xavier. Der Stromverbrauch der Jetson Orin-Module wurde ebenfalls optimiert und liegt bei maximal 60 W im Vergleich zu maximal 40 W bei Jetson Xavier.

Damit ist er der weltweit leistungsstärkste KI-Computer für autonome Maschinen, ohne dabei Kompromisse beim niedrigen, ultra-optimierten Verbrauch einzugehen.

Er ist bis zu achtmal leistungsfähiger als die Jetson Xavier-Reihe und kann gleichzeitig eine größere Anzahl von Pipelines verarbeiten. Auch die Schnittstellenunterstützung wurde mit mehreren Sensoren optimiert, um den jüngsten Trends im Bereich der eingebetteten Robotik der nächsten Generation besser gerecht zu werden.

Die Vernetzung, die im Jetson Xavier nur mit konventionellem Ethernet möglich war, kann im Jetson Orin nun mit Gigabit Ethernet realisiert werden. Damit ist die Datenübertragung wesentlich schneller als bisher.

NVDIA Ampere GPU: tensor Cores der 3. Generation, Sparsity, Streaming Multiprozessor

Der Jetson AGX Orin enthält eine integrierte Ampere-GPU, die insgesamt 2048 CUDA-Kerne und 64 Tensor-Kerne mit bis zu 131 Sparse TOPs INT8 Tensor-Rechenleistung und bis zu 4.096 FP32 TFLOPs CUDA-Rechenleistung bietet. Die neue Tensor Float 32 (TF32)-Präzision bietet einen bis zu 5-fachen Trainingsdurchsatz im Vergleich zur vorherigen Generation, um das Training von KI- und Data-Science-Modellen zu beschleunigen, ohne dass Codeänderungen erforderlich sind.

Der Grafikprozessor unterstützt auch Sparsity, eine feinkörnige Berechnungsstruktur, die den Durchsatz verdoppelt und die Speichernutzung reduziert. Diese neue Sparsity-Funktion kann die Vorteile der feinkörnigen strukturierten Sparsity in Deep-Learning-Netzwerken nutzen, um den Durchsatz von Tensor-Core-Operationen im Vergleich zur vorherigen Generation der Turing Tensor Cores zu verdoppeln.

Der NVIDIA Ampere-Grafikprozessor unterstützt Tensor-Cores der dritten Generation und TensorRT-Cores und führt ein neues Design für den Streaming-Multiprozessor (SM) ein, das die Leistung pro Watt und die Leistung pro Fläche verbessern kann. Die Ampere-GPUs verbessern die vorherige NVIDIA Turing-Generation und sind softwarekompatibel, so dass dieselben APIs verwendet werden.

CPU: 1.7x mehr Leistung im Voraus

Die größte Änderung bei der CPU im Jetson AGX Orin ist der Ersatz der NVIDIA Carmel CPU-Cluster durch den Arm Cortex-A78AE. Die Jetson AGX Orin CPU besteht aus 12 CPU-Kernen, die eine 1,7-fache Leistung im Vergleich zur 8-Kern-NVIDIA-Carmel-CPU im Jetson AGX Xavier ermöglichen, wobei jeder Kern aus einem 64 KB großen Befehls-L1-Cache und 64 KB großen Daten-Cache sowie einem 256 KB großen L2-Cache besteht. Jeder Cluster verfügt über 2 MB L3-Cache, genau wie der Jetson AGX Xavier, und die maximale Frequenz der CPU beträgt 2 GHz.

Arbeitsspeicher & Speicher: 1.4x die Speicherbandbreite und 2x der Speicher des Jetson AGX Xavier

Im Vergleich dazu unterstützt der NVIDIA Jetson AGX Orin die 1,4-fache Speicherbandbreite und die 2-fache Speicherkapazität des NVIDIA Jetson AGX Xavier: 32 GB 256-bit LPDDR5 und 64 GB eMMC. Der DRAM unterstützt eine maximale Taktrate von 3200 MHz mit 6400 Gbps pro Pin und ermöglicht eine Speicherbandbreite von 204,8 GB/s.

Multi-Standard Video Encoder & Decoder und ein JPEG Verarbeitungsblock (NVJPEG)

Der NVIDIA Jetson AGX Orin enthält einen Multi-Standard-Video-Encoder (NVENC), einen Multi-Standard-Video-Decoder (NVDEC) und einen JPEG-Verarbeitungsblock (NVJPEG), wobei der NVENC eine vollständige Hardwarebeschleunigung für verschiedene Kodierungsstandards wie H.265, H.264 und AV1 ermöglicht.

Der NVDEC ermöglicht eine vollständige Hardwarebeschleunigung für verschiedene Dekodierungsstandards, darunter H.265, H.264, AV1 und VP9. Der NVJPG ist für die Berechnung der JPEG-(De-)Komprimierung (basierend auf dem JPEG-Standard für Standbilder), die Bildskalierung, die Dekodierung (YUV420, YUV422H/V, YUV444, YUV400) und die Farbraumkonvertierung (RGB nach YUV) zuständig.

Vision Accelerator Engine der nächsten Generation: PVA v2.

Die PVA ermöglicht die Unterstützung verschiedener Computer-Vision-Kernel wie Filterung, Warping, Bildpyramide, Merkmalserkennung und FFT, die für Computer-Vision-Anwendungen in den Bereichen Detektor, Tracker, Objekt-Tracker, Stereo-Disparität und visuelle Wahrnehmung unerlässlich sind.

Der NVIDIA Jetson AGX Orin ist bereit für den Einsatz in autonomen Maschinen, Robotern oder Drohnen der nächsten Generation, die im Einzelhandel, in der Fertigung, im Transportwesen, in der Landwirtschaft, in der Smart City, in der Luft- und Raumfahrt usw. eingesetzt werden.

Fazit

Der NVIDIA Jetson AGX Xavier und der NVIDIA Jetson AGX Orin haben die gleiche Größe und liegen in der gleichen Preisklasse, aber der NVIDIA Jetson AGX Orin hat viel mehr Leistung. Selbst mit Early Access Software zeigen die oben genannten Benchmarks, dass der Orin ein unglaublich vielversprechendes neues Mitglied der Jetson-Familie ist und wir können in naher Zukunft mit Software-Updates noch bessere Ergebnisse erwarten.

Mit der Veröffentlichung des NVIDIA Jetson AGX Orin hat NVIDIA die Welt der eingebetteten KI unbestreitbar einen großen Schritt nach vorne gebracht. Jetson Xavier-Geräte sind bereits unglaublich leistungsfähig und voller Potenzial, aber mit Orin wird nun der Weg für das weitere Wachstum der eingebetteten KI geebnet, die Planung und Arbeit an größeren und komplexeren Projekten, von denen man früher nicht einmal träumen konnte.

Für diejenigen, die durch die Anzahl der Aufgaben begrenzt waren, hat NVIDIA die Messlatte jetzt höher gelegt. In der Tat, wir hier auf Assured Systems als einen großen Sprung nach vorn in Bezug auf Edge AI-Anwendungen und sehr viel ein Spiel-Wechsler.