Was ist der Unterschied zwischen Nvidia Jetson Orin und den AGX Javier SOMs?

Die Jetson AGX Orin Module liefern eine KI-Leistung, die mit bis zu 64 GB Speicher 275 TOPS erreichen kann, im Vergleich zu 30 TOPS mit bis zu 32 GB Speicher bei Jetson Xavier.

Der Stromverbrauch der Jetson Orin-Module wurde ebenfalls optimiert und liegt bei maximal 60 W im Vergleich zu maximal 40 W bei Jetson Xavier.

Damit ist er der weltweit leistungsstärkste KI-Computer für autonome Maschinen, ohne dabei Kompromisse beim niedrigen, ultra-optimierten Verbrauch einzugehen.

Er ist bis zu achtmal leistungsfähiger als die Jetson Xavier-Reihe und kann gleichzeitig eine größere Anzahl von Pipelines verarbeiten.

Auch die Schnittstellenunterstützung wurde mit mehreren Sensoren optimiert, um den jüngsten Trends im Bereich der eingebetteten Robotik der nächsten Generation besser gerecht zu werden.

Die Vernetzung, die beim Jetson Xavier nur mit konventionellem Ethernet möglich war, kann beim Jetson Orin nun mit Gigabit-Ethernet realisiert werden, was die Datenübertragung deutlich beschleunigt.

Jetson AGX Orin enthält eine integrierte Ampere-GPU, die insgesamt 2048 CUDA-Kerne und 64 Tensor-Kerne mit bis zu 131 Sparse TOPs INT8 Tensor-Rechenleistung und bis zu 4.096 FP32 TFLOPs CUDA-Rechenleistung bietet. Die neue Tensor Float 32 (TF32)-Präzision bietet einen bis zu 5-fachen Trainingsdurchsatz im Vergleich zur vorherigen Generation, um das Training von KI- und Data Science-Modellen zu beschleunigen, ohne dass Codeänderungen erforderlich sind.

Der Grafikprozessor unterstützt außerdem Sparsity, eine feinkörnige Rechenstruktur, die den Durchsatz verdoppelt und den Speicherbedarf reduziert. Diese neue Sparsity-Funktion kann die Vorteile der feinkörnigen strukturierten Sparsity in Deep-Learning-Netzwerken nutzen, um den Durchsatz von Tensor-Core-Operationen im Vergleich zur vorherigen Generation der Turing Tensor Cores zu verdoppeln.

Der NVIDIA Ampere-Grafikprozessor unterstützt Tensor-Cores der dritten Generation, TensorRT-Cores, und führt ein neues Design für den Streaming-Multiprozessor (SM) ein, das die Leistung pro Watt und pro Fläche verbessern kann. Die Ampere-GPUs verbessern die vorherige NVIDIA Turing-Generation und sind softwarekompatibel, so dass die gleichen APIs verwendet werden.

Die größte Änderung bei der CPU im Jetson AGX Orin ist der Ersatz der NVIDIA Carmel CPU-Cluster durch den Arm Cortex-A78AE.

Die Jetson AGX Orin CPU verfügt über 12 CPU-Kerne, die eine 1,7-fache Leistung im Vergleich zur 8-Kern-NVIDIA-Carmel-CPU im Jetson AGX Xavier ermöglichen, wobei jeder Kern aus einem 64 KB großen Befehls-L1-Cache und 64 KB großen Daten-Cache sowie einem 256 KB großen L2-Cache besteht. Jeder Cluster verfügt über 2 MB L3-Cache, genau wie der Jetson AGX Xavier. Die maximal unterstützte Frequenz der CPU beträgt 2 GHz.

Im Vergleich dazu unterstützt der NVIDIA Jetson AGX Orin die 1,4-fache Speicherbandbreite und die 2-fache Speicherkapazität des NVIDIA Jetson AGX Xavier und ermöglicht 32 GB 256-Bit LPDDR5 und 64 GB eMMC. Der DRAM unterstützt eine maximale Taktrate von 3200 MHz, mit 6400 Gbps pro Pin, was eine Speicherbandbreite von 204,8 GB/s ermöglicht.

Der NVIDIA Jetson AGX Orin enthält einen Multi-Standard-Video-Encoder (NVENC), einen Multi-Standard-Video-Decoder (NVDEC) und einen JPEG-Verarbeitungsblock (NVJPEG). Der NVENC ermöglicht eine vollständige Hardware-Beschleunigung für verschiedene Kodierungsstandards wie H.265, H.264 und AV1.

Der NVDEC ermöglicht eine vollständige Hardwarebeschleunigung für verschiedene Dekodierungsstandards wie H.265, H.264, AV1 und VP9. Der NVJPG ist für die Berechnung der JPEG-(De-)Komprimierung (basierend auf dem JPEG-Standard für Standbilder), die Bildskalierung, die Dekodierung (YUV420, YUV422H/V, YUV444, YUV400) und die Farbraumkonvertierung (RGB nach YUV) zuständig.

NVIDIA Jetson AGX Orin unterstützt die Vision Accelerator Engine der nächsten Generation, PVA v2.

Die PVA ermöglicht die Unterstützung verschiedener Computer-Vision-Kerne wie Filterung, Warping, Bildpyramide, Merkmalserkennung und FFT, die für Computer-Vision-Anwendungen auf dem Detektor, Tracker, Objekt-Tracker, Stereo-Disparität und visuelle Wahrnehmung wesentlich sind.

Der NVIDIA Jetson AGX Orin ist bereit für den Einsatz in autonomen Maschinen, Robotern oder Drohnen der nächsten Generation, die im Einzelhandel, in der Fertigung, im Transportwesen, in der Landwirtschaft, in der Smart City, in der Luft- und Raumfahrt usw. eingesetzt werden.

Der NVIDIA Jetson AGX Xavier und der NVIDIA Jetson AGX Orin sind von der Größe her gleich. Beide liegen in der gleichen Preisklasse, aber der NVIDIA Jetson AGX Orin hat viel mehr Leistung. Selbst mit der Early Access Software zeigen die Benchmarks, dass der Orin ein vielversprechender Neuzugang in der Jetson-Familie ist und wir können mit Software-Updates noch bessere Ergebnisse erwarten.

Mit der Veröffentlichung des NVIDIA Jetson AGX Orin hat NVIDIA der Welt der eingebetteten KI unbestreitbar einen großen Schritt nach vorne gemacht.

Jetson Xavier Geräte sind bereits sehr leistungsfähig und voller Potenzial. Orin ebnet nun den Weg für das weitere Wachstum der eingebetteten KI und die Arbeit an größeren und komplexeren Projekten, von denen man früher nicht einmal zu träumen wagte.

Für diejenigen, die durch die Anzahl der Aufgaben begrenzt waren, hat NVIDIA die Messlatte jetzt höher gelegt. In der Tat sehen wir hier auf Assured Systems einen großen Sprung nach vorne in Bezug auf Edge-KI-Anwendungen und einen echten Game-Changer.