Dans cet article:
- Qu'est-ce que l'Edge AI ? et comment fonctionne-t-elle ?
- Quels sont les avantages de l'Edge AI ?
- NVIDIA Jetson accélère l'IA de pointe et la robotique de la prochaine génération
Qu'est-ce que l'Edge AI ? et comment fonctionne-t-elle ?
De quoi s'agit-il ?
L'IA périphérique est un type d'intelligence artificielle (IA) qui traite les données à proximité de la source, plutôt que de s'appuyer sur l'informatique en nuage ou sur un serveur. Elle peut être utilisée pour des tâches telles que la reconnaissance d'images, la détection d'objets et la reconnaissance faciale, le tout sans avoir besoin d'une connexion internet. L'IA périphérique est donc idéale pour les applications nécessitant des réponses en temps réel avec un temps de latence minimal.
L'IA périphérique offre également des avantages accrus en matière de protection de la vie privée puisqu'aucune donnée ne doit quitter l'appareil pour être stockée dans le nuage. En outre, en raison de sa nature distribuée et de ses faibles besoins en énergie, l'IA périphérique fournit souvent des solutions plus efficaces que les approches traditionnelles basées sur l'informatique en nuage. C'est pourquoi elle est devenue de plus en plus populaire dans de nombreux secteurs, notamment les soins de santé et la vente au détail.
Comment fonctionne la technologie Edge AI ?
Pour que les machines puissent voir, détecter des objets, conduire des voitures, comprendre la parole, parler, marcher ou imiter les compétences humaines, elles doivent reproduire fonctionnellement l'intelligence humaine.
L'IA utilise une structure de données appelée réseau neuronal profond pour reproduire la cognition humaine. Ces réseaux neuronaux profonds sont entraînés à répondre à des types de questions spécifiques en se voyant présenter de nombreux exemples de ce type de questions ainsi que les réponses correctes.
Ce processus de formation, connu sous le nom d'"apprentissage profond", se déroule souvent dans un centre de données ou dans le nuage en raison de la grande quantité de données nécessaires pour former un modèle précis, et de la nécessité pour les scientifiques des données de collaborer à la configuration du modèle. Après l'entraînement, le modèle devient un "moteur d'inférence" capable de répondre aux questions du monde réel.
Dans les déploiements de l'IA périphérique, le moteur d'inférence fonctionne sur une sorte d'ordinateur ou d'appareil dans des endroits éloignés tels que des usines, des hôpitaux, des voitures, des satellites et des maisons. Lorsque l'IA bute sur un problème, les données problématiques sont généralement téléchargées dans le nuage pour un nouvel entraînement du modèle d'IA original qui, à un moment donné, remplace le moteur d'inférence à la périphérie. Cette boucle de rétroaction joue un rôle important dans l'amélioration des performances du modèle ; une fois que les modèles d'IA périphériques sont déployés, ils deviennent de plus en plus intelligents
Quels sont les avantages de l'Edge AI ?
La technologie Edge AI devient de plus en plus populaire car elle offre un certain nombre d'avantages par rapport aux modèles traditionnels d'apprentissage automatique basés sur le cloud.
- 1. Amélioration de l'efficacité du traitement des données : L'Edge AI peut réduire considérablement la latence, ce qui permet d'accélérer les temps de réponse aux requêtes.
- 2. Capacités hors ligne : L'Edge AI élimine le besoin d'une connexion internet permanente et permet aux appareils de fonctionner avec ou sans connexion internet.
- 3. Amélioration de l'expérience utilisateur : En analysant les données localement, les systèmes d'intelligence artificielle permettent de mieux personnaliser le contenu et les services en fonction des besoins et du contexte de chaque utilisateur.
- 4. Amélioration de la précision des analyses grâce au traitement des données en temps réel : Grâce aux capacités de calcul plus puissantes disponibles à la périphérie, il est possible de traiter rapidement des ensembles de données complexes et d'en tirer des conclusions en temps réel, contrairement aux modèles en nuage qui nécessitent souvent d'importants ensembles de données agrégées sur des périodes données avant de pouvoir en tirer des conclusions significatives.
- 5. Réduction des coûts de bande passante associés au transfert de grandes quantités de données brutes sur les réseaux à des fins d'informatique en nuage ou de stockage, car seules les informations pertinentes doivent être transférées au lieu de toutes les données brutes collectées par les capteurs ou d'autres sources telles que les caméras, etc.
- 6. Avantages en termes de sécurité : les données sensibles peuvent rester à l'intérieur de l'appareil lui-même plutôt que de circuler sur des réseaux où des attaquants malveillants pourraient tenter de s'introduire
NVIDIA Jetson accélère l'IA de pointe et la robotique de la prochaine génération
L'IA est à l'origine d'avantages concurrentiels, qu'il s'agisse d'automatiser les processus commerciaux, d'obtenir des informations grâce à l'analyse des données ou d'engager le dialogue avec les clients et les employés.
NVIDIA Jetson est la première plate-forme mondiale pour les machines autonomes et autres applications embarquées. Elle comprend des modules Jetson de petite taille, des ordinateurs hautes performances, le SDK NVIDIA JetPack pour accélérer les logiciels et un écosystème avec des capteurs, des SDK, des services et des produits pour accélérer le développement. Jetson est compatible avec les mêmes logiciels d'IA et workflows cloud-native utilisés sur les autres plates-formes NVIDIA, offrant ainsi les performances économes en énergie dont les clients ont besoin pour créer des machines autonomes définies par logiciel.
Solutions matérielles embarquées évolutives et flexibles
Chaque NVIDIA Jetson est un système sur module (SOM) complet comprenant le GPU, le CPU, la mémoire, la gestion de l'énergie, les interfaces à haut débit, etc. Disponibles dans une large gamme de performances, d'efficacité énergétique et de facteurs de forme, ils sont utilisés par des clients dans tous les secteurs. Les partenaires de l'écosystème Jetson fournissent des logiciels, des services de conception matérielle et des produits compatibles prêts à l'emploi, depuis les cartes porteuses jusqu'aux systèmes complets, afin que vous puissiez commercialiser plus rapidement des dispositifs d'IA embarqués et périphériques.
Série Jetson AGX Orin
Donnez vie à vos produits de nouvelle génération avec l'ordinateur d'IA le plus puissant au monde pour des machines autonomes économes en énergie. Des performances jusqu'à 8 fois supérieures à celles de la dernière génération, 275 billions d'opérations par seconde pour plusieurs pipelines d'inférence d'IA simultanés, et la prise en charge d'interfaces à grande vitesse pour plusieurs capteurs en font la solution idéale pour des applications allant de la fabrication et de la logistique à la vente au détail et aux soins de santé.
Série Jetson Orin NX
Découvrez l'ordinateur d'IA le plus puissant du monde pour des machines autonomes et économes en énergie dans le plus petit format Jetson. Il offre jusqu'à 5 fois plus de performances et deux fois plus de cœurs NVIDIA CUDA que le NVIDIA Jetson Xavier NX, ainsi qu'une prise en charge de l'interface haute vitesse pour plusieurs capteurs. Avec 100 TOPS pour plusieurs pipelines d'inférence IA simultanés, la Jetson Orin NX vous offre de grandes performances dans un boîtier incroyablement compact.
Série Jetson Orin Nano
Les modules de la série NVIDIA Jetson Orin Nano apportent jusqu'à 40 TOPS de performances IA dans le plus petit facteur de forme Jetson, avec des options de puissance entre 5W et 15W. Ces modules multiplient par 80 les performances de la NVIDIA Jetson Nano et établissent un nouveau standard pour l'intelligence artificielle d'entrée de gamme.
Jetson AGX Série Xavier
Jetson AGX Xavier est le premier ordinateur conçu spécifiquement pour les machines autonomes. Ce module compact et économe en énergie comprend l'accélération matérielle pour l'ensemble du pipeline d'IA et de nombreuses E/S à grande vitesse, afin que les clients puissent apporter leurs dernières applications d'IA à la périphérie. Pour les clients qui souhaitent créer des produits de qualité industrielle et/ou certifiés en matière de sécurité, la Jetson AGX Xavier Industrial offre une plage de température étendue, des spécifications en matière de chocs et de vibrations, ainsi que de nouvelles capacités de sécurité fonctionnelle.
Série Jetson Xavier NX
La Jetson Xavier NX apporte jusqu'à 21 TOP de calcul d'IA accéléré à la périphérie dans un module de petite taille. Il peut exécuter plusieurs réseaux neuronaux modernes en parallèle et traiter des données provenant de plusieurs capteurs haute résolution - une exigence pour les systèmes d'IA complets. La Jetson Xavier NX est prête pour la production et prend en charge tous les frameworks d'IA courants.
Série Jetson TX2
La famille étendue de modules intégrés Jetson TX2 vous offre jusqu'à 2,5 fois les performances de la Jetson Nano avec seulement 7,5 W. La Jetson TX2 NX offre une compatibilité de brochage et de facteur de forme avec la Jetson Nano, tandis que les Jetson TX2, TX2 4GB et TX2i partagent tous le facteur de forme original de la Jetson TX2. La Jetson TX2i robuste est idéale pour les robots industriels et les équipements médicaux.
Jetson Nano
Le module Jetson Nano est un petit ordinateur d'IA qui possède les performances et l'efficacité énergétique nécessaires pour exécuter des charges de travail d'IA modernes, plusieurs réseaux neuronaux en parallèle et traiter simultanément des données provenant de plusieurs capteurs à haute résolution. Il s'agit donc d'une option d'entrée de gamme parfaite pour ajouter de l'IA avancée aux produits embarqués.