Alvin Lange
17 janvier 2025 09:08
La mise à jour JetPack 6.2 de NVIDIA introduit le mode Ultra, qui améliore considérablement les performances de l’IA sur les modules Jetson Orin Nano et NX, améliorant ainsi leurs capacités pour les applications d’IA de pointe.
Dans un grand pas en avant en termes de capacités d’IA sur les périphériques, NVIDIA a publié JetPack 6.2, qui introduit la fonctionnalité Super Mode pour les modules Jetson Orin Nano et Jetson Orin NX. Cette mise à jour promet une multiplication par deux des performances de l’IA, établissant ainsi une nouvelle norme en matière d’IA générative sur les appareils de petit format, selon NVIDIA.
Mode Ultra : une nouvelle ère pour Edge AI
Le mode Ultra de JetPack 6.2 optimise les modules Jetson Orin en débloquant des fréquences de fonctionnement plus élevées pour le CPU, le GPU et d’autres unités de traitement, facilitant ainsi des performances de modèle d’IA sans précédent. Ce mode introduit de nouvelles options d’alimentation, notamment un mode 25 W et un mode MAXN SUPER non spécifié pour le Jetson Orin Nano, tandis que la série Orin NX bénéficie d’un nouveau mode d’alimentation 40 W.
Améliorer les performances du modèle d’intelligence artificielle
La mise à jour est particulièrement utile pour les grands modèles de langage (LLM), les modèles de langage de vision (VLM) et les transformateurs de vision (ViT), où les tests de performances indiquent des gains significatifs. Par exemple, le module Jetson Orin Nano 8 Go affiche une augmentation des performances de 14 à 19,1 codes par seconde par rapport au modèle Llama 3.1 8B. De même, les VLM comme le VILA 1.5 3B sur le module Orin NX 16 Go voient une augmentation de 1 à 1,3 jetons par seconde.
Améliorer la gestion de l’énergie
JetPack 6.2 comprend un outil d’estimation de puissance, permettant aux développeurs de concevoir des profils de puissance personnalisés pour équilibrer les performances et la consommation d’énergie. Cet outil permet d’optimiser la consommation électrique des modules Jetson Orin pour répondre aux besoins d’applications spécifiques, garantissant la stabilité thermique et une utilisation efficace de l’énergie.
Adoption par l’industrie et perspectives d’avenir
L’extension du cycle de vie des produits Jetson Orin jusqu’en 2032 reflète l’engagement de NVIDIA à soutenir des projets à long terme et à maintenir son leadership en matière de matériel d’IA. L’introduction du mode Ultra s’inscrit dans la tendance du secteur vers des solutions d’IA plus puissantes et plus économes en énergie pour la robotique et d’autres applications périphériques.
Avec le prochain JetPack 5.1.5 destiné à étendre les capacités du mode Ultra, NVIDIA continue de permettre aux développeurs d’exploiter efficacement les technologies d’IA de pointe. Cette mise à jour devrait avoir un impact significatif sur le déploiement de modèles d’IA dans des scénarios réels, en fournissant aux développeurs des outils puissants pour innover et améliorer leurs applications.
Source de l’image : Shutterstock
(Tags à traduire) AI
اضغط في أي مكان لاستكمال الفيديو
