Code, test et déploiement sur une seule machine avec NVIDIA RTX Spark

Code, tests et déploiement sur une seule machine avec NVIDIA RTX Spark

Le paysage du développement logiciel est en pleine évolution. Les développeurs s’éloignent de l’écriture manuelle de chaque ligne de code pour diriger des agents qui génèrent la majeure partie de l’implémentation. Historiquement, ce flux de travail nécessitait une configuration fragmentée : un ordinateur portable pour coder, une API de modèle cloud pour l’intelligence artificielle, et une VM cloud pour le déploiement. NVIDIA RTX Spark vise à regrouper tout ce processus sur une seule machine, en apportant des agents de codage, la personnalisation des modèles et un développement accéléré par CUDA directement sur l’ordinateur personnel quotidien.

Une seule machine pour coder, tester et déployer

NVIDIA RTX Spark combine le système sur puce NVIDIA GB10 avec jusqu’à 128GB de mémoire unifiée. Cette architecture permet aux développeurs d’exécuter des agents de codage locaux, d’accéder à des frameworks d’IA et de déployer des applications sur un seul ordinateur, sans avoir besoin d’une infrastructure cloud externe pour le cycle de développement principal.

La plateforme est conçue pour gérer l’ensemble des charges de travail liées au développement de l’IA. Avec jusqu’à 128GB de mémoire unifiée et 1 petaflop de puissance de calcul FP4 pour l’IA, les développeurs peuvent exécuter des modèles de codage localement, y compris Qwen 3.8 Flash Next, réduisant ainsi considérablement la consommation de tokens des agents de codage en cloud. Le matériel inclut le CPU NVIDIA Grace et la GPU Blackwell, fournissant la puissance de calcul nécessaire pour l’inférence, le retouche fine et la compilation.

Selon NVIDIA, RTX Spark offre des gains de performance significatifs par rapport à Intel Panther Lake 12Xe.. La plateforme propose une performance des agents de codage 4.6x fois plus rapide, un retouche fine 2.7x fois plus rapide, et une compilation du code 1.8x fois plus rapide. Ce changement fait passer le développement d’une charge de travail dépendante du CPU, où la performance était principalement déterminée par ce dernier, à une charge de travail dépendante de la GPU, où l’inférence et les tests sont accélérés par du matériel dédié.

Une pile logicielle familière, étendue pour Windows

Pour prendre en charge ce matériel, NVIDIA a collaboré avec Microsoft afin d’étendre la pile logicielle Windows on Arm. Cette collaboration introduit plusieurs outils clés pour la communauté des développeurs :

• Compilation PyTorch-CUDA : Sortie de la première compilation PyTorch-CUDA pour cette architecture.
• Python 3.15 : Une version native de Python par défaut.
• Paquets Conda : Plus de 2,000 paquets Conda prêts à l’emploi.
• Compatibilité des paquets : Versions compatibles avec Arm pour plus de 97% des principaux paquets Python 15,000.

Les développeurs peuvent choisir de travailler sous Windows, y compris avec la nouvelle configuration Windows Developer Config développée en collaboration avec Microsoft. Cette configuration installe les principaux frameworks de développement, masque les notifications, améliore le terminal et permet de déplacer la barre des tâches sur le côté. Alternativement, ils peuvent travailler dans le Windows Subsystem for Linux (WSL), accédant au même environnement et aux mêmes dépendances qu’ils utiliseront lors du déploiement dans le cloud. Cette approche permet aux développeurs de réaliser tout leur travail sur leur système d’exploitation cible sans migration de code.

Étant donné que RTX Spark dispose d’une GPU NVIDIA, les développeurs peuvent tester et déployer sur la plus grande base locale d’IA composée de 150 millions d’ordinateurs RTX, ainsi que sur pratiquement tous les clouds utilisant des GPU NVIDIA.

Les agents de codage locaux arrivent sur RTX Spark

Les appareils RTX Spark sont idéaux pour les agents de codage locaux. NVIDIA a collaboré étroitement avec les principaux agents, dont GitHub Copilot, Pi, Hermes et OpenClaw, afin d’améliorer leurs fonctionnalités et de les rendre plus faciles à utiliser.

Sécurité et routeurs hybrides

Une sécurité renforcée est assurée grâce à NVIDIA OpenShell et/ou Microsoft Execution Containers, qui offrent un environnement isolé au niveau du système d’exploitation. De plus, des routeurs d’instructions hybrides permettent d’envoyer les instructions vers des modèles locaux s’ils sont suffisants, ou de les transmettre à des modèles cloud en cas de besoin. Cela réduit la consommation de tokens tout en préservant les capacités.

Microsoft GitHub Copilot permet désormais un fonctionnement local sans faille grâce à Windows ML, avec llama.cpp en tant que backend. Le routeur d’instructions HydraFusion a été mis à jour pour prendre en charge les modèles locaux. Le nouveau modèle MAI 1.1 Coding Flash peut également fonctionner localement sur RTX Spark.

Pi, un agent de codage open source doté d’une interface terminale légère et prenant en charge les modèles locaux et cloud, est optimisé pour RTX Spark. Ses extensions, compétences et modèles de prompts permettent aux développeurs de contrôler la manière dont l’agent s’intègre dans leur flux de travail, de la sélection du modèle aux outils qu’il peut utiliser.

JetBrains Junie Local

JetBrains a mis en place un support natif pour Junie Local sur RTX Spark. Cet agent de codage lit du code, modifie des fichiers et exécute des tests, en gardant le modèle et le code sur la machine. Junie Local ajuste sa fenêtre de contexte en fonction de la mémoire disponible sur la GPU, ce qui permet à la mémoire unifiée de RTX Spark de conserver davantage de code, de résultats d’outils et d’historique de conversation dans le contexte.

De nouveaux modèles Nemotron offrent plus d’options pour les agents locaux

Nemotron 3.5 Bolt 74B-A9B 24GB est un nouveau modèle de langage de grande taille (LLM) conçu spécifiquement pour faire fonctionner des agents locaux sur RTX Spark. Il s’agit d’un modèle de type mixture-of-experts (MoE) avec 74B paramètres, dont 9B paramètres sont actifs. Le modèle est compressé dans 24GB grâce à une quantification de 2 bits, associée à des techniques avancées d’entraînement conscient de la quantification afin de préserver la qualité.

NVIDIA affirme que ce modèle vise à atteindre l’équilibre optimal entre vitesse et intelligence, étant plus rapide que la plupart des modèles denses populaires tout en étant plus intelligent que la plupart des modèles MoE populaires ayant une empreinte mémoire similaire. Les utilisateurs pourront exécuter Nemotron 3.5 Bolt 74B dès son lancement via llama.cpp, vLLM, Ollama, Unsloth et LM Studio. Il sera également directement accessible via des agents tels que Hermes et OpenClaw.

Comme les autres modèles Nemotron, Bolt 74B est entièrement open source, y compris les données d’entraînement, les poids et les recettes, permettant ainsi aux développeurs de personnaliser leurs propres agents.

Les modèles de décision sont désormais pris en charge dans les principaux frameworks

Les modèles de décision représentent une avancée majeure dans le développement de l’IA, offrant aux agents un moyen quasi instantané de prendre des décisions sans boucles de raisonnement longues. Ils peuvent choisir ce qu’ils vont faire ensuite, allant de la classification des requêtes à la sélection de l’action suivante, jusqu’à 200x fois plus rapidement que les boucles de raisonnement traditionnelles.

Ces modèles de décision sont désormais pris en charge par llama.cpp et Unsloth sur les GPU RTX Spark et GeForce RTX. Cette fonctionnalité permet aux agents d’effectuer des tâches de prise de décision rapide de manière efficace sur du matériel local.

AI for Media SDKs

Les NVIDIA AI for Media SDKs sont désormais disponibles pour RTX Spark. Ces SDK intègrent un support pour la super-résolution vidéo, la génération d’images et TrueHDR. Le paquet Python est disponible sur PyPI, tandis que les SDK en C++ sont également disponibles sur NGC pour RTX Spark et Windows on Arm.

Transposer vos applications Windows vers RTX Spark

Pour transposer une application existante vers RTX Spark, les développeurs doivent d’abord évaluer les dépendances liées à Windows on Arm. Les options incluent le choix d’une version native Arm64 ou l’utilisation de Arm64EC pour migrer progressivement les composants. Il est conseillé aux développeurs de tester l’installation, la fonctionnalité, les performances, ainsi que les chemins NVIDIA et CUDA utilisés par leur application.

NVIDIA met à disposition des ressources pour le portage d’applications qui expliquent les options et outils de migration, y compris comment commencer à se préparer sur un système de développement Windows on Arm existant.

Trouver votre RTX Spark et commencer à développer

RTX Spark est actuellement disponible dans les ordinateurs portables et arrivera en novembre sur les ordinateurs de bureau de petit format, idéaux pour des agents 24×7 en fonctionnement permanent.

Pour commencer, les développeurs peuvent suivre le guide de développement AI afin de configurer Windows, d’installer leur agent et de connecter NVIDIA Skills. NVIDIA propose également un répertoire de NVIDIA Skills qui enseignent aux agents comment utiliser les bibliothèques CUDA-X, permettant ainsi aux développeurs de créer des applications accélérées par GPU sans avoir besoin d’une grande maîtrise de CUDA.

Étant donné que les GPU NVIDIA sont la plateforme la plus utilisée pour le développement d’IA, de nouveaux outils et frameworks fonctionnent généralement sur NVIDIA dès le premier jour, tandis que le support pour d’autres matériels n’intervient souvent que des semaines plus tard. On a également accès aux bibliothèques NVIDIA CUDA-X, y compris des outils tels que FlashInfer pour l’accélération des LLM et les bibliothèques NVIDIA NeMo pour le développement de modèles d’IA.

Découvrez les systèmes RTX Spark pour trouver les options d’achat disponibles et commencer à tirer parti du pouvoir du développement d’IA local.

Source : https://developer.nvidia.com/blog/code-test-and-deploy-on-one-machine-with-nvidia-rtx-spark