NVIDIA annonce Nemotron 3 Ultra pour le raisonnement des agents d’IA de longue durée

NVIDIA a présenté Nemotron 3 Ultra, un modèle conçu pour améliorer les performances de raisonnement dans les systèmes d’agents de longue durée. Le modèle utilise une architecture mixture-of-experts (MoE) avec 550 milliards de paramètres, dont 55 milliards sont actifs lors de l’inférence. Selon le blog officiel des développeurs de NVIDIA, le modèle est conçu pour des tâches de raisonnement de pointe et d’orchestration dans des agents de longue durée.

L’architecture mixture-of-experts n’active qu’un sous-ensemble des paramètres totaux pendant l’inférence, ce qui peut accroître la vitesse et réduire le coût de calcul. NVIDIA indique que Nemotron 3 Ultra atteint un débit cinq fois supérieur à celui d’autres modèles ouverts de sa catégorie. L’entreprise affirme également que le modèle peut réduire les coûts des tâches agentiques jusqu’à 30 %. Ces chiffres sont pertinents, car les agents de longue durée exécutent des étapes répétées de raisonnement et de prise de décision, ce qui rend le coût et la vitesse de chaque inférence importants pour l’efficacité opérationnelle globale.

Les agents de longue durée sont des systèmes qui vont au-delà des interactions uniques de type question-réponse. Ils décomposent des tâches complexes en plusieurs étapes et utilisent les résultats du raisonnement à chaque phase pour déterminer les actions suivantes. Dans des domaines tels que le support client, l’assistance à la recherche et l’automatisation du développement logiciel, les agents peuvent exécuter des dizaines à des centaines d’appels d’inférence. Dans de tels environnements, la vitesse et le coût des inférences individuelles influencent la réactivité et l’efficacité opérationnelle de l’ensemble du système. Nemotron 3 Ultra a été conçu en tenant compte de ces exigences.

NVIDIA a soutenu les charges de travail d’IA générative pour les entreprises au moyen de la série Nemotron. Les versions antérieures se concentraient principalement sur des tâches telles que la génération de texte, la synthèse et la classification. Nemotron 3 Ultra, en revanche, vise le domaine plus complexe de l’orchestration d’agents. L’orchestration consiste à coordonner plusieurs outils, API et sources de données, puis à relier la sortie de chaque étape à l’entrée de la suivante. Cela exige des capacités allant au-delà de la génération de texte, notamment la planification, le suivi d’état et la gestion des erreurs.

L’architecture mixture-of-experts a suscité un intérêt croissant dans le développement récent des grands modèles de langage. Bien que le nombre total de paramètres soit élevé, seul un sous-ensemble de modules experts est activé pendant l’inférence, ce qui réduit la charge de calcul. Cette approche peut préserver l’expressivité du modèle tout en abaissant les coûts d’inférence. Dans le cas de Nemotron 3 Ultra, seuls 55 milliards des 550 milliards de paramètres sont actifs, ce qui permet en théorie d’obtenir des performances supérieures avec un coût d’inférence comparable à celui d’un modèle de 55 milliards de paramètres.

Les chiffres de débit multiplié par cinq et de réduction des coûts de 30 % cités par NVIDIA reposent sur des comparaisons avec d’autres modèles ouverts de la même catégorie. Toutefois, les conditions précises des tests, les cibles de comparaison et les méthodes de mesure ne sont pas détaillées dans les informations disponibles. Les performances réelles en environnement de production peuvent varier selon le type de tâche, la configuration de l’infrastructure, la taille des lots et d’autres facteurs. Les développeurs et les entreprises devraient valider les performances sur leurs propres charges de travail.

L’économie des systèmes d’agents ne dépend pas uniquement des coûts d’inférence du modèle. Les coûts liés aux appels d’API externes effectués par l’agent, au stockage et au transfert des données, ainsi qu’aux opérations d’infrastructure doivent également être pris en compte. La fiabilité et la précision sont aussi des facteurs importants. Si un agent prend fréquemment des décisions incorrectes et nécessite des relances, les coûts globaux peuvent évoluer malgré une inférence plus rapide. Par conséquent, la valeur de Nemotron 3 Ultra doit être évaluée en considérant conjointement la qualité du raisonnement et la stabilité, ainsi que la vitesse et le coût.

NVIDIA a développé la série Nemotron en tenant compte de son intégration à son infrastructure GPU. Nemotron 3 Ultra peut être associé aux technologies d’optimisation d’inférence de NVIDIA. Par exemple, des outils tels que TensorRT-LLM et Triton Inference Server peuvent permettre des gains de performance supplémentaires. Cela peut offrir des avantages en tant que solution intégrée pour les entreprises utilisant du matériel NVIDIA, mais les performances sur d’autres plateformes matérielles nécessitent une validation distincte.

Le marché des agents de longue durée en est encore à ses débuts, mais il est en croissance. Des systèmes d’agents sont déployés dans des domaines tels que l’automatisation du support client, l’assistance à la recherche, les outils de développement logiciel et l’analyse de données. Ces systèmes n’exécutent pas des tâches uniques, mais atteignent des objectifs complexes par une prise de décision en plusieurs étapes. En conséquence, l’efficacité de l’inférence et la structure des coûts sont des facteurs clés de la viabilité commerciale des systèmes d’agents.

Le lancement de Nemotron 3 Ultra montre que NVIDIA cible le marché des systèmes d’agents. En proposant un modèle spécialisé pour l’orchestration d’agents plutôt qu’un modèle de langage à usage général, l’entreprise cherche à prendre en charge des charges de travail spécifiques. Cela s’inscrit dans une tendance plus large du secteur, où le développement des modèles évolue des capacités générales vers une optimisation propre à des tâches précises.

Cependant, les performances réelles du modèle et sa stabilité opérationnelle ne peuvent pas être pleinement évaluées sur la seule base des informations disponibles. Des résultats de benchmark, des cas d’usage concrets et des retours de la communauté seront nécessaires avant de pouvoir déterminer sa valeur pratique. Dans les comparaisons avec des modèles ouverts, il convient également de prendre en compte des facteurs tels que les conditions de licence, les contraintes de déploiement et les possibilités de personnalisation.