AMD présente la série de GPU MI350 et revendique jusqu’à 2,2 fois les performances en IA

AMD a officiellement annoncé la série de GPU Instinct MI350 pour les charges de travail d’IA en centre de données. Cette gamme de produits repose sur l’architecture AMD CDNA de quatrième génération et est conçue pour prendre en charge l’entraînement et l’inférence de modèles de langage à grande échelle grâce à la technologie de mémoire à large bande passante et à des performances de calcul améliorées.

Selon les spécifications du produit, la série MI350 est équipée de 288 Go de mémoire HBM3E et offre une bande passante mémoire de 8 To/s. La HBM3E se caractérise par des vitesses de transfert et une efficacité énergétique améliorées par rapport à la HBM3 de génération précédente, et l’augmentation de la capacité mémoire est présentée comme un élément de conception destiné à répondre à la croissance du nombre de paramètres des modèles d’IA. La bande passante de 8 To/s constitue une spécification clé pour le traitement des données de poids dans les grands modèles et peut contribuer à améliorer l’efficacité des déplacements de données dans les environnements d’IA générative.

AMD indique que la série MI350 offre jusqu’à 2,2 fois les performances en IA par rapport à des accélérateurs concurrents. Cette mesure de performance peut refléter des conditions de benchmark spécifiques, et les performances réelles des charges de travail peuvent varier selon des facteurs tels que l’architecture du modèle, la taille des lots et les paramètres de précision. AMD n’a pas divulgué les produits de comparaison précis ni la méthodologie de test.

L’architecture CDNA de quatrième génération est une architecture de calcul dédiée développée par AMD pour le marché de l’IA en centre de données. CDNA met l’accent sur les opérations matricielles et le traitement tensoriel plutôt que sur le rendu graphique, et AMD la présente comme offrant un débit de calcul et une efficacité énergétique améliorés par rapport aux générations antérieures. La série MI350 constitue la dernière implémentation de cette architecture.

Les exploitants de centres de données et les fournisseurs de services cloud évaluent un éventail d’options d’accélérateurs afin de maîtriser le coût total de possession des charges de travail d’IA. La série MI350 ajoute une option supplémentaire au marché, et la maturité de la pile logicielle ROCm ainsi que la compatibilité avec les frameworks sont des facteurs importants dans les décisions d’adoption. AMD a élargi la prise en charge de grands frameworks d’apprentissage profond tels que PyTorch et TensorFlow, tandis que la compatibilité avec l’écosystème CUDA et l’exhaustivité des outils de développement demeurent des points d’évaluation.

La date de lancement, le prix et la gamme précise de produits de la série MI350 n’ont pas encore été divulgués. Les GPU pour centres de données sont souvent mis en production de masse et approvisionnés dans les mois qui suivent leur annonce, les volumes initiaux étant parfois alloués à de grands fournisseurs cloud et à des partenaires OEM. Les capacités de la chaîne d’approvisionnement d’AMD et l’allocation des lignes de production chez TSMC peuvent influencer la vitesse d’entrée sur le marché.

En termes de capacité mémoire et de bande passante, la série MI350 est positionnée pour répondre aux exigences de fenêtres de contexte plus larges dans les grands modèles de langage et dans le traitement de modèles multimodaux. La configuration de 288 Go peut permettre d’exécuter des modèles plus volumineux sur un seul accélérateur ou de prendre en charge des lots plus importants lors de l’inférence. Les performances réelles dépendront de l’optimisation logicielle, de la stabilité des pilotes et de l’efficacité de la montée en charge multi-GPU ; des résultats de benchmark indépendants et une validation en conditions réelles restent donc importants.

L’annonce d’AMD reflète la concurrence persistante sur le marché des accélérateurs d’IA. De grands fournisseurs cloud poursuivent des stratégies incluant des puces conçues sur mesure et l’approvisionnement en matériel auprès de plusieurs fournisseurs afin d’ajuster leurs structures de coûts.

La configuration mémoire HBM3E de 288 Go positionne la série MI350 comme une option pour les charges de travail nécessitant de grandes fenêtres de contexte et une inférence à haut débit. La mesure de performance de 2,2 fois devra être évaluée au regard de la méthodologie de benchmark et des caractéristiques des charges de travail. Pour les déploiements à grande échelle, les décisions d’adoption prennent généralement aussi en compte la maturité de l’écosystème logiciel, les outils d’exploitation et le soutien à l’approvisionnement à long terme.

L’architecture CDNA de quatrième génération reflète l’investissement continu d’AMD dans la conception de silicium spécifique à l’IA. CDNA privilégie le débit des multiplications matricielles et l’efficacité du sous-système mémoire, en cohérence avec les schémas de calcul des modèles fondés sur les transformeurs et d’autres architectures de réseaux neuronaux. L’architecture utilisée dans MI350 vise des charges de travail pour lesquelles la bande passante et la capacité mémoire sont importantes.

Le marché des accélérateurs d’IA continue de se diversifier à mesure que les hyperscalers et les acheteurs d’entreprise élargissent leurs portefeuilles matériels. Dans cet environnement, la capacité d’AMD à accroître sa présence dépend de performances compétitives, d’un approvisionnement stable, du support logiciel et de l’intégration avec l’infrastructure existante.

Les spécifications techniques de la série MI350 reflètent les exigences actuelles des charges de travail d’IA. À mesure que les grands modèles de langage prennent en charge des fenêtres de contexte plus longues et intègrent des capacités multimodales, la demande en capacité mémoire et en bande passante continue d’augmenter. La configuration de 288 Go peut être utilisée pour héberger des modèles plus volumineux sur un seul accélérateur ou pour traiter des lots plus importants lors de l’inférence.