AMD 已正式宣布推出面向資料中心 AI 工作負載的 Instinct MI350 系列 GPU。該產品線建立於第四代 AMD CDNA 架構之上,並透過高頻寬記憶體技術與提升後的運算效能,支援大規模語言模型的訓練與推論。
根據產品規格,MI350 系列配備 288GB 的 HBM3E 記憶體,並提供 8TB/s 的記憶體頻寬。與前一代 HBM3 相比,HBM3E 具備更高的傳輸速度與更佳的功耗效率;記憶體容量的提升則被視為一項設計元素,旨在因應 AI 模型參數規模持續擴大的需求。8TB/s 頻寬是處理大型模型權重資料的重要規格,並可能有助於提升生成式 AI 環境中的資料移動效率。
AMD 表示,MI350 系列相較於競爭加速器可提供最高 2.2 倍的 AI 效能。此數值可能反映特定基準測試條件,實際工作負載表現則會因模型架構、批次大小與精度設定等因素而有所差異。AMD 尚未披露具體的比較產品或測試方法。
第四代 CDNA 架構是 AMD 為資料中心 AI 市場開發的專用運算架構。CDNA 著重於矩陣運算與張量處理,而非圖形渲染,AMD 並將其描述為相較前代具備更高的運算吞吐量與更佳的功耗效率。MI350 系列是此架構的最新實作。
資料中心營運商與雲端服務供應商正評估多種加速器選項,以管理 AI 工作負載的總持有成本。MI350 系列為市場新增一項選擇,而 ROCm 軟體堆疊的成熟度與框架相容性,則是採用決策中的重要因素。AMD 已擴大對 PyTorch、TensorFlow 等主要深度學習框架的支援,而與 CUDA 生態系的相容性以及開發者工具的完整性,仍屬持續評估的範疇。
MI350 系列的上市時間、定價與具體產品組合尚未公布。資料中心 GPU 通常會在發表後進入供應階段,而初期出貨量可能分配給主要雲端供應商與 OEM 合作夥伴。
就記憶體容量與頻寬而言,MI350 系列的定位在於因應大型語言模型更長上下文視窗與多模態模型處理的需求。288GB 配置可能使更大型模型得以在單一加速器上執行,或在推論期間支援更大的批次。實際效能仍取決於軟體最佳化、驅動程式穩定性與多 GPU 擴展效率,因此獨立基準測試結果與真實場景驗證仍然重要。
AMD 的此次宣布反映出 AI 加速器市場持續競爭的態勢。主要雲端供應商正推動包括客製化晶片與多供應商硬體採購在內的策略,以調整成本結構。
288GB HBM3E 記憶體配置使 MI350 系列成為適用於需要大型上下文視窗與高吞吐推論工作負載的選項。2.2 倍的效能數值仍需結合基準測試方法與工作負載特性加以評估。對於大規模部署而言,採用決策通常也會考量軟體生態成熟度、營運工具與長期供應支援。
第四代 CDNA 架構反映 AMD 持續投入 AI 專用晶片設計。CDNA 優先提升矩陣乘法吞吐量與記憶體子系統效率,與基於 Transformer 的模型及其他神經網路架構的運算模式相契合。MI350 所採用的架構,目標在於記憶體頻寬與容量同樣重要的工作負載。
隨著超大規模雲端業者與企業買方擴大硬體組合,AI 加速器市場持續呈現多元化趨勢。在此環境下,AMD 能否擴大其市場存在,取決於效能、供應、軟體支援以及與既有基礎設施的整合能力。
MI350 系列的技術規格反映當前 AI 工作負載的需求。隨著大型語言模型支援更長的上下文視窗並納入多模態能力,對記憶體容量與頻寬的需求持續上升。288GB 配置可用於在單一加速器上承載更大型模型,或在推論期間處理更大的批次。
深入了解
圖表、Market Lens 與本文的完整背景。
Market lens
On-device AI shifts attention from data-center chips to memory allocation and device margins
The useful read is whether local AI features create measurable pressure on memory mix, pricing, and product release schedules.
Impact path
Device AI → memory pressure
Signals to watch
- LPDDR and HBM allocation commentary
- AI PC and phone memory configurations
- Supplier lead times, spot pricing, and margin guidance
Verification schedule
D+1 · Jun 16
Do OEM launches raise baseline memory specs?
D+3 · Jun 18
Do suppliers change allocation or pricing language?
D+7 · Jun 22
Do device margins absorb or pass through memory cost?
Informational context only — not investment, legal, tax, or financial advice.
Market lens
On-device AI shifts attention from data-center chips to memory allocation and device margins
The useful read is whether local AI features create measurable pressure on memory mix, pricing, and product release schedules.
Impact path
Device AI → memory pressure
Signals to watch
- LPDDR and HBM allocation commentary
- AI PC and phone memory configurations
- Supplier lead times, spot pricing, and margin guidance
Verification schedule
D+1 · Jun 16
Do OEM launches raise baseline memory specs?
D+3 · Jun 18
Do suppliers change allocation or pricing language?
D+7 · Jun 22
Do device margins absorb or pass through memory cost?
Informational context only — not investment, legal, tax, or financial advice.
◆
視覺簡報
A simple workflow map showing how memory, bandwidth, and software support shape MI350 deployment decisions.