
在 AI 架構的競爭中,除了硬體效能與相容性的搭配外,軟體架構的支援程度更是取決是否採用的決戰要點,在 NVIDIA 建構了強大的生態護城河後,AMD 在軟硬體架構上便以開放性的設計來做為攻略市場的特色,而看過了這次 AMD 在 AMD Advancing AI 2025 活動中新推出的 MI350 系列 GPU 硬體後,接下來就來看另一個重點: ROCm 軟體平台部分。

在這次的 AMD Advancing AI 2025 活動中,主要由負責人工智慧的資深副總裁 Vamsi Boppana 對 ROCm 7 進行介紹。
ROCm 軟體平台是 AMD 專為 AI 創新和開發者生產力設計的開放軟體平台,而在這次 AMD Advancing 2025 活動中,則是推出了新一代 ROCm 7,以下也透過 AMD 官方提供的簡報,來看一下這次 ROCm 7 的主要特色:

AMD 表示從 ROCm 平台推出以來,就持續跟 AI 開發生態系持續進行深度的合作,包括 Pytorch、 Triton、 Hugging Face 等開發資源以及各種不同的模型、推論套件、框架等,透過開放的架構提供完整的支援。

透過開放的架構持續在 AI 軟體創新部分提供更快速的開發腳步。

而在最新的 ROCm 7 部分,則是支援了最新的演算法/模型、可擴展 AI 、MI350 GPU、叢集管理以及企業可用性等特色。

在推論功能部份,ROCm 7 提供了更多的增強框架,服務優化、核心/演算法、通訊、進階資料類型支援。

而在同樣的 MI300X GPU 下,ROCm 7 比起 ROCm 6 在不同模型的推論效能中,平均有 3.5X 的提升幅度。

至於在訓練能力部分,ROCm 7 也支援了更多的開源模型、增強框架、先進資料格式、平行 化處理、核心/演算法等。


另外透過開放生態系提供更多推論架構與功能上的支援。

另外也搭配 Prefill 與 Decode 階段的分離,降低了 Token 生成的平均成本(換句話說就可以生成更多的 Token)。

至於在企業級 AI 的部分,ROCm 則是針對企業 AI 提供端到端解決方案,支援安全資料整合、易於部署等特色,提供企業更簡易的 AI 佈署能力。

這張簡報則是呈現了 ROCm 架構下,由基礎建設到企業應用平台各階段 ROCm 的支援。

另外對於開發者, AMD 也提供了包括教育課程、資訊 Blog 以及影片等開發資源。

對開發者社群也透過舉辦如駭客松、動手做工作坊、開發者競賽等活動提供更積極的開發社群參加誘因。

而在這次的活動中,AMD 也推出了 AMD Developer Cloud 和開發者積分,透過更開放的平台參與提供開發者更容易在 ROCm 平台中進行 AI 推論與模型開發的工作。

在發表會現場也簡單的介紹了 AMD Developer Cloud 的使用介面,基本上就是點選所要的選項就可以完成環境設定進行操作。

另外這次 ROCm 架構也向下延伸到 Client 裝置中,讓個人 AI 開發者也可以透過 ROCm 架構進行包括 AI 輔助程式設計、進階理解、模型調整等工作。

在作業系統的支援上,ROCm 支援多個 Linux 發行版 (Fedora, OpenSUSE, Red Hat EPEL, Ubuntu) 和 Windows WSL,並提供 HIP SDK、PyTorch 和 ONNX-EP 的預覽支援

在硬體裝置部分也支援了從 Ryzen AI 300 處理器、Ryzen AI Max 處理器以及 Threadripper 處理器/Radeon AI 加速卡等配置,提供個人開發者不同參數規模需求的硬體開發能量。