
AMD 在今天上午宣布在 CES 亮相的 AMD Ryzen AI Halo 開發者平台將在 6 月份開放預購。
在 CES 亮相後,AMD 終於宣布自家推出的 Ryzen AI Halo 開發者平台將在下個月(6 月份)開放預購,透過 x86 架構,不僅提供了 Windows 與 Linux 雙作業系統支援,並且提供完整的軟體套件與開發/本地端應用平台,讓開發者達到開箱即可用,不用先花時間搞清楚設定後,就能透過 Ryzen AI Halo 開發者平台進行本地端的 AI 應用開發與推論使用。

AMD 是在今年年初的 CES 中發表了 Ryzen AI Halo 開發者平台,基本上就是 AMD 版本的小型桌上型 AI 系統,使用自家的 Ryzen AI Max 系列處理器,並且搭載最高至 128/192 GB 的統一記憶體配置。

陳拔在 CES 會場上拍攝到的 Ryzen AI Halo 開發者平台本體,基本上就跟 NVIDIA 的 DGX Spark 差不多,但是採用 x86 架構在應用更有彈性。

背面的連接埠一樣是採用四組 USB-C 介面、HDMI 影像輸出、10 GbE 高速有線網路的配置,但就沒有 DGX Spark 的高速互連介面,這是否代表 Ryzen AI Halo 開發者平台在運用上少了高速串聯使用的可能,就看 AMD 有沒有這部分的解法了。

回頭來看一下這次 AMD 官方所推出的簡報,AMD 表示 Ryzen AI Halo 開發者平台賦予了開發者/使用者完整的控制權,自有的硬體/自有的軟體架構/自有的 AI 模型,全部都在本地端運作,享有更高的隱私與資料保護。

AMD 表示目前導入 AI 的工作流大致有幾個面向,包括開發者、內容創作以及使用 AI 代理(Agent)等等,首先來看目前使用 AI 最大量的開發部分,Ryzen AI Halo 開發者平台可以提供開發者在本地端進行 App 開發、運作/微調大語言模型、最佳化推論以及測試開放 AI 軟體堆疊等工作。

不過來到目前的 AI 開發工作流來看,可以看到在整個工作流中,初始就會卡在安裝跟進行設定這兩部分,這也是目前 AI 開發者所面臨到的問題:在實際進入工作前要先搞定開發環境,而在進入實際工作後,又要考量到使用 Token 的限制,另外在面對快速迭代的 AI 模型,在整體運作的穩定性以及後續支援上也是相當大的考驗。

而 Ryzen AI Halo 開發者平台就是為解決這個痛點而來,首先透過開箱即用的設定與軟體工具,節省了開發者在開發環境安裝與設定上的時間,另外 AMD 也提供了完整的說明文件以及快速使用套件,讓不同經驗值的 AI 開發者都能夠獲得充分的支援以及使用,而 Ryzen AI Halo 開發者平台的硬體架構更是提供了能在本地端運作大型模型的能力,讓使用者可以不用受到使用雲端服務 Token 數量的限制進行開發與測試作業。

首先在開箱即用的易用性部分,AMD 在 Ryzen AI Halo 開發者平台上提供了 Ryzen AI Developer Center 一站式入口,透過預載的 App 與模型(直接內建 ROCm),,讓使用者能夠快速進入工作狀態,AMD 也提供了大量的 Playbook 參考資料,讓使用者依循來建構工作流,而 Ryzen AI Developer Center 也提供了後續軟體功能與工具更新的支援功能,讓使用者透過一站式的入口來對 Ryzen AI Halo 開發者平台進行維護。

這部分就是顯示了 Ryzen AI Developer Center 的主要介面。

透過整體平台的最佳化,包括 ROCm、驅動程式、框架與 App 的整合,AMD 提供了完整且穩定的軟體開發環境,讓使用者不用面對個別層級的更新後導致開發環境改變的問題。

接著來看應對不同經驗值的 AI 開發者需求,AMD 則是推出了 AMD AI Playbook 內容,讓開發者更容易進入開發工作流,初始在 Ryzen AI Halo 開發者平台內建了 5 個 Playbook,並且在官網上提供另外 10 個 Playbook 讓使用者參考。

內建預載的 5 個 AI Playbook,包括影像生成、運作大語言模型、進階的大模型運用、本地端 LLM 編碼以及自動化工作流(Agent)等,基本上涵蓋了目前主要的 AI 使用面向。

而每個 Ryzen AI Halo 開發者平台的使用者也獲得了 AI Developer Program 的資格,可以獲得來自 AMD 的更多開發資源支援。

接著來看 Ryzen AI Halo 開發者平台的硬體規格支援部分,這部分在 CES 上已經大致講過了,目前的版本使用了 Ryzen AI Max+395 處理器、搭配 128 GB 的 LPDDR5x 統一記憶體以及 2TB PCIe Gen 4x4 SSD 作為儲存空間,周邊部分則是具備 10 GbE 有線網路以及 WiFi 7 無線網路,功耗部分則是 120W TDP 的配置。

至於跟競爭對手的比較部分,就直接拿 NVIDIA 的 DGX Sprak 來比啦,AMD 表示 Ryzen AI Halo 開發者平台除了在效能表現上略勝一籌外,在單位成本上也比 DGX Sprak 要來的低。

而跟另一個競爭對手蘋果的 Mac Mini M4 Pro 版相比,Ryzen AI Halo 開發者平台則是記憶體配置、可使用的大模型參數量以及平台支援性上更勝一籌。

接著來看 AI 應用的另一個主要面向:影音內容生成的部分,AMD 表示專業的工作者光是影片生成目前每個月的訂閱花費就會來到 250 美元(而且還有限制),而音樂的部分也來到了 24 美元。

而 AMD 在這部分提供了商業等級的 AI 音樂製作功能,不僅提供好萊塢專業等級的音樂生成,還提供錄音室等級的控制功能以及支援 19 種語言,並且也能避免聲音版權的問題,在 SOTA 音樂生成模型中,Ryzen AI Halo 開發者平台提供了比起競爭對手更快的生成速度。

另外在影片生成的部分,AMD 則是表示透過 ROCm 架構,提供更穩定的影片生成運作環境。

另外透過本地端的運作,也能避免雲端模型誤用其他版權影片作為推論基礎的可能。

而 ROCm 架構則是從 Day0 就提供了各種影片生成模型/應用的支援,在效能表現上也比起競爭對手要高出許多。

最後來看最近最夯的 AI Agent 代理應用,AMD 表示目前 Agent 最大的問題就是每天會耗用大量的 Token(算力都是錢啊),使用 Ryzen AI Halo 開發者平台不僅能省下 Token 費用,而且還可以在本地端運作不同的 Agent,提供更強大的自動執行能力。

而跟雲端運算相比, AMD 也在官方簡報中幫忙算了一下在 Ryzen AI Halo 開發者平台本地端運算大概能省多少錢,雖然在模型跟算力上有差距,但是 AMD 也表示並不是每個工作流/代理都需要到最新的模型使用。

而將 Ryzen AI Halo 開發者平台購入成本計入,以每天 600 萬 Token 的使用量來計算,大約 6 個月後就可打平,而之後就是省下來的金額了。

當然如果需要更高的本地端 AI 算力,AMD 也打了一下自家 Radeon AI PRO R9700 GPU 的廣告,可以提供比 Ryzen AI Max 高出一倍以上的每秒 Token 產出。

這邊也換算了雲端服務轉換過來的成本差異。

在更高算力需求(每天 1800 萬 Token)的應用下,跟雲端服務相比,使用 Radeon AI PRO R9700 GPU 使用三個月後就能打平成本。

而在簡報的最後,則是預告一下下一代的 Ryzen AI Max 400 系列處理器即將登場的消息。

AMD 表示 Ryzen AI Max 400 系列處理器是目前首款可運作 300B 以上參數量模型的 x86 架構處理器,透過支援最大 192 GB 的統一記憶體配置,可以運作更複雜、多代理協作的 AI 工作流,並且提供不妥協的 AI 效能表現。

AMD Ryzen AI Max 400 系列處理器的主要規格,包括採用最高 16 核心的 Zen 5 架構、最高 5.2 GHz 加速時脈、XDNA2 NPU、最高 192 GB 統一記憶體配置(VRAM 最高 160GB)、RDNA 3.5 GPU 等。

AMD Ryzen AI Max 400 系列處理器初步將會推出三個型號,包括 Ryzen AI Max+ Pro 495、Ryzen AI Max Pro 490 以及 Ryzen AI Max Pro 485,在 CPU、NPU 與 GPU 配置上都略有不同。

最後的重頭戲就是公布這次 Ryzen AI Halo 開發者平台的售價啦,搭載 Ryzen AI Max+395 處理器的版本,官方建議售價是 3999 美元,這跟 DGX Spark 去年一開始賣的價格一樣,不過 DGX Spark 今年漲到 4699 美元了,相比 AMD Ryzen AI Halo 開發者平台就便宜許多,而搭載下一代 Ryzen AI Max+ Pro 495 處理器的版本也很快要登場。




























































































