[宅爸專欄] AI世代應用強制進化 - 淺談Intel / AMD新款處理器平台發展

大家好，我是宅爸。

無聊先說一下，宅爸做了一個很簡單的wix網站，
裡面放了之前寫過的文章，有興趣的朋友可以看看：宅爸文章回顧

宅爸在之前文章「宅爸專欄 – AI世界來臨：微軟最新「Copilot」AI助理簡介」中有大致提到，隨著「機器學習」、「模型訓練」、「生成式AI」的應用越來越多，除了軟體、系統層面的高速發展之外，硬體部份的需求也開始由大廠主導，推出了「AI PC」的概念。


「AI PC」已經成為現在進行式

以往評斷電腦效能的指標，往往是指處理器「製程越強」、「時脈越高」、「核心越多」等等量化的概念，但隨著AI運算的需求的急遽增加，許多應用場景，已經不是單純的利用處理器、大小核來運算。在智慧型手機市場，為了因應長時間的影音播放、拍攝照片、視訊等等需求，許多平台早已導入了所謂「NPU」AI晶片的設計，讓不同的運算單元來負責特定的應用程式，來增進整體的使用體驗。由於NPU具備所謂「神經網路引擎（Neural Network Engine）」與「張量處理（Tensor Processing）」等功能，可以接手需要預判、推理的工作，不僅可減輕主要處理器的負擔，同時提供低功耗、省電等等特性。在桌上型市場也許省電不是非常必要，但在電池寸土寸金的筆記型市場，面對AI需求逐漸擴張，NPU功能的導入可說是相當重要的變化。

此外，除了傳統上雲端的AI服務之外，為了私人企業服務而產生的AI服務，也逐步開始出現有私領域、保密的計算需求。因為目前主流的AI都是以開放式的訓練架構為主、私人企業服務產生的資料要撐起完整的服務有相當的困難度，所以採用混合方式、以開放式的訓練架構加上私有資料，在本地端服務的需求在可見的未來一定會逐漸增長。但以目前來說，大部分企業、商用市場的運算終端，都還是以現有的硬體設備為主，具備所謂「AI PC」功能的電腦，不管是桌上型、筆記型，在AI浪潮之下，具有「AI」、「NPU」等功能、可在本地端進行一定程度運算、能執行AI應用程式的電腦，需求也一定會大幅度增加。相對於處理器、作業系統、顯示卡這幾個傳統硬體改朝換代的指標而言，AI為硬體廠商帶來了相當重要的成長機會。所以在今年（2023），以本機端為主的硬體零組件製造廠商，像Intel、AMD、NVIDIA等等，開始陸陸續續推出了對應硬體設備，接下來宅爸嘗試分析一下今年底各家廠商的更新進度，來看看對應AI的浪潮，老牌廠商會有什麼法寶。

Intel：第14代Meteor Lake平台發表，「Core Ultra」世代因應AI需求


Intel「Core Ultra」平台發表

過去這一年其實筆電市場上一直有著非常奇妙的現象：在礦潮之後，所有的PC硬體銷售速度突然放緩，加之疫情解封，筆電市場的庫存問題在年初一直高居不下，Intel 11/12/13代一直都在同時銷售，其中代號Alder Lake的12代意外以實惠的價格成為銷售中的當紅炸子雞，但在接下來12月中即將推出的Intel 14^th處理器，則是包括了高效能的Raptor Lake Refresh處理器，以及下個世代Meteor Lake處理器。其中Meteor Lake平台中新增了所謂「Ultra」字樣的標示，除了採用Intel 4世代製程之外，還內建的Arc GPU、以及新增了NPU功能，也就是說Core Ultra將直接具備加速AI應用的內核，並提供高達34 TOPs的計算能力。


Intel Core Ultra具備所謂3種AI引擎的功能

根據12/14 Intel發布14代平台所提供的媒體資料，Intel Core Ultra平台在一顆CPU中，內建了CPU、GPU、NPU三種特性、可因應AI需求的運算單元。與智慧型手機採用獨立晶片的運算方式不同，Intel選擇以整合核心的方式，一口氣將未來AI可能預見的需求在硬體層面一手全包，不僅在製程、功耗之間採取比較積極的設計方式，同時還強化了與AI軟體廠商之間的連結。根據進一步曝光的資料，Intel除了製造硬體之外，更致力於推廣AI應用的生態系統，與100多家軟體廠商配合，推出各種300多種AI應用程式，為的就是將市場做大，讓AI的體系能夠更加完整。


Intel Core Ultra對於於開放原始碼的OpenVINO工具套件具備完整的支援能力


Intel Core Ultra新款AI處理器預計發表的型號

在大家比較注意的效能部份，根據宅爸知道的消息，14代雖然發布的是Intel Core Ultra平台，但在目前市場上也仍有Raptor Lake Refresh處理器系列，效能部份依照已經在Geekbench曝光的測試資料來看，頂規i9-14900HX相比13代旗艦而言，約有5%左右的效能增長，主要差異還是在於最高時脈以及更好的功耗表現，在桌上型14代已經流出的測試可發現，14代相較13代大約有20% 的功耗優勢，可以想見到筆記型電腦上的散熱表現將會更為優秀，以效能為主的遊戲玩家可以多加留意。


Geekbench曝光的i9-14900HX測試成績


官方以Core Ultra對比P系列處理器，在純CPU效能方面著墨較少

另一方面，因為AI用途可見的應用發展，搭載中高階NVIDIA 40顯卡的筆電、未來Intel Core Ultra系列的NPU晶片部份，其實都有可能讓筆電選擇變得相對複雜。因為在AI世代的拓荒年代，GPU通用性強，但NPU的優化肯定也會隨著本機端生成式AI的成長而有飛速成長，如果現在還有10/11代筆電的用戶，真有AI未來展望的使用需求，其實可以直接考慮升級12代以後+40顯卡的筆電配置，等Intel Core Ultra出來之後再看應用端的變化再行採購。

AMD：xDNA/IPU已經曝光，應用面上積極突破重圍

在筆電市場相對安靜的AMD平台，與合作夥伴有推出不少性價比高的筆電，不過要撼動Intel的江山實屬不易。在NVIDIA搶盡AI市場鋒頭之後，AMD在處理器、GPU市場感覺都相對低調許多，只是在AI的議題上，早在2023年初，AMD就已經有xDNA/IPU等架構列入規劃，同時也在接下來的產品系列中開始導入。從近期的Phoenix Point，到後繼的Hawk Point、Krackan Point等等，都可以看到xDNA/IPU的功能。


12/7，AMD在Presents Advancing AI大會上，推出AMD Ryzen 8040系列處理器

在2023年CES時，在會場發布AMD RYZEN 7040系列家族中，已經有多款處理器，包括Ryzen 9 7940HS / Ryzen 7 7840HS / Ryzen 5 7640HS已經在市場上曝光。雖然在市場上並沒有以「AI處理器」的形式來做行銷推廣，但在產品架構上已經很清楚的將》DNA / IPU等功能都加入說明之中，對於AI浪潮的的來襲也做了相當程度的準備。


AMD Ryzen 8040家族最高階的AMD Ryzen 9 8945HS與13900H相比，主打效能牌

根據12/7發布會上的資料，最新推出的AMD Ryzen 8040家族，將同樣採用CPU/GPU/NPU的整合設計，以Zen 4架構加上RDNA 3繪圖架構再加上XDNA運算單元，並且最高提供Radeon 780M內建顯示晶片等。除了時脈增加之外，TDP範圍也可根據設計在35～54W之間調整，NPU部份的效能也有所提升。


AMD Ryzen 8040處理器家族，一樣採用CPU/GPU/NPU整合設計，相當有共識（咦）


針對不同分類市場，AMD規劃已經在2024/2025導入一系列具備xDNA / IPU功能的處理器產品

不過對於AMD而言，目前在各種AI軟體開發上，協作者支援相對不那麼多，如果空有硬體規格卻沒有軟體可用，對於前仆後繼投入AI產業的開發者而言，可能就會相對不受青睞。但是在生成式AI部份，因為軟體公司一定會為了Intel/AMD等平台開發，在算力與需求不那麼明確的前提下，其實AMD平台現在不管是效能或是價格，都落在相當合理的甜蜜點，但搭配GPU部份，建議還是一樣盡量考慮40系列以上顯卡搭配為佳。因為不管選用Intel或是AMD平台系列，GPU在通用部份運算，還是能有一定程度的影響力，在NVIDIA確認暫時不會推出新顯卡系列前，選擇搭配40顯卡，可以確保在AI爆發之前的過渡時期，硬體都能夠有所發揮。


有趣的一幕：正在風頭上的微軟好朋友親切站台，這一場AI大戰AMD也不會缺席

23/24年的現在，筆電該怎麼買？

上面講了一堆，宅爸個人角度來看的話，在Meteor Lake（也就是Intel Core Ultra）家族還沒有大量進入市場之前，如果單純是遊戲或是效能需求，直上高時脈且功耗佳的14代HX是沒什麼大問題。但如果是對AI有一定程度需求、或是新手初選，Intel的12/13代或是AMD 7000系列+40顯卡的搭配，應該都還能在AI發展的初期應付大部分的使用需求與場景。不過如果是10/11代甚至更早以前的筆電，也許就真的要考慮升級了，因為根據馬路消息，Meteor Lake大量出貨可能要等到24年第2季之後才會大幅開展，此外，記憶體的需求也會大幅度的增加，以後筆電上，因為AI模型訓練的需求，筆電搭配32GB/64GB記憶體可能會慢慢變成常態，那時10/11代筆電可能就不是那麼夠用了，要特別留意。

做個表格應該比較清楚：

手上的筆電	建議
Intel 10代等級	差不多可以換新了 時候到了
Intel 11代等級	可擴充記憶體/硬碟大小 等Win12看看
Intel 12代等級	可擴充記憶體/硬碟大小 等Win12看看
Intel 13代等級	你剛買而已 別怕 繼續觀望 XD

不過，現在AI資訊爆炸的程度驚人，幾乎每個月都有不同的大小應用誕生，如果自己有想要用什麼特定的服務，一定要多了解該服務在硬體方面的需求，不然買了殺雞用上牛刀、拿大砲打小鳥，可能荷包上就會有點辛苦。反之，但如果要用很複雜、算力需求大的服務，卻沒有在硬體上投資的話，創意點子沒辦法快速實現，實際工作起來也不會比較輕鬆，這也是現在選筆電最需要考量的地方。

以上就到這邊，期待下次跟大家筆談。