如圖所示，不曉得這樣的配備規格合適嗎
跑本地模型夠嗎？
因為算是中年人第一次想要深度了解與學習ＡＩ運用
順帶一提，另外只有這台桌機可以玩魔獸世界永恆，不曉得合適嗎？
如圖所示，不曉得這樣的配備規格合適嗎
跑本地模型夠嗎？
因為算是中年人第一次想要深度了解與學習ＡＩ運用
順帶一提，另外只有這台桌機可以玩魔獸世界永恆，不曉得合適嗎？
如圖所示，不曉得這樣的配備規格合適嗎
跑本地模型夠嗎？
因為算是中年人第一次想要深度了解與學習ＡＩ運用
順帶一提，另外只有這台桌機可以玩魔獸世界永恆，不曉得合適嗎？
2026-10-01 18:21 發佈
㊣水工生 wrote:
如圖所示，不曉得這樣...(恕刪)
很夠了
但你需要先搞清楚你真正想要做的事情
要Agent做事跟要Agent幫你在你的電腦上用LLM處理事情
是兩個需求
你要搞清楚你到底要『請Agent做什麼事情』，不然有可能浪費錢，或是買了仍做不好你想要做的事情～
我的電腦跟你的規格相同（不過我是筆電，你的散熱會更好）
我必須老實的跟你說，你這個規格能跑的「本地模型」不會太強
可以幫你做會議逐字稿轉文字
可以幫你做到一些簡單的查詢任務
可以作為簡易的AI對話
但是速度與正確度跟雲端付費AI還有很大一段距離
要更好更快的本地模型
你的記憶體要拉到256GB才夠
但是，你要確定你的目的是不是真的有需要用到這麼強的本地模型
不然你直接付費買Claude,Gemini,ChatGPT應該會划算很多
（先買一個月20美金開始試試看 不夠用再換 100美金 200美金...）
電腦只要買M6 Mac mini 32GB就綽綽有餘～
會比不懂怎麼運用本地模型的新手買一台超貴超高階電腦，能做的事情要多很多，也做得更好更快～
買M5 Ultra 256GB款的錢
足夠你用好幾年的高階付費ＡＩ了
（M5 Ultra 沒有128GB這個超高CP值的選項，你只能買256GB款的）
㊣水工生 wrote:
因為算是中年人第一次想要深度了解與學習ＡＩ運用
我建議你現在入門先用M6 Mac mini 32GB＋付費AI
用個2年以後想玩LLM再換
M7 Ultra 256GB
到時候你應該就會很清楚自己要的是什麼了～
M5,M6晶片的CPU核心不存在AI單元（目前只有GPU核心有內建AI單元）
所以作為跑Agent的機器，效能無法有效發揮，
M7系列以後CPU核心就會內建AI單元了～
M7預計明年會推出
M7 Ultra我預估是明年底或是後年推出，而且CPU核心數相對於GPU核心數的比例應該會大增，不會像現在這種只注重GPU加倍的做法，而是改為CPU與GPU都加倍的新架構～（也不會有M6 Pro / M6 Max / Ma6 Ultra）
其他有興趣深入了解硬體規格與實際ＡＩ運用的差異
可以參考這篇文章目前各家電腦硬體規格與效能評比參考
我用4090裝Qwen 3.8 27B(應該是4bit，有點忘了)，體感覺的做一些每天的重複性動作應該還可以(比如檢查郵件、收集財經新聞等)，其他比較大的，我也覺得上網就好了。
後來發現記憶體大除了可以安裝大一點的模型以外，如果你是拿來做CAD使用，做光追渲染照片時，複雜的細節可能可以要求高一點不會算到一半當機或跳掉。但這個只是猜想，還沒用過Mac。
㊣水工生 wrote:
如圖所示，不曉得這樣...(恕刪)
應該先了解一件事.......CPU/GPU決定你跑本地模型時的速度(吐出第一個字的時間與每秒多少Token數), 但是記憶體決定你可以跑本地模型的參數值
而多大模型參數值決定模型的精度與跟雲端大模型的差距
樓主你選48GB記憶體.......我查了一下這是你可以裝的最高參數值
1. Google Gemma 4 27B......最低記憶體20GB
2. Meta Llama 4 70B...........最低記憶體48GB(我覺得有點緊張)
3. 阿里巴巴 Qwen 3 72B......最低記憶體48GB(我覺得有點緊張)
看出來了嗎？大家覺得推薦的AI本地模型, 有兩個最低記憶體需求就落在你選的48GB上(而且都是70B參數, 比第一個27B參數大多了), 我建議你加一點點錢把記憶體拉高到64GB, 這樣跑Llama 4 70B也順一些(我看Applee官網價格差1.4萬, 這錢值得投資)
㊣水工生 wrote:
請問我主要會用到最多算力的部分，應該是要請Ai幫忙協助我架設網站
所以我不曉得小的模型跑起來可以嗎？
是不是跑本地模型跑不起來？真不行應該就是照您說的Ｍ6 32G買一台
需要高算力跑的就丟給雲端去處理了...(恕刪)
對市面上常見的付費雲端模型來說
這是小case
(Cluade對寫網頁，寫Code來說算是非常擅長～)
但是對本地端模型來說會很拼～
能力有很大的落差（後面會講差異在哪裡）
除非你本人對寫網頁本來就很熟悉，
只是用本地模型去「輔助」你寫CODE＋debug
不然用本地模型去做，是事倍功半～
（且說真的48GB RAM而已，真的不要對這個規格有太大幻想，它就只是LLM的入門級規格而已，拿來玩玩與做研究可以，要拿來賺錢我建議直接用付費AI）
再補充一件事
付費雲端模型有提供完善的整套開發工具
你可以一句話就修改「你電腦內的專案檔案」整個網站系統所有code，還幫你做好檔案設置規劃，這些功能都是純本地端模型所沒有的，本地端AI任何GUI工具你都得自己想辦法解決～白話文：
本地端AI有多強，取決於使用者本人的知識+硬體規格
（雲端AI就沒那麼複雜，花錢就好～）如果使用者沒有對應的AI工具知識，但還是要跑地端AI，那剛開始用的前幾個月你必定會覺得非常挫折，怎麼執行一個（你以為）很簡單的工作竟然還要自己去找一大堆套件來裝來測試，裝了一堆發現不好用又再換一個套件......最後發現你花的時間成本遠遠超過『直接買』～
ＡＩ新手我一率推薦一開始用買最低月費先試用，等你建立足夠的「基礎AI知識」，這時候地端AI就會變成很好去解決「其實不需要交給雲端AI去做」的替代方案。以我來說，困難的問題交給雲端AI，簡單的作業，或是有資安需求的作業我就交給本地端AI去處理，還可以省下燒Token的錢，這兩種ＡＩ我是同時都有在使用，沒有誰取代誰的問題～
內文搜尋