長時間跑不切實際, 不管你拿來跑coding agent還是愛馬仕龍蝦, 用下去就是溫度上升,風扇狂轉,電力滿載, 瞬間GPU peak usage還會用到電池的電, 整個過程就在那充充放放, 還失去筆電移動能力,
速度也不快, m5 max 跑qwen 3.6 27b大概只能用到mxfp4, tg 3x t/s左右免強堪用, 但降到4-bit, model就比較蠢
如果local GPU有玩下去, 最終一定會去弄一台GPU host, 留在apple eco就是mini, 我是乾脆組台linux server搭NVIDIA省得麻煩. macbook就是提供UI最佳跳板.
這本人去年m4 max已經走過.
內文搜尋