Masonchan wrote:
最近也在看這台，方便...(恕刪)
陸陸續續用過3台Expertbook 系列的筆電，雖然都一定會有一些小缺點，但是穩定度來說都相當不錯
這一代的9406，效能非常夠用，穩定度也沒問題
不過我的用途是辦公，還有透過離線AI來解決一些工作上的問題，跟你的用途不太一樣
而Dell latitude 也是不錯的機器，不過感覺設計有點保守、用料、重量都不是最亮眼的選擇
我會建議你試試這一代的9406，移動辦公的體驗很好
超甜玉米 wrote:
開虛擬記憶體佔滿的情況下沒有把 CPU 使用率填滿也是蠻意外的...(恕刪)
再跑大模型的時候，CPU不直接進行模型的矩陣運算，而是負責將資料餵給 GPU、管理記憶體中的KV Cache
GPU 是離線 AI 推理的運算核心，使用率也跟記憶體頻寬有很大的關連，如果記憶體頻寬不足，則導致資料餵不上來給GPU進行運算
當時跑Gemma 4 26B A4B就是硬塞進去的，所以一定要開虛擬記憶體，但記憶體頻寬會變慢，所以GPU使用率就會不穩定甚至變低，但如果是跑Gemma 4 12B，不開虛擬記憶體，GPU的使用率會上升到90%以上，但是上下文跑多了還是會撐爆記憶體，最後也是一定要開虛擬記憶體，反正要跑離線大模型32G記憶體是基礎，最好要有64G~
內文搜尋