[解決]]ollama如何強迫用CPU去跑?

in30000
個人積分：1150分
文章編號：93283873

1150分

樓主

2026-06-23 18:24

安裝最新Ollama0.30.10版，OS環境變數已設定CUDA_VISIBLE_DEVICES = -1

CPU 3960X + RAM 128GB
顯卡GT720

跑gemma4:12b:
問第一個問題，不管難不難都會用CPU賣力工作
問第二個簡單問題，CPU閒置，GPU衝99%跑一陣子........跑完再換CPU工作
問第三個稍微複雜問題，就會卡在GPU100%過很久跑出error

ollama如何全程強迫用CPU去跑?

最後我改用LM STUDIO，再設定關閉GPU

2026-06-23 18:24 發佈

GailLim

GailLim
個人積分：419分
文章編號：93284834

419分

2樓

2026-06-24 4:24

火狐也是，就算「使用推薦的效能設定」取消打勾，它還是會優先去讀顯示卡。

您要不要乾脆「控制臺」停用顯示卡驅動，CUDA_VISIBLE_DEVICES = -1只是環境變數一部分，應該還有其他選項，乾脆停用驅動。

in30000 樓主

有道理，我再來試試看

2026-06-24 20:04

深不可測之下一位

深不可測之下一位
個人積分：9733分
文章編號：93285154

9733分

3樓

2026-06-24 8:22

你沒打錯？GT720??

in30000 樓主

亮機卡

2026-06-24 20:03

asegerno

asegerno
個人積分：93分
文章編號：93285221

93分

4樓

2026-06-24 8:40

in30000 wrote:
安裝最新Ol...(恕刪)

如果會ERROR記得刷最新系統11/26H1
還有一定要高顯低U、不要高U低顯

in30000 樓主

既有的淘汰設備，當做實驗機

2026-06-24 20:05

內爾海力森

內爾海力森
個人積分：716分
文章編號：93285516

716分

5樓

2026-06-24 9:54

改用 llama.cpp 吧，有用 CPU 運作的版本

clwu5724

clwu5724
個人積分：3973分
文章編號：93285826

3973分

6樓

2026-06-24 11:00

in30000 wrote:
安裝最新Ollama0...(恕刪)

我的顯卡 GTX460 ! 因為亮燈卡關係, 我從沒懷疑過這些問題.

cpu 大都在 60% 上下, 最高到 75%, 我以你問題跑兩次,cpu 都是 5x ~ 75, 大部分是 60%.

我沒去動任何設定.

點我看大圖

in30000

in30000
個人積分：1150分
文章編號：93288146

1150分

樓主

2026-06-24 20:03

clwu5724 wrote:
我沒去動任何設定

我在三個月前安裝過一次，確實跟你一樣，預設用CPU勤奮努力。

clwu5724

clwu5724
個人積分：3973分
文章編號：93288254

3973分

8樓

2026-06-24 20:43

in30000 wrote:
我在三個月前安裝過一...(恕刪)

重新安裝試試.

我有幾台安裝 COMFUI 本地運算, 亮燈卡 GT710 跑 CPU, 有一台 GTX 1060 跑 GPU.

GTX 1060 跑得很久,但能跑出結果. 跑 CPU 的,要跑約 2 小時.

重點是 GT710 無法跑 GPU, 但 GTX 1060 用 CPU 跑會出錯, 有 ERROR 訊息, 用 GPU 跑,不會出錯.

(還在考慮, 要不要買 5060 TI ? 因為是好玩而已, 沒有用途.)

in30000

in30000
個人積分：1150分
文章編號：93292072

1150分

樓主

2026-06-25 19:42

clwu5724 wrote:
要跑約 2 小時

多大的模型？吩咐它做很多事？

我換LM STUDIO就OK了：
開發>硬體>關閉GPU。
模型>核心數拉到最大

clwu5724

clwu5724
個人積分：3973分
文章編號：93292209

3973分

10樓

2026-06-25 20:43

in30000 wrote:
多大的模型？吩咐它做...(恕刪)

您這個好像是不同的應用.

我說有些跑兩個鐘頭的是這樣的硬體, 跑 qwen image edit 或 flux , 都很慘.

如果是 z-image, sdxl, 的文生圖,就只要幾分鐘.

跑 COMFUI,使用 CPU , 這個 CPU 與 RAM 幾乎都是接近 100%.

COMFUI 使用 I9 10980XE CPU 來跑也是跑輸 GTX 1060.

要玩得痛快真的要買張 RTX 5060TI. (RTX 5090 更佳)

(因為只是好玩而已, 繳錢遠端算圖是最佳選項,可以省掉很多時間與精力.)

點我看大圖