• 2

使用 Ryzen 4600G/5600G 跑 AI 應用?

2023-08-20 13:13 發佈
知識無際................
使用 4600G/5600G 生成一個物件甚至比 一些 CPU + NVIDIA 12GB 4070 (Ti) 還快, 只需 二分鐘


maya95 wrote:
使用 4600G/5600G...(恕刪)
跟這篇回文中影片連結所說的 類似使用方式
-> [01站內文] 給台積電代工


把顯示記憶體拓展到最大 在把AI所需程序全都丟進去
就不用再回最慢的儲存裝置讀取資料
所以速度會比插只有12GB顯示記憶體的卡快
                              彈幕濃!
類似效果

skiiks wrote:
把顯示記憶體拓展到最大 在把AI所需程序全都丟進去
就不用再回最慢的儲存裝置讀取資料
所以速度會比插卡只有12GB顯示記憶體快


最近還有AI開源社群紛紛為蘋果M2改寫AI引擎為ARM架構
為的就是M2集成CPU中 192GB記憶體 可以當顯示記憶體用
可以放進整個AI需要的檔案 可以隨時調整AI

這種使用方式
雖然總體運算能力低於6張4090(24GB顯示記憶體x6或x8)
但可以放進整個AI需要的檔案
不需要從儲存裝置反覆載入 做到即時調整

雖然運算較慢 但在價格 功耗 以及使用難度上 蘋果M系列更為優異
尤其價格 M2 192GB價格18萬起跳 頂規28萬
4090光價格 6張x5~6萬 = 30~36萬 還不包含CPU 記憶體 主機板
skiiks

全部在顯卡記憶體中跑 > 全部在M2記憶體中跑 > 全部在DDR5轉內顯記憶體中跑 > 只有12GB顯示記憶體的顯示卡

2023-08-20 15:21
maya95
maya95 樓主

想用 VMware 17 試試, 結果虛擬内顯最高 8GB [點點點]

2023-08-20 16:01
我用5700G 跑 SD 是頗沒效率的

3070 10秒多的時間
5700G 需要將近一分鐘
ゴミ丼わがんにんにゃれ 我沒有義務回覆你的問題
Ghostwriter

M2 gpu+記憶體有特地設計過,就看甚麼時候能搶老黃低價半專業卡(4090)的市場了。把模型挪到ram上一直有人做,但效率和相容性感人[大哭]

2023-08-20 21:13
skiiks

蘋果M2就集成晶片一種 把資料要高速處理所需的晶片通通擺在CPU旁 一起放在載板上 才有超低的延遲 光靠減少的延遲就可多算好幾次

2023-08-20 22:45
這個就有趣了
稍微看了一下,比不少CPU快這沒問題
但跟4070(TI)比是在爆12G顯示記憶體下
4070(TI)可能無法出圖而獲得5600G較快
但還是有方法可以解決爆記憶體的問題

不過可能只限AMD+N卡(我是7950X3D+64G RAM+4070),A卡的話我就不清楚了
之前試過INTEL+N卡(13950HX+64G RAM+4080Laptop)記憶體爆太多還是會出不了圖


以上是圖生圖
如果是文生圖那更沒有爆記憶體問題
因為超過特定解析度後,生成的圖會有極高機率畸形
以像素量來說上限大概就一百萬,而這只要約8G的顯示記憶體就夠了
想更大就要採用圖生圖

文生圖的話......

RTX 4070 720*1280 25步 30張
耗時約3分44秒
老實說論速度是完全比不上4070
更別說拉滿2048*2048 APU要跑多久
但也算解除之前心中疑問,APU分夠記憶體還是能跑
ロリ大大 wrote:
稍微看了一下,比不少CPU...(恕刪)

APU算的速度要比4070快真的想多了
不看架構參數直接橫向對比it/s只是在耍流氓而已
這個價值就是讓你用1050(甚至更差)的速度
用4080或甚至A6000的vram大小來算高畫質大圖
倒是ROCm到現在終於到達堪用的層級還蠻讓人感動的,TPU和IPU還是那個死人樣子
總而言之,可以玩玩,反正算圖大不了上班掛著,5600G全時跑也耗不了多少電
nwcs

樓上內行的,獨顯的算力不是內顯可以比的,只是現在GPU動輒上萬,所以才有替代方案的嘗試出現。

2023-08-21 11:10
staysher

不知何年何月ROCm才能追上cuda...目前只能買N卡的情況下刀神沒壓力.

2023-08-25 16:23
像這種算力嚴重不足, 空有記憶空間的設備
時間成本太高, 老實說沒什麼 AI 應用價值
如你非用不可, 那我也只能深表同情
個人積分: 87, 不能再高了 www.flickr.com/photos/inunu
maya95
maya95 樓主

當然就是玩票性質, 別太認真.

2023-08-21 12:20
  • 2
內文搜尋
X
評分
評分
複製連結
Mobile01提醒您
您目前瀏覽的是行動版網頁
是否切換到電腦版網頁呢?