問了台灣業內人士，原來台灣也能輕鬆做出DeepSeek～ (第8頁)

warrenwang111
個人積分：1715分
文章編號：91057457

1715分

71樓

2025-02-01 19:30

JasonQ wrote:
不對

你的推理不正確

1. 要能達到DeepSeek的成積，關鍵在「演算法優化」 & 「有能力繞過CUDA的編碼人才」

DeepSeek的出現，只是讓「資本」重新檢視「人才」與「硬體投資」的比重可以調整

你對於CUDA 跟PTX的認知是錯誤的...

PTX還是CIDA生態內的指令..

DeepSeek 首先要明確的是，PTX 仍然是英偉達 GPU 架構中的技術，它是 CUDA 程式設計模型中的中間層，用於連接 CUDA 高階語言程式碼和 GPU 底層硬體指令。

在實際編譯流程中，CUDA 程式碼首先被編譯為 PTX 程式碼，PTX 程式碼再被編譯為目標 GPU 架構的機器碼（SASS,Streaming ASSembler）。 CUDA 扮演了提供高階程式介面和工具鏈的作用，可以簡化開發者的工作。而 PTX 作為中間層，充當高階語言和底層硬體之間的橋樑。

DeepSeek只是直接去優化PTX指令不需要CUDA轉換而已..還是在CUDA的生態下.而不是繞過...

至於使用數量會變多還是變少這個只能等時間的驗證...

假設Open AI 原本要融資500億美金增設算力中心..資金用途是購買算力卡...現在發現原本的目標只需要100億就能達成..那他還能去融資500億嗎??繼續買算力卡嗎??投資者願意接受嗎??還是會先暫停購入..先審視現有設備看看哪裡還能優化??

NV跟台積電大跌就是因為投資者怕供過於求...你本來預估一年要生產300萬片且有訂單...現在發現訂單需求只

剩50萬片..而且有別的競爭者的加入...所以大家看淡前景所以跌..所以如果多數人跟你想的依樣那應該是大漲才對吧??

從結果論..到今天為止NV的股票還是跌的..這表示大眾投資者並不同意你的論點...

滿川風雨看潮生

滿川風雨看潮生
個人積分：60分
文章編號：91057508

60分

72樓

2025-02-01 19:42

going_down wrote:
我又問台灣能做出來嗎？

他說只要資金足夠，以台灣的科技水準

一年就能開發出真正的DeepSeek，而且不是抄襲套皮的那種

只要資金足夠？10億？100億？還是要1000億才符合這個業內人士口中的「只要資金足夠」？

JasonQ

JasonQ
個人積分：275分
文章編號：91057794

275分

73樓

2025-02-01 21:14

warrenwang111 wrote:
JasonQ...(恕刪)

你的理解錯的離譜

DeepSeek用的是NVIDIA的GPU，當然要用NVIDIA的系統去下指令

所謂的繞過，是不在CUDA架構之上去建構程式碼。而CUDA生態指的是以CUDA指令集為基礎去開發的各種功能模組。

你知道要做到平行運算有多麻煩嗎？

首先，你要能切割你的數學模型，將運算分散在每個GPU中。而以H800的規格書中顯示的數量：
14592 NVIDIA® CUDA® Cores

如果你使用CUDA的架構作為基礎，你可以很輕易的透過CUDA 指令將模型分散為2048顆h800 GPU×14592個CUDA Cores = 29,884,416個CUDA運算核心
（當然，其中有一部份要負責合併）

在CUDA問世以前，大型平行運算需求系統的系統差異就在「如何切割數學模型平均負載在每個GPU內」- 這句話很短，但是要了解並熟悉的GPU晶片專業知識很多....不是一般Coding工程師有辦法輕鬆完成的工作

CUDA問世以後，透過NVIDIA提供的CUDA指令集，讓「平行運算的核心程式碼能更容易的編寫、維護」

參考一下：

這也是為何NVIDIA能夠突破傳統「顯卡」的應用領域，成功跨入平行運算需求市場並拿下如此高的市佔率的原因

所以，所謂的繞過CUDA，只是說明DeepSeek的開發人員有能力不依賴CUDA提供的指令集。
而是以PTX語法直接去「壓榨」H800的系統資源。

這相當於寫程式不用C、python，而是用組合語言這種更低階的語法去寫程式

你如果用C寫一個If指令，可能只要一行程式碼，如果用組合語言之類的低階程式碼寫出相同的成果，除了要動用一堆暫存器、計算記憶體位址....以外，還需要利用大量的備註去註明各區段程式碼的功能，增加維護的困擾。

「韓國大宇未來資產在研究該公司文件後指出，Deepseek 並未像其他 AI 模型一樣採用 CUDA 架構，而是透過併行線程執行代碼（Parallel Thread Excution, PTX）構成。

PTX 是 Nvidia 為 GPU 產品開發的一種中間語言（Intermediate Language），是 CUDA 這類高階 GPU 程式語言和低階機器碼之間的橋樑，而 PTX 作為一種 Close-to-metal 的指令集架構，比起 CUDA 來說可讓工程師進行更多，更細緻的最佳化調整。

不過透過 PTX 雖然可以進行更多專門的最佳化調整，但缺點是很難維持穩定，需要人力大量除錯，因此也顯示出 Deepseek 工程師的設計功力。」