已從萬卡級正式跨入十萬卡級的超大型規模
曙光 8000（登峰）超集群：中科曙光正式宣布中國首個全國產 10 萬卡 AI 超集群正式落成並接入國家超算互聯網。這代表中國已具備 10 萬張國產加速卡協同運行的量產基礎設施能力。
主流商用落成：1 萬卡至 3 萬卡級（已建成 42 個）
中國移動：已宣布其升級版「AI+」行動計劃，預計到 2028 年將建成規模達 10 萬張卡的國產 GPU 集群。
北京市：官方推進會提出目標在兩年內（約 2028 年前）建成 10 萬卡級國產智算集群。
美國目前最頂級、已完工且正式運行的單一集群，規模已達 20 萬張卡 :
xAI Colossus 1 集群：由埃隆·馬斯克（Elon Musk）旗下的 xAI 團隊在田納西州孟菲斯打造，部署了 220,000 張 NVIDIA H100 GPU
Meta 擁有多個獨立的 24,000 至 50,000 卡 H100 集群，並已成功將其串聯擴展，形成超過 10 萬張卡的單一超大型訓練集群
微軟與 OpenAI 合作的多個智算中心（如 Atlanta 園區），單一集群基本均已突破 10 萬張卡的規模
Panchrotal wrote:
SK 美光都有自己的產線和先進封裝
甚至SK比台積電更早有HN-EUV
並不需要透過台積電代工
為什麼業界最近一直在談「SK海力士、美光要找台積電合作」呢？這其實跟 AI 晶片最重要的 HBM（高頻寬記憶體）技術轉型有關
記憶體本身的製造（100% 靠自己），不管是 HBM 的記憶體顆粒，還是堆疊這些顆粒的先進封裝技術（例如 SK海力士引以為傲的 MR-MUF 封裝），這部分完全是 SK海力士和美光獨立完成，不需要任何人幫忙
卡脖子的關鍵是最底層的「邏輯控制基礎底層（Base Die）」
HBM 雖然是記憶體，但它跟以前的記憶體不同，它是由好幾層 DRAM「垂直堆疊」起來的。在這一疊記憶體的最底部，需要有一顆負責跟 NVIDIA GPU 溝通的「控制晶片（Base Die / Logic Die）」。
HBM3e 世代以前這個底層晶片不需要太高階的製程（用普通記憶體製程做就可以了），所以 SK海力士自己就能搞定。
HBM4 世代以後因為傳輸速度太快、功耗太高，NVIDIA 要求這個底層控制晶片必須改用「先進邏輯晶片製程」（例如 5 奈米、4 奈米甚至 3 奈米）來做。
這就踩到了記憶體廠的盲區。SK海力士和美光雖然很會做記憶體，但他們沒有專門做 3 奈米/5 奈米邏輯晶片的頂級晶圓代工廠
SK海力士和美光依然在自家產線用 High-NA EUV 生產最強的記憶體，但他們會委託台積電用先進邏輯製程幫他們代工最底層的那顆控制晶片。最後，再把台積電做的控制晶片拿回自家的封裝廠，跟自己的記憶體堆疊在一起
滿滿的大樓梯 wrote:
推理性能
B200是H100的30倍
H100又是H20的5倍
Ascend 950是H20的2.87倍
所以幾顆Ascend 950可以打一顆B200?
唬爛不打草稿
Nvidia官方報告
72顆B200 是 8顆H200的30倍
單顆B200只比H200快大約三倍
https://blogs.nvidia.com.tw/blog/blackwell-mlperf-inference/
NVIDIA每個世代也只提升三倍左右
Ascend 950提升2.8等於多追上一代
內文搜尋