慘,ai新晶片準備下殺0.1折

Cerebras執行長費爾德曼(Andrew Feldman)受訪指出,「我們產品的性能GPU達不到,而且精確度最高,價格最便宜。」

Cerebras的AI推論工具可為大語言模型Llama 3.1 8B,每秒生成1,800個 tokens,比超大規模資料中心的輝達GPU解決方案快20倍。而且Cerebras價格以每百萬tokens收10美分起跳,與輝達GPU解決方案相比如同九牛一毛。


Cerebras創立於2015年,毫不掩飾挑戰輝達市場主宰地位的野心,還獲ChatGpt開發商OpenAI執行長奧特曼的青睞注資。開發全球最大AI晶片的Cerebras,今年3月發表專為訓練AI模型設計的WSE-3處理器,採用台積電 5 奈米製程打造。Cerebras證實有IPO計畫,本月向美國證管會秘密提交募股說明書。

Cerebras

那所有科技股價都會崩盤


more
晶圓代工新賽局?三星導入最新黑科技 超神級技術曝光
2024-08-28 21:49 發佈
文章關鍵字 AI 晶片 0.1
b13040899228 wrote:
Cerebras執行...(恕刪)



輝達大跌十趴,果然應驗
電費吃不消,加上各家AI開始內捲,每TOKEN的費用不斷在壓低,除了研究單位的超級電腦,商用AI需求價格戰是可預見的未來,如果是圖文生成之類的需求,用NPU建構的AI伺服器的CP值會比GPU高
產品不賣最大市場,
制裁最大市場,
弱智的燈塔又勝利了。
b13040899228 wrote:
Cerebras執行...(恕刪)
Cerebras 支援 cuda 嗎。
不支援就不用擔心價格0.1問題。
cuda生態系 才是人家獲利來源
繼續優化、進步是一種對的方向
wonderzero2 wrote:
Cerebras 支...(恕刪)


就是這樣

目前還是CUDA的天下

AMD跟INTEL已經在追,

但是INTEL還在跟13,14代CPU問題上打轉

AMD的生態還需要時間來填補

說真的NV的卡太貴了,但是不用不行。。。。
軟體銀行 wrote:
就是這樣目前還是CU...AMD的生態還需要時間來填補

說真的NV的卡太貴了,但是不用不行。(恕刪)

我只用的起 非常非常入門的顯示卡 1050 ,一樣可以啟用cuda但 會結果告訴你裝飾用

要換AMD平台就是要耗時間驗證,萬一用別人家在cuda 下軟體,就要看看工程師的功力,在貴也買比較實際
b13040899228 wrote:
Cerebras的AI推論工具可為大語言模型Llama 3.1 8B,每秒生成1,800個 tokens,比超大規模資料中心的輝達GPU解決方案快20倍。而且Cerebras價格以每百萬tokens收10美分起跳,與輝達GPU解決方案相比如同九牛一毛。


這種廣告話術看看就好,故意誤導投資者,AI 推理和訓練做的運算特性和運算量是不相同的。故意只寫推理運算效率,是因為大模型訓練的能力完全沒辦法相比,而現在最昂貴的投資是對AI訓練的運算量。
內文搜尋
X
評分
評分
複製連結
Mobile01提醒您
您目前瀏覽的是行動版網頁
是否切換到電腦版網頁呢?