按照臺灣慣老闆的習性,看到老黃的 DGX Spark/DGX Station,實際給的預算是老陳(立武)的平台,不然農企蘇媽的ROCm搞你死,啥都可以去DIY組一台。显存也能叠叠乐,双 Intel Arc A770 显卡低成本部署 DeepSeek R1 32B 蒸馏模型体验
陳拔 wrote:NVIDIA DGX...(恕刪) 這種 workstation 型的主要是給中小型公司...大陸已經一堆廠商在出貨 DeepSeek 一體機了...這東西主要是給可以離線佈署的開源模型在用, 離線佈署好處是公司敏感資料不會洩漏出去給 CloseAI 或其他 online AI. 可以用自己寶貴的資料訓練專屬 AI ... 又能省 API 費用...另外就是特種領域AI, 大陸一堆 app 現在拼命自己架 DeepSeek 分身, 然後餵自己的資料進去, 提供給自己的用戶使用... 醫療院所已經在弄了, 然後知識平台也都有推出, 就直接掛在自己的 app 上給客戶用...