因為公司打算導入網路AI客服
就派我去聽一場相關服務的發表會
發表會提到服務是透過上傳資料來避免AI亂回
可是資料多少牽扯到隱私的問題、更怕資料外流出去==
QA環節我就有發問，想知道他們資料會存在哪
最終得到的回覆是存在他們的雲端伺服器
但有補充如果服務建在公司本地端資料就能存在自己公司
就是需要一些相應的硬體規格
後來回公司就有開始查AI工作站的商品
在PChome找到兩台跟輝達配合的AI工作站
分別是Altos GB10 f1跟技嘉 Ai TOP Atom
看官網規格好像差不多，還都加入自家AI系統
能方便開發者快速完成訓練、推論與部署
但價格上Altos GB10 F1 相對便宜不少
想問如果想把發表會聽到的AI客服服務
用這台來放他們做好的模型，最後我們再自己匯入資料規範AI
不知道是否可行呢?還請各位專業人員解惑了，感謝
Bobbybob wrote:
但有補充如果服務建在公司本地端資料就能存在自己公司
就是需要一些相應的硬體規格
既然你有提問，對方當下告訴你"需要一些相應的硬體規格"
那就直接問他們需要哪種硬體，來做本地搭建對應它們的AI模型就好。
丟上來大家也不會通靈...
然後提到的技嘉 Ai TOP Atom
這些迷你機器都是偏以個人、工作室計算為主，
機器內部並無太多的儲存擴充空間，
是否能支撐商業級龐大的客服資料鏈儲存? 要確捏
你要做的不是在網路上亂買這些迷你雞，
而是確認相容規格後，聯絡可架站的廠商例如廣達 (Quanta)鴻海 (Foxconn)、
技嘉本身也有...等...伺服器搭建部門來協助公司搭建。
(不要想成超大型積架式伺服器哪種，
他們也賣小企業用塔式的AI訓練多儲存伺服器)
而且有專門的軟硬體服務這樣對資料才有保障。
內文搜尋