
AI PC 除了本身硬體的算力之外,在應用程式與 AI 模型的支援度上更為重要,畢竟在 AI PC 中的三個重要腳色:CPU、GPU、NPU 所擅長的模型種類都不同,如何達到最佳化配置就成為未來不管是硬體或是軟體廠商都相當重要的課題。
而近期力推 Core Ultra 處理器的 Intel,今天稍早宣布了目前已經有超過 500 個 AI 模型針對 Core Ultra 處理器進行最佳化設定,包括 OpenVINO Model Zoo、Hugging Face、ONNX Model Zoo 和 PyTorch 等,類型涵蓋了包括大型語言、擴散、超分辨率、物體檢測、圖像分類/分割、計算機視覺等多項 AI 本機推論會使用到的模型種類,並且可以針對 CPU、GPU、NPU 做出不同的最佳化部署。
Intel 表示,AI 模型是 AI 加速應用軟體的基礎,包括物體去除、提高影像解析度以及對文章進行摘要整理等作業,沒有對 AI 模型進行最佳化設計,就無法發揮其最好的性能。而 Intel 的 Core Ultra 處理器透過在所有計算單元間的平衡負載設計,透過 Core Ultra 處理器的快取頻寬以及核心架構,讓 AI 模型在 AI PC 中進行高效能運算。
另外針對這 500 多個 AI 模型,Intel 也大致講解了相關功能和優勢,包括:
- 涵蓋超過 20 個 AI 類別,包括大型語言、擴散、超分辨率、物體檢測和計算機視覺
- AI 模型類別包括:Phi-2、Mistral、Llama、Bert、Whisper 和 Stable Diffusion 1.5 等市面上主要運用模型
- 便於開發和部署
- 提高系統穩定性、可靠性和性能。