Intel跑步進入AI PC時代！13代酷睿支援160億參數大模型、Arc顯示卡提速54％

生成式AI(AIGC)無疑是當下最熱門的話題和應用，各家軟硬體廠商都在全力投入。

作為擁有強大硬體、廣泛生態的行業領袖，Intel也正在大力推動PC AIGC應用的落地，從硬體到軟體提供全方位支援。

目前在PC平台上，Intel已發佈的12/13代酷睿、Arc A系列顯示卡，以及即將發佈的下一代酷睿，都能滿足AIGC對於高算力的需求。

再加上軟體生態的建構和模型的最佳化，AIGC場景在桌上型電腦、輕薄本、全能本、遊戲本等裝置上都能落地應用，從而大大提高熱門的日常生活、工作效率。

其中，基於OpenVINO PyTorch後端的方案，通過Pytorch API，可以讓社區開源模型很好地運行在Intel客戶端處理器、整合顯示卡、獨立顯示卡和專用AI引擎之上。

比如說， Stable Diffusion的實現Automatic1111 WebUI，已經能夠通過上述方式，在Intel處理器、顯示卡上運行FP16浮點精度的模型，支援文生圖、圖生圖、局部修復等功能。



更進一步地，Intel通過模型最佳化，降低了模型對硬體資源的需求，進而提升了模型的推理速度，讓社區開源模型能夠很好地運行在PC上。

眼下，Intel 13代酷睿通過XPU加速、low-bit量化，以及其它軟體層面的最佳化，可以讓最高達160億參數的大語言模型，通過BigDL-LLM框架運行在16GB及以上記憶體容量的個人電腦上。

已經驗證過的模型包括但不限於：LLAMA/LLAMA2、ChatGLM/ChatGLM2、MPT、Falcon、MOSS、Baichuan、QWen、Dolly、RedPajama、StarCoder、Whisper等，並通過Transformers、LangChain API介面支援Windows、Linux的作業系統。



即將發佈的代號Meteor Lake的酷睿Ultra系列，更會成為PC AI歷史上的重要里程碑。

酷睿Ultra它將通過分離式模組架構，整合名為“VPU”的獨立AI加速單元，為PC使用者提供AI驅動的新功能、新應用，比如Adobe Premiere Pro中的自動重新構圖、場景編輯檢測等等，還有更高效的機器學習加速。

目前，Intel正與PC產業夥伴合作，加速AI加速應用的落地和普及，未來後續基帶產品也會進一步擴展AI能力。




另一方面，Intel Arc銳炫顯示卡通過驅動和補丁更新，已經可以較好地支援Stable Diffusion，性能提升效果相當顯著。

Tom's Hardware就分別測試了Arc A770 16GB、Arc A750，使用了Automatic1111 WebUI OpenVINO。

在此之前，Arc A770 16GB、Arc A450的性能相比RTX 4060落後在20％左右，如今分別大幅提升了54％、40％，對比RTX 4060能分別領先25％、6％。







要知道，它倆的遊戲性能其實遠不如RTX 4060，但如今AI效率卻更高，足可見Intel的硬體性能和軟體最佳化相當給力。

再看看AMD顯示卡的表現，就更加凸顯Intel的進步了，RX 6000系列的效率依然低得令人髮指，RX 6800都只有Arc A750的一半多一點點。