分享：Ubuntu 環境下如何在 Intel xpu 上運行 ollama 驅動 Qwen3

隨著人工智能技術的迅猛發展，特別是大語言模型（LLM）在企業級應用中的潛力日益凸顯，如何在本地硬件上高效、安全地部署這些模型已成為開發者關注的焦點。英特爾作為AI硬件領域的領導者，通過其Core Ultra處理器（集成NPU和Arc GPU）以及IPEX-LLM（Intel Extension for PyTorch Large Language Models）優化庫，提供了強大的端側加速能力。結合輕量級的Ollama框架，我們可以在Ubuntu環境下，利用Intel XPU（特別是Arc系列GPU）實現Qwen3等開源大模型的本地化推理。

本文將詳細分享一種基于Docker容器的部署實踐：通過Intel官方的IPEX-LLM鏡像，在Intel硬件上快速啟動Ollama服務，并驅動Qwen3:8b模型運行。這種方式不僅充分利用了Intel GPU的異構計算優勢，實現低延遲、高吞吐的推理，還確保了數據隱私和離線可用性，特別適用于企業AI解決方案的創新探索（如本次英特爾平臺企業AI解決方案創新實踐賽的項目開發）。

通過以下步驟，你將能輕松復現一個高效的本地LLM環境，開啟端側AI的新篇章。