英特爾“芯”AI,賦能云邊端|第六期:使用 Ollama 在 Core Ultra 高效部署 Qwen3:8b
自第一期起,YiCoreAI 平臺憑借 YIAISTUDIO 利用 Arc A770 GPU 高效訓練 YOLOv8/v11 和 Qwen-7B,到 YiCONNECT 基于 Kubernetes 實現智能管理,再到 YiEDGE 依托 Core Ultra NPU 實現 40ms 延遲推理,逐步構建云邊端 AI 閉環。第五期更在 Ultra 5 125H iGPU 上部署 MedGemma 4B IT,驗證便攜性。
第六期,Ollama 驅動 Qwen3:8b 在 Core Ultra 上實現高效部署,延遲低至 35ms,準確率超 85%,功耗優化顯著,賦能教育心理健康和醫療診斷。