2025 年，人工智能（AI）正邁入新的時代。全球范圍內，邊緣計算的增長顯著，預計 50% 以上的企業(yè)數據將在邊緣設備上處理。與此同時，大型語言模型（LLM）的熱潮席卷各行各業(yè)，從智能客服到數據分析，AI 的應用場景日益多元化。然而，企業(yè)和組織在擁抱 AI 轉型時面臨諸多挑戰(zhàn)：高昂的硬件成本（傳統(tǒng) GPU 解決方案動輒 5000 美元/節(jié)點）、數據隱私風險，以及云端計算帶來的延遲問題。

【英特爾“芯”AI，賦能云邊端】系列文章：

英特爾“芯”AI，賦能云邊端｜第八期：OpenVINO GEN AI 優(yōu)化合同審閱，增效企業(yè)合規(guī)

英特爾“芯”AI，賦能云邊端｜第七期：5000元 Ultra RAG 增強 30B 大模型， 智啟企業(yè) AI 新紀元

英特爾“芯”AI，賦能云邊端｜第六期：使用 Ollama 在 Core Ultra 高效部署 Qwen3:8b

英特爾“芯”AI，賦能云邊端｜第五期：MedGemma-4B 賦能智能醫(yī)療，基于 Core Ultra 的高效部署

英特爾“芯”AI，賦能云邊端｜第四期：閉環(huán)賦能，助力企業(yè)和組織實現(xiàn)數字化和 AI 轉型

英特爾“芯”AI，賦能云邊端｜第三期：YiCONNECT 和 YiEDGE 實現(xiàn)高效管理與邊緣推理

英特爾“芯”AI，賦能云邊端｜第二期：用英特爾 Arc 系列顯卡高效訓練 YOLO 和 Qwen-7B

英特爾“芯”AI，賦能云邊端｜第一期：開啟 AI 新時代的云邊端閉環(huán)

為了應對這些挑戰(zhàn)，上海億琪軟件有限公司推出 YiCoreAI 平臺，依托英特爾強大的產品棧，打造了一個通用的 云邊端 AI 閉環(huán)解決方案。YiCoreAI 整合了英特爾 Xeon CPU、Arc A770 GPU、Core Ultra NPU，以及 OpenVINO、IPEX（Intel? Extension for PyTorch） 和 EdgeX Foundry 等技術，通過 訓練（YiAISTUDIO）、管理/下發(fā)（YiCONNECT）、推理/優(yōu)化（YiEDGE） 的閉環(huán)流程，為各種行業(yè)和領域提供靈活、高效的 AI 賦能。

目錄

演示視頻

背景與趨勢

近年來，AI 的計算需求激增。據預測，到 2025 年，全球 AI 市場規(guī)模將超過 1 萬億美元，其中邊緣 AI 的增長尤為迅猛。邊緣計算的優(yōu)勢在于減少數據傳輸延遲、增強隱私保護，但也對計算能力和成本提出更高要求。與此同時，LLM 模型（如 Qwen-7B）的普及推動了智能問答、文本生成等應用的爆發(fā)，傳統(tǒng)云端解決方案已難以滿足多場景需求。

面臨的挑戰(zhàn)

• 成本問題：高性能 GPU（如 Nvidia H100）的采購和維護成本讓許多中小企業(yè)望而卻步。
• 隱私與延遲：云端集中式計算可能導致數據泄露風險，且遠程傳輸延遲影響實時性。
• 行業(yè)適配性：單一解決方案難以滿足零售、安防、物流、教育等多樣化需求。

那么，我們勢必需要一款 通用解決方案，既能滿足不同行業(yè)的 AI 需求，又能降低成本，同時確保數據安全和實時響應。

YiCoreAI 的通用解決方案

YiCoreAI 平臺通過 云邊端協(xié)同，解決上述難題。其核心架構包括：

• YiAISTUDIO（訓練）：利用英特爾 Xeon CPU 和 Arc 系列 GPU（如：A770/B580），提供高效的模型訓練支持，適配各種 AI 模型（如 YOLOv8/v11 對象檢測、Qwen-7B 智能問答）。
• YiCONNECT（管理/下發(fā)）：基于 Kubernetes 和 Kubeflow 生態(tài)，實現(xiàn)模型管理和設備分發(fā)，確保跨設備無縫協(xié)作。
• YiEDGE（推理/優(yōu)化）：依托英特爾 AIPC(Core Ultra NPU) 和 OpenVINO(OVMS: OpenVINO Model Server)，優(yōu)化邊緣推理，支持多種數據類型（圖像、文本、傳感器數據）。

技術優(yōu)勢

• 成本優(yōu)化：YiCoreAI 每節(jié)點成本僅 2000 美元，相比傳統(tǒng)方案節(jié)省 20-60%。英特爾 Arc A770 GPU（300 美元）提供接近 RTX 3060 的性能（250 images/sec），性價比突出。
• 性能提升：Core Ultra NPU 推理延遲低至 30-50ms，OpenVINO 的 INT8 量化技術進一步提升效率，且功耗大幅降低，對于成千上萬臺設備，可節(jié)省數萬美元/年。
• 通用性：支持多種模型和數據類型，適配零售（庫存管理）、安防（視頻分析）、物流（路徑優(yōu)化）、教育（智能問答）等行業(yè)，滿足多樣化需求。

在這樣的技術優(yōu)勢下，我們相信 YiCoreAI 將成為 AI 新時代的云邊端閉環(huán)解決方案，助力企業(yè)和組織實現(xiàn)數字化和 AI 轉型。

億琪軟件與英特爾生態(tài)的協(xié)同

作為 EdgeX TSC 成員，億琪軟件深耕邊緣計算領域，結合 YiLABEL（數據標注）和 YiEDGE（邊緣計算），為 YiCoreAI 提供強大的技術基礎。英特爾生態(tài)的支持進一步增強了平臺的兼容性和擴展性。

未來展望

YiCoreAI 計劃開源代碼，吸引全球開發(fā)者社區(qū)，并積極參與社區(qū)活動，如 2025 英特爾人工智能創(chuàng)新應用大賽。我們期待與更多企業(yè)和開發(fā)者合作，共同推動 AI 技術的創(chuàng)新與應用。

【英特爾“芯”AI，賦能云邊端】系列文章：

英特爾“芯”AI，賦能云邊端｜第八期：OpenVINO GEN AI 優(yōu)化合同審閱，增效企業(yè)合規(guī)

英特爾“芯”AI，賦能云邊端｜第七期：5000元 Ultra RAG 增強 30B 大模型， 智啟企業(yè) AI 新紀元

英特爾“芯”AI，賦能云邊端｜第六期：使用 Ollama 在 Core Ultra 高效部署 Qwen3:8b

英特爾“芯”AI，賦能云邊端｜第五期：MedGemma-4B 賦能智能醫(yī)療，基于 Core Ultra 的高效部署

英特爾“芯”AI，賦能云邊端｜第四期：閉環(huán)賦能，助力企業(yè)和組織實現(xiàn)數字化和 AI 轉型

英特爾“芯”AI，賦能云邊端｜第三期：YiCONNECT 和 YiEDGE 實現(xiàn)高效管理與邊緣推理

英特爾“芯”AI，賦能云邊端｜第二期：用英特爾 Arc 系列顯卡高效訓練 YOLO 和 Qwen-7B

英特爾“芯”AI，賦能云邊端｜第一期：開啟 AI 新時代的云邊端閉環(huán)