OpenVINO

OpenVINO
開發者	英特爾
首次發布	2018年5月16日，8年前
目前版本	2026.4（2026年9月16日；穩定版本）;
原始碼庫	github.com/openvinotoolkit/openvino
程式語言	C++
作業系統	跨平台
許可協定	Apache License 2.0
網站	openvino.ai

OpenVINO是由英特爾開發的開源軟件工具包，用於最佳化和部署深度學習模型。它支援多種流行的模型格式^[2]和工作負載，包括大型語言模型、電腦視覺、生成式人工智能、語音處理以及機械人策略部署^[3]。

OpenVINO針對英特爾硬件進行了最佳化，但也支援ARM/ARM64處理器^[2]。當與英特爾的Gaussian與神經加速器（GNA）配合時，它也被用於AI聲音處理驅動。

OpenVINO基於C++，並為C和Python提供API支援，同時也支援Node.js。

OpenVINO是跨平台的，並在Apache License 2.0下免費使用^[4]。

工作流程

最簡單的OpenVINO用法是取得一個模型並直接執行。但為獲得最佳結果，建議採用更完整的流程：^[5]

在某個受支援的框架中取得模型，
使用OpenVINO轉換器工具將模型轉換為OpenVINO IR，
使用OpenVINO的NNCF提供的訓練時或訓練後選項最佳化模型，^[6]
通過指定多種推理模式之一，使用OpenVINO執行時執行推理。

OpenVINO模型格式

OpenVINO IR^[7]是用於執行推理的預設格式。它以一對檔案儲存，即*.bin和*.xml，分別包含權重和拓撲。可通過應用的API或專用轉換器，將模型從受支援的框架之一轉換而來。

受支援格式的模型也可以直接用於推理，而無需先轉換為OpenVINO IR。這種方法更方便，但最佳化選項更少、效能更低，因為推理前會自動進行轉換。一些預轉換的模型可以在Hugging Face倉庫中找到^[8]。

受支援的模型格式包括：^[9]

PyTorch
TensorFlow
TensorFlow Lite
ONNX（包括可序列化為ONNX的格式）
PaddlePaddle
JAX/Flax

作業系統支援

OpenVINO可執行於Windows、Linux和macOS^[10]。

參見

深度學習軟件比較（英語：Comparison of deep learning software）

參考資料

^ 2026.4.0. 2026年9月16日 [2026年9月16日].
^ ^2.0 ^2.1 OpenVINO Compatibility and Support. OpenVINO Documentation. 2024-01-24 （英語）.
^ OpenVINO Physical AI. OpenVINO Documentation. 2026-08-04 [2026-08-05] （英語）.
^ License. OpenVINO repository. 2018-10-16 （英語）.
^ OpenVINO Workflow. OpenVINO Documentation. 2024-04-25 （英語）.
^ openvinotoolkit/nncf. OpenVINO™ Toolkit. [2026-04-08] （英語）.
^ OpenVINO IR. www.docs.openvino.ai. 2024-02-02 （英語）.
^ Hugging Face OpenVINO Space. Hugging Face （英語）.
^ OpenVINO Model Preparation. OpenVINO Documentation. 2024-01-24 （英語）.
^ System Requirements. OpenVINO Documentation. 2024-02 （英語）.

外部連結

GitHub上的OpenVINO

[wikidata-7a26348009d4342acf2d1c5c1f2a62c84065220d-v3-1] 2026.4.0. 2026年9月16日 [2026年9月16日].

[:0-2] 2.0 ^2.1 OpenVINO Compatibility and Support. OpenVINO Documentation. 2024-01-24 （英語）.

[3] OpenVINO Physical AI. OpenVINO Documentation. 2026-08-04 [2026-08-05] （英語）.

[4] License. OpenVINO repository. 2018-10-16 （英語）.

[5] OpenVINO Workflow. OpenVINO Documentation. 2024-04-25 （英語）.

[6] vinotoolkit/nncf. OpenVINO™ Toolkit. [2026-04-08] （英語）.

[7] OpenVINO IR. www.docs.openvino.ai. 2024-02-02 （英語）.

[8] Hugging Face OpenVINO Space. Hugging Face （英語）.

[9] OpenVINO Model Preparation. OpenVINO Documentation. 2024-01-24 （英語）.

[10] System Requirements. OpenVINO Documentation. 2024-02 （英語）.

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]

閱論編大型語言模型（LLM）
LLM列表 AI公司（英語：List of artificial intelligence companies）評測基準（英語：Language model benchmark）聊天機械人列表基礎模型生成式AI
概念	語言模型 NLP NLG 計算語言學基礎模型小型語言模型推理模型 GPT Transformer 注意力 KV快取（英語：Transformer (deep learning)#KV caching）上下文窗口分詞詞嵌入參數超參數自回歸混合專家（MoE）推理（英語：Inference (machine learning)）模型壓縮知識蒸餾推測解碼 PagedAttention 神經網絡縮放定律多模態開放權重
訓練、提示詞與對齊	自監督學習監督學習微調指令微調 RLHF 憲法AI（英語：Constitutional AI） AI對齊 AI安全機制可解釋性提示工程上下文學習（英語：In-context learning）思維鏈 RAG 提示注入對抗機器學習（英語：Adversarial machine learning）幻覺隨機鸚鵡故障標記（英語：Glitch token）生成引擎最佳化（英語：Generative engine optimization）
模型	Apertus AI BERT BLOOM Chinchilla Claude DBRX Gemini Gemma GloVe（英語：GloVe） GLM GPT GPT-J HKGAI V1 盤古 Hy 火山引擎 IBM Granite Jais（英語：Jais (language model)） LaMDA Llama MiMo Minerva（英語：Minerva (model)） Mistral 與 Mixtral Muse Spark Muse Glimmer Nemotron（英語：Nemotron） PaLM Phi（英語：Phi (language model)） Qwen Seq2Seq T5（英語：T5 (language model)） Vicuna（英語：Vicuna LLM） Word2vec XLNet（英語：XLNet）
聊天機械人與助手	Amazon Q ChatGPT Character.ai Claude DeepSeek 豆包文心一言騰訊元寶智譜清言 Google Gemini Grok Kimi Lumo Microsoft Copilot Meta AI Perplexity Sparrow（英語：Sparrow (chatbot)） You.com 港話通
智能體、編程與應用	AI智能體智能體 AutoGPT Claude Code Codex CrewAI（英語：CrewAI） DeepSeek Harness LangChain Manus OpenClaw ima CodeBuddy WorkBuddy 模型上下文協定 Agent2Agent OpenAI Codex ZCode 氛圍編程代碼生成問答機器翻譯文字摘要（英語：Text summarization）聊天機械人虛擬助理高等教育中的LLM（英語：LLMs in higher education）
軟件	PyTorch TensorFlow Hugging Face 推理引擎（英語：Inference engine） llama.cpp LM Studio Ollama SGLang（英語：SGLang） TensorRT-LLM（英語：TensorRT#TensorRT-LLM） vLLM ONNX OpenVINO 向量數據庫 ChromaDB（英語：ChromaDB）深度學習軟件（英語：Comparison of deep learning software）開源AI軟件（英語：Lists of open-source artificial intelligence software）
硬件與基礎設施	AI數據中心（英語：AI data center）人工智能加速器 GPU CUDA TPU 高頻寬記憶體
基準、評測與檢測	語言模型基準（英語：Language model benchmark） MMLU 人類的最後考試 LMArena LLM-as-a-Judge 困惑度指標 GPTZero AI內容檢測（英語：Artificial intelligence content detection） Undetectable.ai（英語：Undetectable.ai）
數據集與數據	數據集語料庫 Common Crawl（英語：Common Crawl） The Pile（英語：The Pile (dataset)）網絡爬蟲合成數據（英語：Synthetic data）訓練/驗證/測試集
組織	AI21 Labs 阿里巴巴 Anthropic 百度 Cohere（英語：Cohere）深度求索 EleutherAI Google DeepMind Hugging Face Meta AI Microsoft AI（英語：Microsoft AI） Mistral AI MiniMax 月之暗面階躍星辰 Nvidia OpenAI Sarvam AI（英語：Sarvam AI）技術創新研究所（英語：Technology Innovation Institute） Thinking Machines Lab（英語：Thinking Machines Lab） xAI
人物	山姆·奧特曼達里奧·阿莫代伊約書亞·本希奧 Aidan Gomez（英語：Aidan Gomez）傑米斯·哈薩比斯傑弗里·辛頓安德烈·卡帕西揚·勒丘恩梁珀西（英語：Percy Liang）梁文鋒克里斯托弗·曼寧（英語：Christopher D. Manning） Arthur Mensch（英語：Arthur Mensch）米拉·穆拉蒂 Alec Radford（英語：Alec Radford）諾姆·沙澤爾伊利亞·蘇茨克弗阿希什·瓦斯瓦尼（英語：Ashish Vaswani）吳恩達
社會、經濟與治理	主權AI AI熱潮 AI泡沫 AI垃圾內容（英語：AI slop）擬人化（英語：AI anthropomorphism）軍備競賽聊天機械人精神病競爭（英語：Competition in artificial intelligence）版權（英語：Artificial intelligence and copyright）死亡（英語：Deaths linked to chatbots）依賴（英語：Generative artificial intelligence dependency）環境（英語：Environmental impact of artificial intelligence）監管倫理生存風險教育（英語：Artificial intelligence in education）醫療職場（英語：Workplace impact of artificial intelligence）
分類