概览
OpenVINO 可将来自受支持训练框架的模型转换为可部署表示，为选定设备编译模型，并运行优化后的推理。它覆盖计算机视觉、语音识别、自然语言处理、推荐、扩散模型和生成式 AI 工作负载。该仓库的主要语言为 C++，同时提供 C++、Python、C 和 Node.js API。
主要功能
- 针对计算机视觉、语音、NLP、生成式 AI 及其他深度学习工作负载的推理优化
- 从 PyTorch、TensorFlow、ONNX、TensorFlow Lite、PaddlePaddle 和 JAX/Flax 转换模型
- 通过 Optimum Intel 集成 Hugging Face Transformers 和 Diffusers
- 在 x86 和 ARM CPU、Intel 集成及独立 GPU、Intel NPU 上执行推理
- C++、Python、C 和 Node.js API
- 用于优化模型管线的 GenAI API
- 与 ONNX Runtime、Keras 3、torch.compile、ExecuTorch、vLLM、LangChain、LlamaIndex 和 LLMWare 的集成
- Python 和 C++ 示例，以及 Python Notebook 教程
要求、安装和快速入门
Python 快速安装：`pip install -U openvino`。其他发行方式见 https://docs.openvino.ai/2026/get-started/install-openvino.html。可通过 `import openvino as ov` 和 `print(ov.__version__)` 验证 Python 安装。GenAI 安装文档见 https://docs.openvino.ai/2026/get-started/install-openvino/install-openvino-genai.html。
用法
快速开始：导入 OpenVINO，使用源框架加载已训练模型，调用 `ov.convert_model(...)`，创建 `ov.Core()`，通过 `core.compile_model(ov_model, 'CPU')` 编译，并使用准备好的输入数据调用已编译模型。首个模型的引导示例见 https://docs.openvino.ai/2026/get-started.html。更多 Python 和 C++ 示例见 https://docs.openvino.ai/2026/get-started/learn-openvino/openvino-samples.html。
模型兼容性与使用场景
README 表示支持源自 PyTorch、TensorFlow、ONNX、TensorFlow Lite、Keras、PaddlePaddle 和 JAX/Flax 的模型。可通过 Optimum Intel 集成 Hugging Face 的 Transformers 和 Diffusers 模型。兼容性取决于受支持的模型、操作、设备和转换路径；所提供记录中未包含完整的兼容性矩阵。
许可证与风险说明
Apache License 2.0（SPDX：Apache-2.0）。README 表示贡献内容将在项目许可证和版权条款下发布。许可证参考：https://api.github.com/licenses/apache-2.0
发布与维护
所提供记录未包含具体发布版本或更新日志条目。发布说明见 https://docs.openvino.ai/2026/about-openvino/release-notes-openvino.html。