∴ GitHub / 趋势仓库
openvinotoolkit / openvino
开源 AI 推理优化与部署工具套件
- 语言
- C++
- Star
- 11.4k
- Fork
- 3.6k
- 当日新增(11-19)
- +24
- 累计在榜
- 2 天
- 最高名次
- 第 13 名
- 首次上榜
- 2026-11-18
∴ 是什么
OpenVINO 是一个开源工具套件,用于优化和部署深度学习模型。它支持将 PyTorch、TensorFlow、ONNX、Keras、PaddlePaddle、JAX/Flax 等框架训练的模型转换和部署,提供 CPU、GPU、NPU 等多种设备支持。包含 Python、C++、C、NodeJS 等 API,并针对生成式 AI 提供 GenAI API。
∴ 解决什么问题
- 提升计算机视觉、语音识别、生成式 AI、大语言模型等任务的推理性能
- 支持多种主流框架模型,无需原始框架即可转换部署
- 适配从边缘到云的多种硬件平台,降低资源需求
∴ 怎么上手
- 01运行 `pip install -U openvino` 安装
- 02验证安装:`import openvino as ov; print(ov.__version__)`
- 03将 PyTorch 模型转换为 OpenVINO 模型:`ov.convert_model(model, example_input=(example,))`
- 04编译模型:`core.compile_model(ov_model, 'CPU')`
- 05执行推理:`output = compiled_model({0: example.numpy()})`
∴ 适合谁
适合需要优化和部署深度学习模型的开发者,尤其是涉及计算机视觉、自然语言处理和生成式 AI 应用的人群
∴ 要点
- 支持 PyTorch、TensorFlow、ONNX、Keras、PaddlePaddle、JAX/Flax 模型
- 支持 CPU(x86、ARM)、GPU(Intel 集成与独立显卡)、NPU 推理
- 提供 C++、Python、C、NodeJS API
- 与 Hugging Face Optimum Intel、Torch.compile、ONNX Runtime、LangChain 等集成
- 提供 OpenVINO Notebooks 示例和 GenAI 支持
- 采用 Apache-2.0 许可证
许可证 Apache-2.0aicomputer-visiondeep-learningdeploy-aidiffusion-modelsgenerative-aigood-first-issueinferencellm-inferencenatural-language-processingnlpopenvinooptimize-aiperformance-boostrecommendation-systemspeech-recognitionstable-diffusiontransformersyolo
解读由 AI 依据项目 README 生成,生成于 2026-11-18,以 GitHub 原文为准。
∴ 在榜记录
GitHub Trending 今日榜的每日存档,日期按北京时间。2026-11-18 首次上榜,累计在榜 2 天,最高第 13 名。