∴ GitHub / 趋势仓库

openvinotoolkit / openvino

开源 AI 推理优化与部署工具套件

语言
C++
Star
11.4k
Fork
3.6k
当日新增(11-19)
+24
累计在榜
2 天
最高名次
第 13 名
首次上榜
2026-11-18
去 GitHub 查看 ↗项目主页 ↗

∴ 是什么

OpenVINO 是一个开源工具套件,用于优化和部署深度学习模型。它支持将 PyTorch、TensorFlow、ONNX、Keras、PaddlePaddle、JAX/Flax 等框架训练的模型转换和部署,提供 CPU、GPU、NPU 等多种设备支持。包含 Python、C++、C、NodeJS 等 API,并针对生成式 AI 提供 GenAI API。

∴ 解决什么问题

  • 提升计算机视觉、语音识别、生成式 AI、大语言模型等任务的推理性能
  • 支持多种主流框架模型,无需原始框架即可转换部署
  • 适配从边缘到云的多种硬件平台,降低资源需求

∴ 怎么上手

  1. 01运行 `pip install -U openvino` 安装
  2. 02验证安装:`import openvino as ov; print(ov.__version__)`
  3. 03将 PyTorch 模型转换为 OpenVINO 模型:`ov.convert_model(model, example_input=(example,))`
  4. 04编译模型:`core.compile_model(ov_model, 'CPU')`
  5. 05执行推理:`output = compiled_model({0: example.numpy()})`

∴ 适合谁

适合需要优化和部署深度学习模型的开发者,尤其是涉及计算机视觉、自然语言处理和生成式 AI 应用的人群

∴ 要点

  • 支持 PyTorch、TensorFlow、ONNX、Keras、PaddlePaddle、JAX/Flax 模型
  • 支持 CPU(x86、ARM)、GPU(Intel 集成与独立显卡)、NPU 推理
  • 提供 C++、Python、C、NodeJS API
  • 与 Hugging Face Optimum Intel、Torch.compile、ONNX Runtime、LangChain 等集成
  • 提供 OpenVINO Notebooks 示例和 GenAI 支持
  • 采用 Apache-2.0 许可证
许可证 Apache-2.0aicomputer-visiondeep-learningdeploy-aidiffusion-modelsgenerative-aigood-first-issueinferencellm-inferencenatural-language-processingnlpopenvinooptimize-aiperformance-boostrecommendation-systemspeech-recognitionstable-diffusiontransformersyolo

解读由 AI 依据项目 README 生成,生成于 2026-11-18,以 GitHub 原文为准。

∴ 在榜记录

GitHub Trending 今日榜的每日存档,日期按北京时间。2026-11-18 首次上榜,累计在榜 2 天,最高第 13 名。

[object Object]2026-11-18 +182026-11-19 +24
每日新增 Star · 2026-11-18 至 2026-11-19 · 共 2 个在榜日峰值 +24
日期名次当日新增总 Star
#13+2411,374
#14+1811,232