English | 简体中文
在这里,我们提供了一些可以运行的Jupyter* notebooks,用于学习和尝试使用OpenVINO™开发套件。这些notebooks旨在向各位开发者提供OpenVINO基础知识的介绍,并教会大家如何利用我们的API来优化深度学习推理。.
请注意:本仓库的主分支已经更新为支持OpenVINO 2022.2版本。 如果想要升级到新版本,请在你的 openvino_env
虚拟环境中运行 pip install --upgrade -r requirements.txt
. 如果你是第一次安装,请阅读下方的安装指南。如果你想要使用之前的OpenVINO长期支持版本(LTS),请check out到 2021.4 branch分支。
如果你需要帮助,请创建一个GitHub Discussion。
OpenVINO Notebooks需要预装Python和Git, 针对不同操作系统的安装参考以下英语指南:
Windows | Ubuntu | macOS | Red Hat | CentOS | Azure ML | Docker |
---|
Jupyter notebooks 分为四个大类,选择一个跟你需求相关的开始试试吧。祝你好运!
演示如何使用OpenVINO的Python API进行推理的简短教程。
001-hello-world |
002-openvino-api |
003-hello-segmentation |
004-hello-detection |
---|---|---|---|
使用OpenVINO进行图像分类 | 学习使用OpenVINO Python API | 使用OpenVINO进行语义分割 | 使用OpenVINO进行文本检测 |
解释如何使用OpenVINO工具进行模型优化和量化的教程。
101-tensorflow-to-openvino |
102-pytorch-onnx-to-openvino | 103-paddle-onnx-to-openvino |
104-model-tools |
---|---|---|---|
转换TensorFlow模型为OpenVINO IR | 转换PyTorch模型为OpenVINO IR | 转换PaddlePaddle模型为OpenVINO IR | 从Open Model Zoo进行模型下载,转换以及进行基线测试 |
更多有趣的notebooks在这里!
点击这里查看完整列表!
Notebook | Description |
---|---|
101-tensorflow-to-openvino |
转换 TensorFlow模型为OpenVINO IR |
102-pytorch-onnx-to-openvino | 转换PyTorch模型为OpenVINO IR |
103-paddle-onnx-to-openvino |
转换PaddlePaddle模型为OpenVINO IR |
104-model-tools |
从Open Model Zoo进行模型下载,转换以及进行基线测试 |
105-language-quantize-bert | 优化及量化BERT预训练模型 |
106-auto-device |
演示如何使用AUTO设备 |
107-speech-recognition-quantization | 优化及量化预训练Wav2Vec2语音模型 |
110-ct-segmentation-quantize |
量化肾脏分割模型并展示实时推理 |
111-detection-quantization |
量化目标检测模型 |
112-pytorch-post-training-quantization-nncf | 利用神经网络压缩框架(NNCF)在后训练模式下来量化PyTorch模型(没有模型微调) |
113-image-classification-quantization |
量化mobilenet图片分类 |
114-quantization-simplified-mode |
使用POT在简化模式下量化图片分类模型 |
115-async-api |
使用异步执行改进数据流水线 |
演示对特定模型的推理。
210-ct-scan-live-inference |
211-speech-to-text |
213-question-answering |
208-optical-character-recognition |
209-handwritten-ocr |
---|---|---|---|---|
演示CT扫描数据的实时分割 | 对语音转文本识别模型推理 | 根据上下文回答问题 | 使用文本识别resnet对图像上的文本进行注释 | 手写体中文及日文OCR |
的人不一了是他有为在责新中任自之我们 |
更多有趣的notebooks在这里!
点击这里查看完整列表!
包含训练神经网络代码的教程。
Notebook | Description | Preview |
---|---|---|
301-tensorflow-training-openvino | 从TensorFlow训练花朵分类模型,然后转换为OpenVINO IR | |
301-tensorflow-training-openvino-pot | 使用POT量化花朵模型 | |
302-pytorch-quantization-aware-training | 使用神经网络压缩框架(NNCF)量化PyTorch模型 | |
305-tensorflow-quantization-aware-training | 使用神经网络压缩框架(NNCF)量化TensorFlow模型 |
在网络摄像头或视频文件上运行的实时推理演示。
401-object-detection-webcam |
402-pose-estimation-webcam |
403-action-recognition-webcam |
405-paddle-ocr-webcam |
---|---|---|---|
使用网络摄像头或视频文件进行目标检测 | 使用网络摄像头或视频文件进行人体姿态检测 | 使用网络摄像头或视频文件进行动作识别 | 使用网络摄像头或视频文件进行OCR |
如果你遇到了问题,请查看故障排除, 常见问题解答 或者创建一个GitHub discussion。
带有 按键的Notebooks可以在无需安装的情况下运行。Binder 是一项资源有限的免费在线服务。 如果享有获得最佳性能体验,请遵循安装指南在本地运行Notebooks。
您将在这一部分中获得很多乐趣:
Vision-monodepth | CT-scan-live-inference | Object-detection-webcam | Pose-estimation-webcam | Action-recognition-webcam |
---|---|---|---|---|
Notebooks几乎可以在任何地方运行—您的笔记本电脑、云虚拟机,甚至是Docker容器。下表列出了支持的操作系统和Python版本。注意: Python 3.10还没有被支持。
支持的操作系统 | Python 版本 (64-bit) |
---|---|
Ubuntu 18.04 LTS, 64-bit | 3.6, 3.7, 3.8, 3.9 |
Ubuntu 20.04 LTS, 64-bit | 3.6, 3.7, 3.8, 3.9 |
Red Hat Enterprise Linux 8, 64-bit | 3.6, 3.8, 3.9 |
CentOS 7, 64-bit | 3.6, 3.7, 3.8, 3.9 |
macOS 10.15.x versions | 3.6, 3.7, 3.8, 3.9 |
Windows 10, 64-bit Pro, Enterprise or Education editions | 3.6, 3.7, 3.8, 3.9 |
Windows Server 2016 or higher | 3.6, 3.7, 3.8, 3.9 |
如果你希望启动单个的notebook(如:Monodepth notebook),运行以下命令:
jupyter 201-vision-monodepth.ipynb
jupyter lab notebooks
在浏览器中,从Jupyter Lab侧边栏的文件浏览器中选择一个notebook文件,每个notebook文件都位于notebooks目录中的子目录中。
停止Jupyter Kernel
按 Ctrl-c 结束 Jupyter session,会弹出一个提示框 Shutdown this Jupyter server (y/[n])? 输入 y 并按 回车。
注销虚拟环境
注销虚拟环境:只需在激活了 openvino_env 的终端窗口中运行 deactivate 即可。
重新激活环境:在Linux上运行 source openvino_env/bin/activate 或者在Windows上运行 openvino_env\Scripts\activate 即可,然后输入 jupyter lab 或 jupyter notebook 即可重新运行notebooks。
删除虚拟环境 _(可选)_
直接删除 openvino_env 目录即可删除虚拟环境:
Linux和macOS:
rm -rf openvino_env
Windows:
rmdir /s openvino_env
从Jupyter中移除openvino_env Kernel
jupyter kernelspec remove openvino_env
如果以下方法无法解决您的问题,欢迎创建一个discussion topic 或issue!
- 运行 python check_install.py 可以帮助检查一些常见的安装问题,该脚本位于openvino_notebooks 目录中。 记得运行该脚本之前先激活 openvino_env 虚拟环境。
- 如果出现 ImportError ,请检查是否安装了 Jupyter Kernel。如需手动设置kernel,从 Jupyter Lab 或 Jupyter Notebook 的_Kernel->Change Kernel_菜单中选择openvino_env内核。
- 如果OpenVINO是全局安装的,不要在执行了setupvars.bat或setupvars.sh的终端中运行安装命令。
- 对于Windows系统,我们建议使用_Command Prompt (cmd.exe),而不是_PowerShell。
使用 contributors-img制作。