热门搜索:
openvino/model_server
openvino
Intel® Distribution of OpenVINO™ 模型服务器 Docker 镜像，提供高性能推理服务，支持多设备与 API，适用于部署优化的机器学习模型。
18 次收藏下载次数: 0状态：社区镜像维护者：openvino仓库类型：镜像最近更新：1 个月前
让 AI 帮你使用轩辕镜像？ · 展开查看说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
近期标签的功能
| 标签 | 支持的设备 | 基础操作系统 | 说明 |
|---|---|---|---|
| weekly | CPU,iGPU,dGPU,NPU | ubuntu24.04 | 主分支的开发版本 |
| latest | CPU | ubuntu24.04 | 最新发布版本 |
| latest-py | CPU,iGPU,dGPU,NPU | ubuntu24.04 | 支持GPU和Python |
| 2025.3-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.3 | CPU | ubuntu24.04 | |
| 2025.2.1-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.2.1 | CPU | ubuntu24.04 | |
| 2025.2-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.2 | CPU | ubuntu24.04 | |
| 2025.1-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.1 | CPU | ubuntu24.04 | |
| 2025.0-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.0 | CPU | ubuntu24.04 | |
| 2024.5-gpu | CPU,iGPU,dGPU,NPU | ubuntu22.04 | |
| 2024.5 | CPU | ubuntu22.04 |
Intel® Distribution of OpenVINO™ 模型服务器 Docker 镜像
OpenVINO™ 模型服务器是一个可扩展的高性能解决方案，用于部署针对 Intel® 架构优化的机器学习模型。该服务器通过 gRPC、REST API 或 C API 提供推理服务，便于部署新算法和 AI 实验。
- GitHub: https://github.com/openvinotoolkit/model_server
- 文档: [***]
Intel® Distribution of OpenVINO™ 工具包可快速部署模拟人类视觉的应用程序和解决方案。基于卷积神经网络 (CNN)，该工具包可在 Intel® 硬件上扩展计算机视觉 (CV) 工作负载，最大限度提高性能。
- 网站: [***]
- 发行说明: https://github.com/openvinotoolkit/model_server/releases
- 文档: [***]
- 支持论坛: [***]
Docker 部署示例
查看帮助信息
shdocker run -it --rm openvino/model_server:latest --help
启动单个模型服务
无需配置文件，通过单命令启动容器并部署模型：
shdocker run --rm -d -v /models/:/opt/ml:ro -p 9001:9001 -p 8001:8001 openvino/model_server:latest --model_path /opt/ml/model1 --model_name my_model --port 9001 --rest_port 8001
注：上述命令将本地
/models/目录挂载为只读卷，映射 gRPC 端口 9001 和 REST 端口 8001，部署路径为/opt/ml/model1的模型并命名为my_model。
更多部署指南：经典模型快速入门、LLM 模型快速入门
许可证
***声明：通过访问、下载或使用本软件及依赖组件（“软件包”），您同意软件许可协议条款，包括第三方软件的相关声明与条款。详情见“third-party-programs.txt”或类似文件。
使用本容器即表示您同意 Intel 软件许可协议。镜像用户需自行确保符合所有组件的许可要求及潜在费用。
主要组件许可：
- Ubuntu: https://hub.docker.com/_/ubuntu
- Intel® Distribution of OpenVINO™ 工具包: [***]
更多 Intel 容器（HPC/AI/ML 等）见 Intel® oneContainer Portal
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 model_server 镜像标签
docker pull docker.xuanyuan.run/openvino/model_server:<标签>
DockerHub 原生拉取命令
docker pull openvino/model_server:<标签>
更多 model_server 镜像推荐
openvino/ubuntu20_runtime
openvino
Intel® Distribution of OpenVINO™ toolkit Ubuntu 20.04 LTS Docker镜像，用于快速部署基于卷积神经网络(CNN)的计算机视觉应用，可跨Intel®硬件扩展CV工作负载并最大化性能。
6 次收藏10万+ 次下载
12 个月前更新
openvino/cvat_server
openvino
计算机视觉标注工具（CVAT）的标注后端镜像，提供免费、在线、交互式的视频和图像标注功能，适用于计算机视觉任务中的数据标注需求。
12 次收藏100万+ 次下载
4 年前更新
openvino/openvino_tensorflow_ubuntu20_runtime
openvino
OpenVINO™与TensorFlow集成的运行时Docker镜像，适用于Ubuntu 20.04 LTS，通过添加两行代码即可利用OpenVINO优化，加速TensorFlow推理在Intel CPU、iGPU、VPU及VAD-M等设备上的性能。
2 次收藏5万+ 次下载
3 年前更新
openvino/ubuntu18_dev
openvino
Intel® Distribution of OpenVINO™ toolkit的Ubuntu 18.04 LTS Docker镜像，用于快速部署基于卷积神经网络的计算机视觉应用，可跨Intel硬件扩展CV工作负载并最大化性能，包含运行时、模型优化工具等核心组件。
13 次收藏5万+ 次下载
2 年前更新
openvino/ubuntu20_dev
openvino
Intel OpenVINO工具包Docker镜像，适用于Ubuntu 20.04 LTS系统，用于优化和部署深度学习模型以提升推理性能。
4 次收藏5万+ 次下载
12 个月前更新
openvino/ubuntu22_runtime
openvino
基于Ubuntu 22.04 LTS的英特尔OpenVINO工具包发行版Docker镜像，提供预配置环境以简化深度学习模型的优化与部署。
1 次收藏1万+ 次下载
2 个月前更新
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"