热门搜索:
openvino/model_server
openvino
Intel® Distribution of OpenVINO™ 模型服务器 Docker 镜像，提供高性能推理服务，支持多设备与 API，适用于部署优化的机器学习模型。
18 次收藏下载次数: 0状态：社区镜像维护者：openvino仓库类型：镜像最近更新：6 天前
近期标签的功能
| 标签 | 支持的设备 | 基础操作系统 | 说明 |
|---|---|---|---|
| weekly | CPU,iGPU,dGPU,NPU | ubuntu24.04 | 主分支的开发版本 |
| latest | CPU | ubuntu24.04 | 最新发布版本 |
| latest-py | CPU,iGPU,dGPU,NPU | ubuntu24.04 | 支持GPU和Python |
| 2025.3-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.3 | CPU | ubuntu24.04 | |
| 2025.2.1-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.2.1 | CPU | ubuntu24.04 | |
| 2025.2-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.2 | CPU | ubuntu24.04 | |
| 2025.1-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.1 | CPU | ubuntu24.04 | |
| 2025.0-gpu | CPU,iGPU,dGPU,NPU | ubuntu24.04 | |
| 2025.0 | CPU | ubuntu24.04 | |
| 2024.5-gpu | CPU,iGPU,dGPU,NPU | ubuntu22.04 | |
| 2024.5 | CPU | ubuntu22.04 |
Intel® Distribution of OpenVINO™ 模型服务器 Docker 镜像
OpenVINO™ 模型服务器是一个可扩展的高性能解决方案，用于部署针对 Intel® 架构优化的机器学习模型。该服务器通过 gRPC、REST API 或 C API 提供推理服务，便于部署新算法和 AI 实验。
- GitHub: https://github.com/openvinotoolkit/model_server
- 文档: [***]
Intel® Distribution of OpenVINO™ 工具包可快速部署模拟人类视觉的应用程序和解决方案。基于卷积神经网络 (CNN)，该工具包可在 Intel® 硬件上扩展计算机视觉 (CV) 工作负载，最大限度提高性能。
- 网站: [***]
- 发行说明: https://github.com/openvinotoolkit/model_server/releases
- 文档: [***]
- 支持论坛: [***]
Docker 部署示例
查看帮助信息
shdocker run -it --rm openvino/model_server:latest --help
启动单个模型服务
无需配置文件，通过单命令启动容器并部署模型：
shdocker run --rm -d -v /models/:/opt/ml:ro -p 9001:9001 -p 8001:8001 openvino/model_server:latest --model_path /opt/ml/model1 --model_name my_model --port 9001 --rest_port 8001
注：上述命令将本地
/models/目录挂载为只读卷，映射 gRPC 端口 9001 和 REST 端口 8001，部署路径为/opt/ml/model1的模型并命名为my_model。
更多部署指南：经典模型快速入门、LLM 模型快速入门
许可证
***声明：通过访问、下载或使用本软件及依赖组件（“软件包”），您同意软件许可协议条款，包括第三方软件的相关声明与条款。详情见“third-party-programs.txt”或类似文件。
使用本容器即表示您同意 Intel 软件许可协议。镜像用户需自行确保符合所有组件的许可要求及潜在费用。
主要组件许可：
- Ubuntu: https://hub.docker.com/_/ubuntu
- Intel® Distribution of OpenVINO™ 工具包: [***]
更多 Intel 容器（HPC/AI/ML 等）见 Intel® oneContainer Portal
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 model_server 镜像标签
docker pull docker.xuanyuan.run/openvino/model_server:<标签>
DockerHub 原生拉取命令
docker pull openvino/model_server:<标签>
更多 model_server 镜像推荐
openvino/ubuntu20_runtime
openvino
Intel® Distribution of OpenVINO™ toolkit Ubuntu 20.04 LTS Docker镜像，用于快速部署基于卷积神经网络(CNN)的计算机视觉应用，可跨Intel®硬件扩展CV工作负载并最大化性能。
6 次收藏10万+ 次下载
10 个月前更新
openvino/ubuntu18_dev
openvino
Intel® Distribution of OpenVINO™ toolkit的Ubuntu 18.04 LTS Docker镜像，用于快速部署基于卷积神经网络的计算机视觉应用，可跨Intel硬件扩展CV工作负载并最大化性能，包含运行时、模型优化工具等核心组件。
13 次收藏5万+ 次下载
1 年前更新
openvino/ubuntu20_dev
openvino
Intel OpenVINO工具包Docker镜像，适用于Ubuntu 20.04 LTS系统，用于优化和部署深度学习模型以提升推理性能。
4 次收藏5万+ 次下载
10 个月前更新
openvino/ubuntu22_runtime
openvino
基于Ubuntu 22.04 LTS的英特尔OpenVINO工具包发行版Docker镜像，提供预配置环境以简化深度学习模型的优化与部署。
1 次收藏1万+ 次下载
23 天前更新
openvino/ubuntu22_dev
openvino
Intel® Distribution of OpenVINO™ toolkit的Ubuntu 22.04 LTS Docker镜像，包含OpenVINO Runtime、开发工具及插件，用于快速部署计算机视觉应用，跨Intel硬件最大化性能。
4 次收藏1万+ 次下载
23 天前更新
openvino/ubuntu24_dev
openvino
Intel® OpenVINO™工具包Ubuntu 24.04 LTS Docker镜像，用于快速部署计算机视觉应用，基于卷积神经网络(CNN)扩展CV工作负载，跨Intel硬件优化性能，包含OpenVINO Runtime及开发工具。
1 次收藏1万+ 次下载
23 天前更新
轩辕镜像配置手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
Docker 配置
登录仓库拉取
通过 Docker 登录认证访问私有仓库
专属域名拉取
无需登录使用专属域名
K8s Containerd
Kubernetes 集群配置 Containerd
K3s
K3s 轻量级 Kubernetes 镜像加速
Dev Containers
VS Code Dev Containers 配置
Podman
Podman 容器引擎配置
Singularity/Apptainer
HPC 科学计算容器配置
其他仓库配置
ghcr、Quay、nvcr 等镜像仓库
Harbor 镜像源配置
Harbor Proxy Repository 对接专属域名
Portainer 镜像源配置
Portainer Registries 加速拉取
Nexus 镜像源配置
Nexus3 Docker Proxy 内网缓存
系统配置
需要其他帮助？请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
镜像拉取常见问题
使用与功能问题
配置了专属域名后，docker search 为什么会报错？
docker search 限制
Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？
站内搜不到镜像
机器不能直连外网时，怎么用 docker save / load 迁镜像？
离线 save/load
docker pull 拉插件报错（plugin v1+json）怎么办？
插件要用 plugin install
WSL 里 Docker 拉镜像特别慢，怎么排查和优化？
WSL 拉取慢
轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？
安全与 digest
第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？
新手拉取配置
轩辕镜像合规吗？轩辕镜像的合规是怎么做的？
镜像合规机制
错误码与失败问题
docker pull 提示 manifest unknown 怎么办？
manifest unknown
docker pull 提示 no matching manifest 怎么办？
no matching manifest（架构）
镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？
invalid tar header（解压）
Docker pull 时 HTTPS / TLS 证书验证失败怎么办？
TLS 证书失败
Docker pull 时 DNS 解析超时或连不上仓库怎么办？
DNS 超时
docker 无法连接轩辕镜像域名怎么办？
域名连通性排查
Docker 拉取出现 410 Gone 怎么办？
410 Gone 排查
出现 402 或「流量用尽」提示怎么办？
402 与流量用尽
Docker 拉取提示 UNAUTHORIZED（401）怎么办？
401 认证失败
遇到 429 Too Many Requests（请求太频繁）怎么办？
429 限流
docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？
D-Bus 凭证提示
为什么会出现「单层超过 20GB」或 413，无法加速拉取？
413 与超大单层
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"