
Unsloth的GGUF版本
欢迎使用gpt-oss系列,这是OpenAI的开源权重模型,专为强大的推理、代理任务和多用途开发场景设计。
| 模型变体 | 参数规模 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/gpt-oss:latestai/gpt-oss:20B-UD-Q4_K_XL | 200亿 | MOSTLY_Q4_K_M | 131K tokens | 11.97 GiB | 11.04 GB |
ai/gpt-oss:20B-F16 | 200亿 | MOSTLY_F16 | 131K tokens | 13.25 GiB | 12.83 GB |
ai/gpt-oss:20B-UD-Q4_K_XL | 200亿 | MOSTLY_Q4_K_M | 131K tokens | 11.97 GiB | 11.04 GB |
ai/gpt-oss:20B-UD-Q6_K_XL | 200亿 | MOSTLY_Q6_K | 131K tokens | 12.12 GiB | 11.20 GB |
ai/gpt-oss:20B-UD-Q8_K_XL | 200亿 | MOSTLY_Q8_0 | 131K tokens | 12.69 GiB | 12.28 GB |
¹:显存基于模型特性估算。
latest→20B-UD-Q4_K_XL
适用于需要本地部署开源大模型进行推理任务、代理应用开发及多用途AI功能集成的开发场景,支持不同显存配置需求的环境。
运行模型:
bashdocker model run ai/gpt-oss






探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
无需登录使用专属域名
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
Harbor Proxy Repository 对接专属域名
Portainer Registries 加速拉取
Nexus3 Docker Proxy 内网缓存
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
manifest unknown
no matching manifest(架构)
invalid tar header(解压)
TLS 证书失败
DNS 超时
410 Gone 排查
402 与流量用尽
401 认证失败
429 限流
D-Bus 凭证提示
413 与超大单层
来自真实用户的反馈,见证轩辕镜像的优质服务