
ai/gpt-ossUnsloth的GGUF版本
欢迎使用gpt-oss系列,这是OpenAI的开源权重模型,专为强大的推理、代理任务和多用途开发场景设计。
| 模型变体 | 参数规模 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/gpt-oss:latestai/gpt-oss:20B-UD-Q4_K_XL | 200亿 | MOSTLY_Q4_K_M | 131K tokens | 11.97 GiB | 11.04 GB |
ai/gpt-oss:20B-F16 | 200亿 | MOSTLY_F16 | 131K tokens | 13.25 GiB | 12.83 GB |
ai/gpt-oss:20B-UD-Q4_K_XL | 200亿 | MOSTLY_Q4_K_M | 131K tokens | 11.97 GiB | 11.04 GB |
ai/gpt-oss:20B-UD-Q6_K_XL | 200亿 | MOSTLY_Q6_K | 131K tokens | 12.12 GiB | 11.20 GB |
ai/gpt-oss:20B-UD-Q8_K_XL | 200亿 | MOSTLY_Q8_0 | 131K tokens | 12.69 GiB | 12.28 GB |
¹:显存基于模型特性估算。
latest→20B-UD-Q4_K_XL
适用于需要本地部署开源大模型进行推理任务、代理应用开发及多用途AI功能集成的开发场景,支持不同显存配置需求的环境。
运行模型:
bashdocker model run ai/gpt-oss






manifest unknown 错误
TLS 证书验证失败
DNS 解析超时
410 错误:版本过低
402 错误:流量耗尽
身份认证失败错误
429 限流错误
凭证保存错误
来自真实用户的反馈,见证轩辕镜像的优质服务