
ai/gpt-oss-safeguardUnsloth的GGUF版本
!logo
gpt-oss-safeguard-120b和gpt-oss-safeguard-20b是基于gpt-oss构建的安全推理模型。通过这些模型,您可以根据提供的安全策略对文本内容进行分类,并执行一系列基础安全任务。这些模型专为安全用例设计,对于其他应用,建议使用gpt-oss模型。
本模型gpt-oss-safeguard-20b(210亿参数,36亿激活参数)可在16GB显存的GPU上运行。更大模型可查看gpt-oss-safeguard-120b(1170亿参数,51亿激活参数)。
两个模型均基于我们的harmony响应格式训练,仅应配合harmony格式使用,否则无法正常工作。
您可以按照相关指南中描述的gpt-oss-120b和gpt-oss-20b的使用方式来使用gpt-oss-safeguard-120b和gpt-oss-safeguard-20b。我们还提供了详细的提示词指南,介绍如何制定策略并与模型配合使用。
| 模型变体 | 参数 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/gpt-oss-safeguard:20Bai/gpt-oss-safeguard:20B-UD-Q4_K_XLai/gpt-oss-safeguard:latest | 200亿 | MOSTLY_Q4_K_M | 131K tokens | 11.96 GiB | 11.04 GB |
ai/gpt-oss-safeguard:120B-UD-Q4_K_XL | 1200亿 | MOSTLY_Q4_K_M | 131K tokens | 47.44 GiB | 46.42 GB |
ai/gpt-oss-safeguard:20B-F16 | 200亿 | MOSTLY_F16 | 131K tokens | 13.25 GiB | 12.83 GB |
ai/gpt-oss-safeguard:20B-MXFP4 | 200亿 | MOSTLY_MXFP4 | 131K tokens | 12.19 GiB | 11.27 GB |
ai/gpt-oss-safeguard:20B-UD-Q8_K_XL | 200亿 | MOSTLY_Q8_0 | 131K tokens | 12.69 GiB | 12.28 GB |
¹:显存基于模型特性估算。
latest→20B
运行模型:
bashdocker model run ai/gpt-oss-safeguard
gpt-oss-safeguard是Robust Open Online Safety Tools (ROOST)模型社区的合作伙伴模型。ROOST模型社区(RMC)是由安全从业者组成的团体,致力于探索开源AI模型以保护在线空间。作为RMC模型合作伙伴,OpenAI致力于整合用户反馈,共同迭代未来版本,以推进开放安全领域的发展。访问RMC GitHub仓库了解更多合作细节和参与方式。






manifest unknown 错误
TLS 证书验证失败
DNS 解析超时
410 错误:版本过低
402 错误:流量耗尽
身份认证失败错误
429 限流错误
凭证保存错误
来自真实用户的反馈,见证轩辕镜像的优质服务