ai/gpt-oss-safeguard

GPT‑OSS-safeguard

Unsloth的GGUF版本

!https://github.com/docker/model-cards/raw/refs/heads/main/logos/gpt-oss-safeguard-20b.png

gpt-oss-safeguard-120b和gpt-oss-safeguard-20b是基于gpt-oss构建的安全推理模型。通过这些模型，您可以根据提供的安全策略对文本内容进行分类，并执行一系列基础安全任务。这些模型专为安全用例设计，对于其他应用，建议使用gpt-oss模型。

本模型gpt-oss-safeguard-20b（210亿参数，36亿激活参数）可在16GB显存的GPU上运行。更大模型可查看gpt-oss-safeguard-120b（1170亿参数，51亿激活参数）。

两个模型均基于我们的https://github.com/openai/harmony%E8%AE%AD%E7%BB%83%EF%BC%8C%E4%BB%85%E5%BA%94%E9%85%8D%E5%90%88harmony%E6%A0%BC%E5%BC%8F%E4%BD%BF%E7%94%A8%EF%BC%8C%E5%90%A6%E5%88%99%E6%97%A0%E6%B3%95%E6%AD%A3%E5%B8%B8%E5%B7%A5%E4%BD%9C%E3%80%82

主要特点

• 训练用于安全推理：针对安全推理进行训练和调优，可适应LLM输入输出过滤、在线内容标记和用于信任与安全用例的离线标记等场景。
• 自定义策略支持：能够解读您编写的策略，无需大量工程工作即可跨产品和用例实现通用化。
• 可解释的决策过程：完全访问模型的推理过程，便于调试并增强对策略决策的信任。请注意，原始思维链（Raw CoT）仅面向开发人员和安全从业者，不应用于普通用户或安全场景之外的用途。
• 推理强度可配置：根据具体用例和延迟需求，轻松调整推理强度（低、中、高）。
• 宽松的Apache 2.0许可：无copyleft限制或专利风险，可自由构建，非常适合实验、定制和商业部署。

推理示例

您可以按照相关指南中描述的gpt-oss-120b和gpt-oss-20b的使用方式来使用gpt-oss-safeguard-120b和gpt-oss-safeguard-20b。我们还提供了详细的提示词指南，介绍如何制定策略并与模型配合使用。

可用模型变体

¹：显存基于模型特性估算。

latest → 20B

使用Docker Model Runner运行此AI模型

运行模型：

bash
docker model run ai/gpt-oss-safeguard

加入ROOST模型社区

gpt-oss-safeguard是Robust Open Online Safety Tools (ROOST)模型社区的合作伙伴模型。ROOST模型社区（RMC）是由安全从业者组成的团体，致力于探索开源AI模型以保护在线空间。作为RMC模型合作伙伴，OpenAI致力于整合用户反馈，共同迭代未来版本，以推进开放安全领域的发展。访问https://github.com/roostorg/open-models%E4%BA%86%E8%A7%A3%E6%9B%B4%E5%A4%9A%E5%90%88%E4%BD%9C%E7%BB%86%E8%8A%82%E5%92%8C%E5%8F%82%E4%B8%8E%E6%96%B9%E5%BC%8F%E3%80%82

资源

• 试用gpt-oss-safeguard
• OpenAI博客
• Unsloth Dynamic 2.0 GGUF