aistaging/qwen3-reranker

Qwen3-Reranker

Qwen3 Embedding模型系列是Qwen家族最新的专有模型，专为文本嵌入和排序任务设计。基于Qwen3系列的稠密基础模型，它提供了多种尺寸（0.6B、4B、8B）的文本嵌入和重排序模型，继承了基础模型卓越的多语言能力、长文本理解和推理技能，在文本检索、代码检索、文本分类、文本聚类和双语挖掘等任务中取得显著进步。

---

📌 特性

---

可用模型变体

¹: 显存需求基于模型特性估算。

latest → 4B

---

🐳 使用Docker Model Runner运行模型

首先拉取模型：

bash
docker model pull ai/qwen3-reranker

然后运行模型：

重排序请求示例

bash
curl --location 'http://localhost:8080/engines/vllm/rerank' \
--header 'Content-Type: application/json' \
--data '{
  "model": "ai/qwen3-reranker:0.6B",
  "query": "法国的首都是什么？",
  "documents": [
    "巴西的首都是巴西利亚。",
    "法国的首都是巴黎。",
    "马和牛都是动物。"
  ]
}'

文本相关性评分示例

bash
curl --location 'http://localhost:8080/engines/vllm/score' \
--header 'Content-Type: application/json' \
--data '{
  "model": "ai/qwen3-reranker:0.6B",
  "text_1": "ping",
  "text_2": "pong"
}'

更多信息请查看 https://docs.docker.com/desktop/features/***/%E3%80%82

---

评估结果

---

🔗 链接

• https://huggingface.co/Qwen/Qwen3-Reranker-0.6B
• https://huggingface.co/Qwen/Qwen3-Reranker-4B
• https://huggingface.co/Qwen/Qwen3-Reranker-8B