ai/qwen3-reranker-vllm Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务

Qwen3-Reranker

Qwen3 Embedding模型系列是Qwen家族的最新专有模型，专为文本嵌入和排序任务设计。基于Qwen3系列的密集基础模型，提供多种尺寸（0.6B、4B和8B）的文本嵌入和重排序模型。该系列继承了基础模型卓越的多语言能力、长文本理解和推理技能，在文本检索、代码检索、文本分类、文本聚类和双语文本挖掘等多个文本嵌入和排序任务中取得了显著进步。

📌 特性

可用模型变体

¹: 显存基于模型特性估算。

latest → 4B

🐳 使用Docker Model Runner运行模型

首先，拉取模型：

bash
docker model pull ai/qwen3-reranker-vllm

然后运行模型：

重排序接口（rerank）

bash
curl --location 'http://localhost:8080/engines/vllm/rerank' \
--header 'Content-Type: application/json' \
--data '{
  "model": "ai/qwen3-reranker-vllm:0.6B",
  "query": "法国的首都是哪里？",
  "documents": [
    "巴西的首都是巴西利亚。",
    "法国的首都是巴黎。",
    "马和牛都是动物。"
  ]
}'

评分接口（score）

bash
curl --location 'http://localhost:8080/engines/vllm/score' \
--header 'Content-Type: application/json' \
--data '{
  "model": "ai/qwen3-reranker-vllm:0.6B",
  "text_1": "ping",
  "text_2": "pong"
}'

更多信息，请查看 Docker Model Runner 文档。

评估结果

🔗 链接

• Qwen3-Reranker 0.6B
• Qwen3-Reranker 4B
• Qwen3-Reranker 8B