ai/qwen3-coder-next-vllm

Qwen3-Coder-Next

镜像概述和主要用途

Qwen3-Coder-Next是一款专为编码代理和本地开发环境设计的高级开源语言模型。该模型在效率方面实现了重大突破，仅使用其800亿总参数池中的30亿激活参数，即可达到参数规模为其10-20倍的模型性能。它特别适用于复杂代码生成、重构、调试及工具调用场景，能够无缝集成到各类开发环境中。

核心功能和特性

特性概览

关键特性

• 高级代理能力：擅长长程推理、复杂工具使用及执行故障恢复
• 多IDE集成：凭借256k上下文长度和模板适配能力，兼容Claude Code、Qwen Code、Qoder等多种CLI/IDE平台
• 高效MoE架构：仅使用30亿激活参数即可达到远大于其规模模型的性能
• 工具调用支持：原生支持函数调用和工具集成，可配合自定义工具模板
• 非思考模式：优化直接代码生成，无需显式推理块

架构详情

该模型采用混合架构，包含以下组件：

• 隐藏维度：2048
• 层数：48
• 混合布局：12 × (3 × (Gated DeltaNet → MoE) → 1 × (Gated Attention → MoE))
• 门控注意力：16个Q注意力头，2个KV注意力头，头维度256
• 门控DeltaNet：32个V线性注意力头，16个QK线性注意力头，头维度128
• 混合专家：共512个专家，每token激活10个专家，1个共享专家，专家中间维度512
• 非嵌入参数：790亿

!基准性能

基准测试

Qwen3-Coder-Next在多个编码基准测试中表现优异，性能可与激活参数显著更多的模型相媲美：

!SWE-bench Pro结果

该模型的高效性使其在代理部署中具有卓越的成本效益，同时保持与更大模型相当的性能。

使用方法和配置说明

使用Docker Model Runner部署

bash
docker model run qwen3-coder-next-vllm

更多信息，请查看Docker Model Runner文档。

推荐采样参数

为获得最佳性能，建议使用以下采样参数：

• 温度（Temperature）：1.0
• Top-p：0.95
• Top-k：40

注意事项

• 模型全量部署需要大量GPU内存（800亿总参数）
• 对于内存受限系统，可将上下文长度从原生262k减少至32,768等较短值
• 专为编码任务设计，可能不适用于一般对话场景
• 仅支持非思考模式，输出中不会生成</think>superscript:块
• 在IDE环境中配合适当的工具模板和框架集成可获得最佳性能

相关链接

• [***]
• [***]
• https://github.com/QwenLM/Qwen3-Coder
• [***]