ai/qwen3-next

Qwen3-Next-80B-A3B-Thinking镜像概述

Qwen3-Next是阿里云Qwen团队推出的下一代基础模型系列，旨在通过创新架构提升模型缩放效率。Qwen3-Next-80B-A3B-Thinking是该系列首个版本，专注于复杂推理任务，支持思维模式（默认聊天模板自动包含标签），思维内容可能比前代更长，推荐用于高复杂度推理场景。

核心功能

1. 混合注意力机制：结合Gated DeltaNet和Gated Attention，原生支持262,144 tokens上下文，可扩展至1,010,000 tokens。
2. 高稀疏度MoE架构：MoE层激活率极低，大幅降低每token计算量，保留模型容量。
3. 稳定性优化：采用零中心带权重衰减的LayerNorm等技术，提升预训练/后训练鲁棒性。
4. 多Token预测（MTP）：增强预训练性能并加速推理。
5. 优异性能：在复杂推理任务上超越Qwen3-30B/32B系列，部分基准测试优于Gemini-2.5-Flash-Thinking。

使用场景

• 复杂推理：数学竞赛题、逻辑分析等深度思考场景。
• 智能体应用：通过Qwen-Agent实现工具调用（时间查询、网页抓取、代码解释器等）。
• 超长文本处理：文档摘要、长对话等场景（支持1M tokens扩展）。
• 多语言任务：MultiIF、MMLU-ProX等多语言基准表现优异。
• 编码任务：LiveCodeBench、CFEval等编码基准成绩良好。

配置说明

快速开始

安装最新版Transformers：

shell
pip install git+https://github.com/huggingface/transformers.git@main

加载模型示例：

python
from transformers import AutoModelForCausalLM, AutoTokenizer
model_name = "Qwen/Qwen3-Next-80B-A3B-Thinking"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, dtype="auto", device_map="auto")

# 输入准备与生成
prompt = "请简要介绍大语言模型。"
messages = [{"role": "user", "content": prompt}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
generated_ids = model.generate(**model_inputs, max_new_tokens=32768)

# 解析输出
output_ids = generated_ids[0][len(model_inputs.input_ids[0]):].tolist()
try: index = len(output_ids) - output_ids[::-1].index