ai/mistral!logo
一款快速强大的73亿参数模型,在推理、代码和数学任务中表现卓越。Mistral 7B是一个拥有73亿参数的强大语言模型,在包括推理、阅读理解和代码生成在内的广泛基准测试中优于Llama 2 13B。尽管体积更小,但它的性能可与更大规模的模型媲美,兼具高效性和多功能性。
Mistral 7B旨在在广泛的通用自然语言处理任务中提供高质量响应,同时保持资源使用效率。此外,该模型经过微调以遵循指令,能够自然地执行任务和回答问题(基础模型不具备此能力)。
| 属性 | 详情 |
|---|---|
| 提供商 | Mistral AI |
| 架构 | Llama |
| 数据截止日期 | 2023年12月ⁱ |
| 支持语言 | 英语(主要) |
| 工具调用 | ❌ |
| 输入模态 | 文本 |
| 输出模态 | 文本 |
| 许可证 | Apache 2.0 |
ⁱ: 估算值
| 模型变体 | 参数数量 | 量化方式 | 上下文窗口 | 显存¹ | 大小 |
|---|---|---|---|---|---|
ai/mistral:latestai/mistral:7B-Q4_K_M | 7B | IQ2_XXS/Q4_K_M | 33K tokens | 4.85 GiB | 4.07 GB |
ai/mistral:7B-Q4_0 | 7B | Q4_0 | 33K tokens | 4.61 GiB | 3.83 GB |
ai/mistral:7B-Q4_K_M | 7B | IQ2_XXS/Q4_K_M | 33K tokens | 4.85 GiB | 4.07 GB |
ai/mistral:7B-F16 | 7B | F16 | 33K tokens | 14.10 GiB | 13.50 GB |
¹: 显存基于模型特性估算
latest→7B-Q4_K_M
首先,拉取模型:
bashdocker model pull ai/mistral
然后运行模型:
bashdocker model run ai/mistral
有关Docker Model Runner的更多信息,请查阅文档。
[INST]和[/INST]标签包裹提示词。首个指令必须以句首标记开始,后续指令则无需;助手的响应将自动以句尾标记结束。| 能力 | 基准测试 | Mistral 7B |
|---|---|---|
| 自然语言理解 | MMLU | 60.1% |
| HellaSwag | 81.3% | |
| WinoGrande | 75.3% | |
| PIQA | 83.0% | |
| Arc-e | 80.0% | |
| Arc-c | 55.5% | |
| 知识检索 | NQ | 28.8% |
| TriviaQA | 69.9% | |
| 代码生成与调试 | HumanEval | 30.5% |
| MBPP | 47.5% | |
| 数学推理 | MATH | 13.1% |
| GSM8K | 52.1% |
探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
在 Linux 系统配置镜像服务
在 Docker Desktop 配置镜像
Docker Compose 项目配置
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
MacOS OrbStack 容器配置
在宝塔面板一键配置镜像
Synology 群晖 NAS 配置
飞牛 fnOS 系统配置镜像
极空间 NAS 系统配置服务
爱快 iKuai 路由系统配置
绿联 NAS 系统配置镜像
QNAP 威联通 NAS 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
无需登录使用专属域名
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
免费版仅支持 Docker Hub 访问,不承诺可用性和速度;专业版支持更多镜像源,保证可用性和稳定速度,提供优先客服响应。
专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等;免费版仅支持 docker.io。
当返回 402 Payment Required 错误时,表示流量已耗尽,需要充值流量包以恢复服务。
通常由 Docker 版本过低导致,需要升级到 20.x 或更高版本以支持 V2 协议。
先检查 Docker 版本,版本过低则升级;版本正常则验证镜像信息是否正确。
使用 docker tag 命令为镜像打上新标签,去掉域名前缀,使镜像名称更简洁。
来自真实用户的反馈,见证轩辕镜像的优质服务