MindSpore Transformers镜像提供大模型全生命周期开发工具,支持Ascend芯片,助力用户轻松实现预训练、微调、推理等端到端开发。
MindSpore Transformers镜像
镜像概述
MindSpore Transformers镜像基于MindSpore框架构建,提供覆盖大模型全生命周期(预训练、微调、评估、推理、部署)的综合开发工具包,支持业界领先的Transformer语言模型、多模态理解模型及全模态模型,适配Ascend 910B/A3芯片,帮助用户快速实现大模型端到端开发。
核心功能
- 全生命周期支持:涵盖大模型预训练、微调、评估、推理、部署各环节
- 丰富模型库:包含Transformer语言模型、多模态模型等主流大模型
- 硬件优化:针对Ascend芯片深度适配,充分发挥硬件计算性能
- 简化开发:降低大模型开发门槛,支持快速上手与定制化需求
使用场景
- 大模型训练:针对自然语言处理、多模态理解等任务进行模型预训练与微调
- 推理部署:将训练好的模型部署到Ascend芯片上实现高效推理
- 模型评估:对模型精度、性能等指标进行量化分析与优化
配置说明
标签规范
镜像标签格式:<MindSpore Transformers版本>-<硬件信息>-<操作系统>-<Python版本>
示例:1.9.0-910b-ubuntu22.04-py3.11
构建参数
| 参数 | 描述 | 可选值 |
|---|---|---|
| CANN_VERSION | Ascend CANN工具包版本 | 9.0.0 |
| CHIP_ARCH | Ascend芯片架构 | 910b/a3 |
| OS_SYSTEM | 基础镜像操作系统 | ubuntu22.04/openeuler24.03 |
| PY_VERSION | Python版本 | py3.11 |
| MINDSPORE_VERSION | MindSpore框架版本 | 2.9.0 |
| MINDFORMERS_VERSION | MindSpore Transformers版本 | 1.9.0 |
| PIP_INDEX_URL | pip安装源地址 | 默认华为云镜像 |
部署示例
构建镜像
bashdocker build \ --build-arg CANN_VERSION=9.0.0 \ --build-arg CHIP_ARCH=910b \ --build-arg OS_SYSTEM=ubuntu22.04 \ --build-arg PY_VERSION=py3.11 \ --build-arg MINDSPORE_VERSION=2.9.0 \ --build-arg MINDFORMERS_VERSION=1.9.0 \ --build-arg PIP_INDEX_URL=https://mirrors.huaweicloud.com/repository/pypi/simple \ -t mindformers:1.9.0-910b-ubuntu22.04-py3.11 \ -f Dockerfile .
运行容器
bashdocker run \ --privileged \ --name mindformers_container \ --device /dev/davinci1 \ --device /dev/davinci_manager \ --device /dev/devmm_svm \ --device /dev/hisi_hdc \ -v /usr/local/dcmi:/usr/local/dcmi \ -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \ -v /usr/local/Ascend/driver/lib64/:/usr/local/Ascend/driver/lib64/ \ -v /usr/local/Ascend/driver/version.info:/usr/local/Ascend/driver/version.info \ -v /etc/ascend_install.info:/etc/ascend_install.info \ -it mindformers:1.9.0-910b-ubuntu22.04-py3.11 bash
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 mindformers 镜像标签
docker pull docker.xuanyuan.run/ascendai/mindformers:<标签>
DockerHub 原生拉取命令
docker pull ascendai/mindformers:<标签>
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务