如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具,协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题,请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可:
请先完整阅读并严格遵守以下文档中的全部规则与要求:
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前,不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式,不推荐豆包 AI;Cursor 等编辑器可在对话 @ 该链接,或加入 User Rules。 若 AI 无法访问外链,可 打开说明文档 复制全文粘贴。文档会随站点更新,复制内容可能过期,建议定期检查。
https://github.com/unslothai/unsloth%E6%98%AF%E4%B8%80%E4%B8%AA%E7%94%A8%E4%BA%8ELLM%EF%BC%88%E5%A4%A7%E8%AF%AD%E8%A8%80%E6%A8%A1%E5%9E%8B%EF%BC%89%E5%BE%AE%E8%B0%83%E4%B8%8E%E5%BC%BA%E5%8C%96%E5%AD%A6%E4%B9%A0%EF%BC%88RL%EF%BC%89%E7%9A%84%E5%BC%80%E6%BA%90%E6%A1%86%E6%9E%B6%E3%80%82
本镜像为预构建Docker容器,包含所有依赖组件,无需额外设置即可立即使用Unsloth。参考使用指南。
该容器需要安装NVIDIA Container Toolkit。
bashdocker run -d -e JUPYTER_PASSWORD="mypassword" \ -p 8888:8888 -p 2222:22 \ -v $(pwd)/work:/workspace/work \ --gpus all \ unsloth/unsloth
通过http://localhost:8888访问Jupyter Lab,即可开始微调工作!
import unsloth即可运行unsloth-notebooks/目录包含微调示例笔记本unsloth用户运行,增强安全性| 变量名 | 描述 | 默认值 | 可选值 |
|---|---|---|---|
JUPYTER_PORT | 容器内Jupyter Lab端口 | 8888 | 任意有效端口 |
JUPYTER_PASSWORD | Jupyter Lab密码 | unsloth | 任意字符串 |
SSH_KEY | SSH认证公钥 | 无 | SSH公钥字符串 |
USER_PASSWORD | unsloth用户密码(用于sudo操作) | unsloth | 任意字符串 |
将容器端口映射到主机系统:
bash-p <主机端口>:<容器端口>
必要映射:
-p 8000:8888(或自定义端口)-p 2222:22(或自定义端口)⚠️ 注意: 容器不会在运行之间持久化数据。使用卷挂载保存工作内容。
bash-v <本地主机目录>:<容器目录>
推荐挂载:
-v $(pwd)/work:/workspace/work - 挂载当前目录下的work文件夹-v ~/notebooks:/workspace/notebooks - 挂载本地笔记本目录bashdocker run -d -e JUPYTER_PORT=8000 \ -e JUPYTER_PASSWORD="mypassword" \ -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \ -e USER_PASSWORD="unsloth2024" \ -p 8000:8000 -p 2222:22 \ -v $(pwd)/work:/workspace/work \ --gpus all \ unsloth/unsloth
若没有SSH密钥对:
bash# 生成新密钥对 ssh-keygen -t rsa -b 4096 -f ~/.ssh/container_key # 在docker run中使用公钥 -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" # 通过SSH连接 ssh -i ~/.ssh/container_key -p 2222 unsloth@localhost
/workspace/work/ - 挂载的工作目录/workspace/unsloth-notebooks/ - 包含Unsloth微调示例笔记本的目录/home/unsloth/ - unsloth用户的主目录unsloth运行,提升安全性USER_PASSWORD进行容器内sudo操作unsloth-notebooks/目录中的示例笔记本以下是 unsloth/unsloth 相关的常用 Docker 镜像,适用于 不同场景 等不同场景:
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
来自真实用户的反馈,见证轩辕镜像的优质服务