duobinji/llamafactory Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务

llamaFactory个人定制镜像文档

镜像概述

llamaFactory个人定制镜像是专为个人使用场景设计的Docker镜像，基于duobinji/llamafactory:latest构建，提供运行llamaFactory相关任务的基础环境，支持GPU加速和CUDA配置。

核心功能与特性

• GPU支持：通过--gpus all参数启用所有可用GPU，满足计算密集型任务需求
• 主机IPC共享：使用--ipc=host共享主机IPC命名空间，优化进程间通信
• CUDA环境集成：挂载主机CUDA目录（/usr/local/cuda），确保CUDA运行时环境可用
• 交互式操作：支持通过-it参数进入交互式bash环境，方便调试和操作

使用场景

适用于个人开发者在本地环境中运行llamaFactory相关的模型训练、推理或其他AI任务，尤其适合需要GPU加速的场景。

使用方法

基本运行命令

bash
docker run -it --gpus all --ipc=host -v /usr/local/cuda:/usr/local/cuda --name llamafactory duobinji/llamafactory:latest bash

参数说明

• -it：以交互式终端模式运行容器，支持命令行交互
• --gpus all：启用主机上所有可用的GPU设备
• --ipc=host：使用主机的IPC命名空间，避免容器内进程间通信限制
• -v /usr/local/cuda:/usr/local/cuda：将主机的CUDA安装目录挂载到容器内，确保CUDA环境正常工作
• --name llamafactory：指定容器名称为"llamafactory"，便于管理
• duobinji/llamafactory:latest：使用的镜像名称及标签
• bash：容器启动后执行的命令，进入bash shell