热门搜索:
mthreads/ollama
mthreads
mthreads/ollama是支持在摩尔线程GPU上运行大语言模型的Ollama分支镜像，基于MUSA平台提升模型推理性能。
2 次收藏下载次数: 0状态：社区镜像维护者：mthreads仓库类型：镜像最近更新：7 个月前
Ollama MUSA 镜像文档
镜像概述和主要用途
mthreads/ollama 是 https://github.com/ollama/ollama 的分支镜像，专门优化用于在摩尔线程（Moore Threads）GPU上运行大语言模型（LLM）。该镜像基于MUSA（Meta-computing Unified System Architecture，统一元计算系统架构）平台构建，旨在充分利用摩尔线程GPU的硬件能力，提升LLM推理性能。
核心功能和特性
- 摩尔线程GPU支持：针对摩尔线程GPU进行优化，实现高效的模型推理
- MUSA平台加速：基于MUSA架构，充分利用GPU计算资源，提升推理效率
- 与Ollama兼容：继承Ollama的核心功能，支持模型管理、推理交互等操作
- 版本对齐：镜像版本与Ollama上游版本及MUSA SDK版本明确对应，便于环境管理
镜像标签说明
镜像标签遵循以下命名规则：
<ollama-version>-musa-<musa-sdk-version>-<arch>
标签示例
0.11.4-musa-rc4.2.0-amd64
标签组成说明
<ollama-version>：Ollama上游版本，如0.11.4<musa-sdk-version>：MUSA SDK版本，通常与驱动版本对应，如musa-rc4.2.0<arch>：CPU架构，如amd64
特殊标签
latest：始终指向最新的Ollama版本与最新的MUSA SDK版本组合，适合快速部署使用。
使用场景和适用范围
- 基于摩尔线程GPU的LLM本地部署
- 对推理性能有要求的大语言模型应用场景
- 需要利用MUSA平台加速的AI推理服务
使用方法和配置说明
基本运行命令
使用以下命令启动容器（需确保已安装摩尔线程GPU驱动及MUSA环境）：
bashdocker run -d --name ollama-musa --gpus all -v ./ollama_data:/root/.ollama -p 11434:11434 mthreads/ollama:latest
参数说明
--gpus all：允许容器访问所有GPU资源-v ./ollama_data:/root/.ollama：挂载本地目录用于存储模型数据-p 11434:11434：映射Ollama默认端口，便于外部访问
模型使用
容器启动后，可通过Ollama CLI或API与模型交互，例如拉取并运行模型：
bash# 进入容器 docker exec -it ollama-musa bash # 拉取模型（示例） ollama pull llama2 # 运行模型 ollama run llama2
更多相关 Docker 镜像与资源
以下是 mthreads/ollama 相关的常用 Docker 镜像，适用于 不同场景 等不同场景：
- ollama/ollama Docker 镜像说明
- infiniflow/ragflow Docker 镜像说明（RAG 知识库系统）
- elestio/lobe-chat Docker 镜像说明
- lobehub/lobe-chat Docker 镜像说明（AI 聊天应用，支持多种模型）
- moltbot/moltbot Docker 镜像说明（个人 AI 助手，支持多渠道消息与语音交互）
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
DockerHub 原生拉取命令
docker pull mthreads/ollama:<标签>
更多 ollama 镜像推荐
ollama/ollama
Ollama 本地大模型运行镜像
轻松在本地部署和运行大型语言模型的最简单方式。
1.6千 次收藏1亿+ 次下载
2 天前更新
alpine/ollama
Alpine 工具与轻量镜像
Minimal CPU-only Ollama Docker Image
17 次收藏5万+ 次下载
7 天前更新
dustynv/ollama
dustynv
GitHub仓库dusty-nv/jetson-containers中的Ollama LLM包，是为NVIDIA Jetson嵌入式平台设计的容器化解决方案，旨在简化大型语言模型（LLM）的部署与运行流程，支持多种主流LLM模型，充分利用Jetson设备的硬件加速能力，适用于边缘AI计算、智能终端开发等场景，为开发者提供便捷高效的本地化LLM部署工具。
8 次收藏10万+ 次下载
9 个月前更新
shinejh0528/ollama
shinejh0528
基于ollama/ollama的镜像，集成fastAPI服务器，允许外部系统释放Ollama占用的GPU内存，提供Ollama服务（11434端口）和fastAPI管理接口（5000端口）。
1万+ 次下载
3 个月前更新
eisai/ollama
eisai
适用于Windows 20348或更新版本（Win11、Server2022）的Ollama容器镜像，无需Hyper-V或CUDA工具包，支持本地运行大模型，可通过Docker部署并挂载模型目录，实现模型持久化存储与GPU加速。
1 次收藏5.9千+ 次下载
2 天前更新
tmvdl/ollama
tmvdl
An Ollama Docker Image
1 次收藏3千+ 次下载
1 年前更新
轩辕镜像配置手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
Docker 配置
登录仓库拉取
通过 Docker 登录认证访问私有仓库
专属域名拉取
无需登录使用专属域名
K8s Containerd
Kubernetes 集群配置 Containerd
K3s
K3s 轻量级 Kubernetes 镜像加速
Dev Containers
VS Code Dev Containers 配置
Podman
Podman 容器引擎配置
Singularity/Apptainer
HPC 科学计算容器配置
其他仓库配置
ghcr、Quay、nvcr 等镜像仓库
Harbor 镜像源配置
Harbor Proxy Repository 对接专属域名
Portainer 镜像源配置
Portainer Registries 加速拉取
Nexus 镜像源配置
Nexus3 Docker Proxy 内网缓存
系统配置
需要其他帮助？请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
镜像拉取常见问题
使用与功能问题
配置了专属域名后，docker search 为什么会报错？
docker search 限制
Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？
站内搜不到镜像
机器不能直连外网时，怎么用 docker save / load 迁镜像？
离线 save/load
docker pull 拉插件报错（plugin v1+json）怎么办？
插件要用 plugin install
WSL 里 Docker 拉镜像特别慢，怎么排查和优化？
WSL 拉取慢
轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？
安全与 digest
第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？
新手拉取配置
轩辕镜像合规吗？轩辕镜像的合规是怎么做的？
镜像合规机制
错误码与失败问题
docker pull 提示 manifest unknown 怎么办？
manifest unknown
docker pull 提示 no matching manifest 怎么办？
no matching manifest（架构）
镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？
invalid tar header（解压）
Docker pull 时 HTTPS / TLS 证书验证失败怎么办？
TLS 证书失败
Docker pull 时 DNS 解析超时或连不上仓库怎么办？
DNS 超时
docker 无法连接轩辕镜像域名怎么办？
域名连通性排查
Docker 拉取出现 410 Gone 怎么办？
410 Gone 排查
出现 402 或「流量用尽」提示怎么办？
402 与流量用尽
Docker 拉取提示 UNAUTHORIZED（401）怎么办？
401 认证失败
遇到 429 Too Many Requests（请求太频繁）怎么办？
429 限流
docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？
D-Bus 凭证提示
为什么会出现「单层超过 20GB」或 413，无法加速拉取？
413 与超大单层
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"