mthreads/ollama Docker Image
mthreads/ollama是支持在摩尔线程GPU上运行大语言模型的Ollama分支镜像,基于MUSA平台提升模型推理性能。
https://github.com/MooreThreads/ollama-musa
🐋 Ollama MUSA 镜像简介 / Ollama MUSA Image Overview
mthreads/ollama 是 https://github.com/ollama/ollama 的一个分支镜像,支持在 摩尔线程 GPU 上运行大语言模型(LLM)。该镜像基于 MUSA(Meta-computing Unified System Architecture,统一元计算系统架构)平台,以提升模型的推理性能。
mthreads/ollama is a forked image of https://github.com/ollama/ollama that enables large language model (LLM) inference on Moore Threads GPUs. It leverages the MUSA (Meta-computing Unified System Architecture) platform to accelerate inference workloads.
🏷️ 镜像标签说明 / Image Tag Convention
镜像标签遵循以下命名规则:
<ollama-version>-musa-<musa-sdk-version>-<arch>
例如:
0.11.4-musa-rc4.2.0-amd64
0.11.4:Ollama 的上游版本musa-rc4.2.0:所使用的 MUSA SDK 版本(通常也隐含对应的驱动版本)amd64:所使用的 CPU 架构
The image tags follow this naming format:
<ollama-version>-musa-<musa-sdk-version>-<arch>
For example:
0.11.4-musa-rc4.2.0-amd64
0.11.4: Upstream version of Ollamamusa-rc4.2.0: Corresponding version of MUSA SDK (typically aligned with the driver version)amd64: Corresponding CPU architecture
此外:
latest标签始终指向 最新的 Ollama + 最新的 MUSA SDK 组合,方便快速使用。- The
latesttag always points to the latest Ollama + latest MUSA SDK combination for convenience.
更多相关 Docker 镜像与资源
以下是 mthreads/ollama 相关的常用 Docker 镜像,适用于 不同场景 等不同场景:
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
DockerHub 原生拉取命令
用户好评
来自真实用户的反馈,见证轩辕镜像的优质服务