热门搜索:
hookdevel/ollama
hookdevel
集成ollama和SSH服务的Docker镜像，基于nvidia/cuda:12.3.0-runtime-ubuntu22.04构建，支持GPU加速，可用于远程访问和运行大语言模型。
下载次数: 0状态：社区镜像维护者：hookdevel仓库类型：镜像最近更新：1 年前
让 AI 帮你使用轩辕镜像？ · 展开查看说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
ollama与SSH集成镜像（基于nvidia/cuda:12.3.0-runtime-ubuntu22.04）
镜像概述
本镜像基于nvidia/cuda:12.3.0-runtime-ubuntu22.04基础镜像构建，集成了ollama（大语言模型运行工具）和SSH服务，提供GPU加速支持，适用于需要远程访问并运行大语言模型的场景。
核心功能与特性
- ollama集成：内置ollama工具，支持下载、运行和管理各类大语言模型（如Llama、Mistral等）
- SSH服务：包含SSH服务，支持远程登录和操作容器
- CUDA支持：基于CUDA 12.3.0运行时，可利用NVIDIA GPU进行模型推理加速
- 稳定基础：基于Ubuntu 22.04系统，提供可靠的运行环境
使用场景
- 本地开发环境：在本地GPU设备上快速部署带远程访问功能的大语言模型运行环境
- 服务器部署：在具备NVIDIA GPU的服务器上部署，通过SSH远程管理和使用ollama
- 模型测试与验证：快速验证不同大语言模型在GPU加速下的运行效果
使用方法
Docker Run命令示例
bashdocker run -d \ --gpus all \ -p 2222:22 \ # SSH端口映射（主机端口:容器端口） -p 11434:11434 \ # ollama API端口映射 -v ./ollama_data:/root/.ollama \ # 持久化ollama数据 -e SSH_PASSWORD=your_secure_password \ # 设置SSH密码 --name ollama-ssh-cuda \ [镜像名称]
环境变量配置
| 环境变量 | 说明 | 默认值 |
|---|---|---|
SSH_PASSWORD | SSH登录密码（建议使用强密码） | 无（必须设置） |
SSH_PUB_KEY | SSH公钥（替代密码登录，优先级高于密码） | 无 |
OLLAMA_HOST | ollama服务监听地址 | 0.0.0.0 |
OLLAMA_PORT | ollama服务端口 | 11434 |
远程访问说明
-
通过SSH连接容器：
bashssh root@<主机IP> -p 2222输入设置的
SSH_PASSWORD或使用配置的SSH公钥登录 -
登录后使用ollama：
bash# 拉取模型 ollama pull llama3 # 运行模型 ollama run llama3
注意事项
- 需确保主机已安装NVIDIA Docker运行时（nvidia-container-toolkit）
- 持久化
/root/.ollama目录可避免重复下载模型 - 生产环境建议使用SSH公钥认证，而非密码登录
更多相关 Docker 镜像与资源
以下是 hookdevel/ollama 相关的常用 Docker 镜像，适用于 不同场景 等不同场景：
- ollama/ollama Docker 镜像说明
- dustynv/ollama Docker 镜像说明（dustynv 维护的 Ollama 镜像，适合 Jetson 等边缘设备上的本地大模型推理）
- shinejh0528/ollama Docker 镜像说明（Ollama 社区变体（shinejh0528），适合本地大模型推理与 API）
- eisai/ollama Docker 镜像说明（Ollama 社区变体（eisai），适合本地大模型推理）
- infiniflow/ragflow Docker 镜像说明（RAG 知识库系统）
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
DockerHub 原生拉取命令
docker pull hookdevel/ollama:<标签>
更多 ollama 镜像推荐
ollama/ollama
Ollama 本地大模型运行镜像
轻松在本地部署和运行大型语言模型的最简单方式。
1.6千 次收藏1亿+ 次下载
25 天前更新
alpine/ollama
Alpine 工具与轻量镜像
Minimal CPU-only Ollama Docker Image
19 次收藏10万+ 次下载
27 天前更新
dustynv/ollama
dustynv
GitHub仓库dusty-nv/jetson-containers中的Ollama LLM包，是为NVIDIA Jetson嵌入式平台设计的容器化解决方案，旨在简化大型语言模型（LLM）的部署与运行流程，支持多种主流LLM模型，充分利用Jetson设备的硬件加速能力，适用于边缘AI计算、智能终端开发等场景，为开发者提供便捷高效的本地化LLM部署工具。
8 次收藏10万+ 次下载
11 个月前更新
shinejh0528/ollama
shinejh0528
基于ollama/ollama的镜像，集成fastAPI服务器，允许外部系统释放Ollama占用的GPU内存，提供Ollama服务（11434端口）和fastAPI管理接口（5000端口）。
1万+ 次下载
4 个月前更新
eisai/ollama
eisai
适用于Windows 20348或更新版本（Win11、Server2022）的Ollama容器镜像，无需Hyper-V或CUDA工具包，支持本地运行大模型，可通过Docker部署并挂载模型目录，实现模型持久化存储与GPU加速。
1 次收藏7千+ 次下载
30 天前更新
tmvdl/ollama
tmvdl
An Ollama Docker Image
1 次收藏3千+ 次下载
1 年前更新
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"