Docker Hub
Docker Hub
架构筛选
yusiwen/llama.cpp
yusiwen
llama.cpp basic build w/wo CUDA/OpenCL support
8 次收藏5万+ 次下载4 天前更新
iaishow/llama.cpp
iaishow
暂无描述
1.3万 次下载5 个月前更新
akrahl/llama.cpp
akrahl
暂无描述
1.1万 次下载3 天前更新
rocm/llama.cpp
rocm
暂无描述
7 次收藏1万+ 次下载11 个月前更新
amperecomputingai/llama.cpp
amperecomputingai
Ampere®优化的llama.cpp，全面支持HuggingFace上的GGUF模型。
4 次收藏1万+ 次下载4 个月前更新
interpause/llama.cpp
interpause
该Docker镜像是为替代过时的GitHub相关Docker镜像而构建，主要用于推送到云虚拟机环境中使用。
1万+ 次下载12 个月前更新
gclub/llama.cpp
gclub
SkywardAI社区基于llama.cpp仓库的分支版本，以消费级硬件为目标的量化引擎。
2.3千 次下载2 年前更新
kris228/llama.cpp
kris228
暂无描述
1.5千 次下载11 个月前更新
alrdockerhub/llama.cpp
alrdockerhub
暂无描述
1.1千 次下载1 年前更新
svanvinge/llama.cpp
svanvinge
适用于Synology NAS的Llama.cpp镜像，仅使用CPU运行，支持在网络存储设备上部署轻量级LLM模型进行本地推理。
1.0千 次下载2 年前更新
hungmol/llama.cpp
hungmol
暂无描述
1.0千 次下载1 年前更新
evilfreelancer/llama.cpp-rpc
evilfreelancer
基于llama.cpp的Docker化RPC服务器，编译了RPC服务端及客户端工具，支持分布式推理GGUF格式的大语言模型(LLM)和嵌入模型，提供CPU（amd64/arm64/arm/v7）和CUDA（amd64）架构支持，适用于构建分布式LLM推理系统。
3 次收藏5万+ 次下载4 天前更新
ezforever/llama.cpp-static
ezforever
llama.cpp的静态构建镜像（目前仅提供amd64服务器版本）
1 次收藏5万+ 次下载2 天前更新
mixa3607/llama.cpp-gfx906
mixa3607
llama.cpp for AMD gfx906 GPUs
8 次收藏1万+ 次下载1 天前更新
hdnh2006/llama.cpp-full-cuda
hdnh2006
这是一个带CUDA GPU加速的llama.cpp Docker镜像，集成cloudflared隧道、nvitop等工具，支持部署GLM-4.7-Flash、Qwen3-14B等GGUF格式大语言模型并通过HTTPS对外提供服务。
1.7千 次下载24 天前更新
第 1 页
与「llama.cpp」相关的博客与命名空间
相关博客
Docker 部署 Open WebUI：轻松搭建本地大模型对话平台
Open WebUI 是一款面向个人和团队的开源自托管 AI 界面，旨在把对话留在自己的机器上，并通过浏览器完成聊天、切换模型和查看记录。本文将介绍如何通过 Docker Compose 部署 Open WebUI 与 Ollama，搭建本地大模型对话平台，帮助你在浏览器里使用本机模型，适合内网试用及不把对话发到云端等场景。
Docker部署教程2026/10/14
【漏洞预警】Ollama Pull API 重定向校验不足可导致服务端请求伪造（CVE-2026-108836）
Ollama 0.34.0 与 0.34.1 的 Pull API 对模型名和仓库请求的重定向目标校验不足，未认证攻击者可诱使服务端发起非预期出站请求（CVE-2026-108836，CVSS 7.3）。修复进入 0.34.2。0.34.2 仍受 CVE-2026-103663 影响，请把 ollama/ollama 直接升到 0.35.0 或更高。
Docker漏洞预警2026/10/13
【漏洞预警】Ollama /api/pull 层 digest 路径穿越可导致 root 远程代码执行（CVE-2026-103663）
Ollama 0.34.2 至 0.35.0 之前，未认证攻击者可通过 /api/pull 的 layer digest 路径穿越，把文件写到模型仓库之外（CVE-2026-103663，CVSS 9.4）。多数官方镜像对 /usr/lib/ollama 可写，服务重启后会以 root 加载执行。请把 ollama/ollama 升到 0.35.0 或更高。
Docker漏洞预警2026/10/9
Docker 部署 Open WebUI + Ollama 完整教程（Windows / Linux 通用）—— 打造自己的本地OpenAI
无需复杂配置！Docker一键部署Open WebUI+Ollama，Windows/Linux通用，新手也能轻松上手。无需依赖云端，打造专属本地OpenAI，实现可视化聊天交互，兼顾数据隐私，还附带常见问题排查，全程步骤清晰，快速拥有本地大模型平台！
Docker部署教程2026/4/23
OLLAMA Docker 容器化部署指南
OLLAMA是一款旨在简化本地大型语言模型（LLM）部署与运行的工具，它提供了直观的命令行界面和容器化部署方案，让用户能够轻松地在本地环境中运行如Llama 3、Gemini、Mistral等主流大语言模型。
Docker部署教程2025/12/3