本站面向开发者与科研用户，提供开源镜像的搜索和下载加速服务。
所有镜像均来源于原始开源仓库，本站不存储、不修改、不传播任何镜像内容。
轩辕镜像 - 国内开发者首选的专业 Docker 镜像下载加速服务平台 - 官方QQ群:13763429 👈点击免费获得技术支持。
本站面向开发者与科研用户，提供开源镜像的搜索和下载加速服务。所有镜像均来源于原始开源仓库，本站不存储、不修改、不传播任何镜像内容。
本站面向开发者与科研用户，提供开源镜像的搜索和下载加速服务。所有镜像均来源于原始开源仓库，本站不存储、不修改、不传播任何镜像内容。
本站支持搜索的镜像仓库：Docker Hub、gcr.io、ghcr.io、quay.io、k8s.gcr.io、registry.gcr.io、elastic.co、mcr.microsoft.com
granite-3-3b-a800m-instruct Docker 镜像下载 - 轩辕镜像
granite-3-3b-a800m-instruct 镜像详细信息和使用指南
granite-3-3b-a800m-instruct 镜像标签列表和版本信息
granite-3-3b-a800m-instruct 镜像拉取命令和加速下载
granite-3-3b-a800m-instruct 镜像使用说明和配置指南
Docker 镜像加速服务 - 轩辕镜像平台
国内开发者首选的 Docker 镜像加速平台
极速拉取 Docker 镜像服务
相关 Docker 镜像推荐
热门 Docker 镜像下载
redhat/granite-3-3b-a800m-instruct
granite-3-3b-a800m-instruct 镜像详细信息
granite-3-3b-a800m-instruct 镜像标签列表
granite-3-3b-a800m-instruct 镜像使用说明
granite-3-3b-a800m-instruct 镜像拉取命令
Docker 镜像加速服务
轩辕镜像平台优势
镜像下载指南
相关 Docker 镜像推荐
预配置的Docker镜像，用于运行IBM的Granite 3.0大型语言模型(LLM)，针对本地大型语言模型操作进行了优化
1 收藏0 次下载activeredhat镜像
granite-3-3b-a800m-instruct 镜像详细说明
granite-3-3b-a800m-instruct 使用指南
granite-3-3b-a800m-instruct 配置说明
granite-3-3b-a800m-instruct 官方文档
镜像概述
本Docker镜像为运行IBM的Granite 3.0大型语言模型(LLM)提供预配置环境，针对本地大型语言模型操作进行了优化。镜像包含运行Granite 3.0所需的所有依赖项、库和运行时环境，支持无缝部署和交互。
核心功能与特性
关键组件
- 基础镜像：基于轻量级基础镜像ubi9构建，确保运行环境精简高效
- 模型运行时环境：集成llama.cpp作为模型服务运行时，提供高效的本地模型部署能力
使用场景与适用范围
- 本地大型语言模型部署与测试
- 开发环境中快速集成Granite 3.0模型
- 需要本地运行LLM且资源受限的场景
- 构建OpenAI兼容的本地API服务
使用方法与配置说明
1. CLI模式运行
通过命令行交互模式运行模型，适用于直接与模型进行对话交互：
docker run --ipc=host -it redhat/granite-3-3b-a800m-instruct
2. OpenAI兼容API服务器模式运行
以服务器模式启动，提供OpenAI兼容的API服务，适用于集成到应用系统中：
docker run --network host --ipc=host -it redhat/granite-3-3b-a800m-instruct -s
参数说明：
--ipc=host：使用主机的IPC命名空间，优化内存共享性能--network host：使用主机网络模式，便于API服务端口暴露-s：启动服务器模式，提供OpenAI兼容API接口
redhat/granite-3-8b-instruct
by Red Hat, Inc.
认证
IBM的Granite 3.0大型语言模型（LLM），优化用于本地大型语言模型操作
32.2K pulls
上次更新：11 个月前
redhat/granite-3.1-8b-instruct
by Red Hat, Inc.
认证
IBM的Granite 3.1大型语言模型(LLM)，针对本地大型语言模型运行进行了优化
81.1K pulls
上次更新：9 个月前
redhat/granite-3-1b-a400m-instruct
by Red Hat, Inc.
认证
IBM's Granite 3.0 large language model (LLM), optimized for local large language model operations
81.4K pulls
上次更新：11 个月前
redhat/granite-7b-lab-gguf
by Red Hat, Inc.
认证
Granite-7b-lab模型的4位量化版本Docker镜像，通过4位量化技术降低模型资源占用，实现高效部署，适用于资源受限环境下的大型语言模型应用。
55.4K pulls
上次更新：1 年前
常见问题
轩辕镜像免费版与专业版有什么区别？
免费版仅支持 Docker Hub 加速，不承诺可用性和速度；专业版支持更多镜像源，保证可用性和稳定速度，提供优先客服响应。
轩辕镜像免费版与专业版有分别支持哪些镜像？
免费版仅支持 docker.io；专业版支持 docker.io、gcr.io、ghcr.io、registry.k8s.io、nvcr.io、quay.io、mcr.microsoft.com、docker.elastic.co 等。
流量耗尽错误提示
当返回 402 Payment Required 错误时，表示流量已耗尽，需要充值流量包以恢复服务。
410 错误问题
通常由 Docker 版本过低导致，需要升级到 20.x 或更高版本以支持 V2 协议。
manifest unknown 错误
先检查 Docker 版本，版本过低则升级；版本正常则验证镜像信息是否正确。
镜像拉取成功后，如何去掉轩辕镜像域名前缀？
使用 docker tag 命令为镜像打上新标签，去掉域名前缀，使镜像名称更简洁。
轩辕镜像下载加速使用手册
探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式
登录方式进行 Docker 镜像下载加速教程
通过 Docker 登录方式配置轩辕镜像加速服务，包含7个详细步骤
Linux Docker 镜像下载加速教程
在 Linux 系统上配置轩辕镜像源，支持主流发行版
Windows/Mac Docker 镜像下载加速教程
在 Docker Desktop 中配置轩辕镜像加速，适用于桌面系统
Docker Compose 镜像下载加速教程
在 Docker Compose 中使用轩辕镜像加速，支持容器编排
K8s containerd 镜像下载加速教程
在 k8s 中配置 containerd 使用轩辕镜像加速
宝塔面板 Docker 镜像下载加速教程
在宝塔面板中配置轩辕镜像加速，提升服务器管理效率
群晖 NAS Docker 镜像下载加速教程
在 Synology 群晖NAS系统中配置轩辕镜像加速
飞牛fnOS Docker 镜像下载加速教程
在飞牛fnOS系统中配置轩辕镜像加速
极空间 NAS Docker 镜像下载加速教程
在极空间NAS中配置轩辕镜像加速
爱快路由 ikuai Docker 镜像下载加速教程
在爱快ikuai系统中配置轩辕镜像加速
绿联 NAS Docker 镜像下载加速教程
在绿联NAS系统中配置轩辕镜像加速
威联通 NAS Docker 镜像下载加速教程
在威联通NAS系统中配置轩辕镜像加速
Podman Docker 镜像下载加速教程
在 Podman 中配置轩辕镜像加速，支持多系统
ghcr、Quay、nvcr、k8s、gcr 等仓库下载镜像加速教程
配置轩辕镜像加速9大主流镜像仓库，包含详细配置步骤
专属域名方式进行 Docker 镜像下载加速教程
无需登录即可使用轩辕镜像加速服务，更加便捷高效
需要其他帮助？请查看我们的 常见问题 或 官方QQ群: 13763429