redhat/granite-3-1b-a400m-instruct Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务
redhat/granite-3-1b-a400m-instructredhat
IBM's Granite 3.0 large language model (LLM), optimized for local large language model operations
8 次收藏下载次数: 0状态：社区镜像维护者：redhat仓库类型：镜像最近更新：1 年前
This Docker image is pre-configured to run IBM's Granite 3.0 large language model (LLM), optimized for local large language model operations. The image includes all necessary dependencies, libraries, and runtime environments for seamless deployment and interaction with Granite 3.0.
Key components:
- Base Image: Starts with a lightweight, base image: ubi9
- Model Runtime Environment: The image provides llama.cpp as the model serving runtime
To run the image in CLI mode use the command docker run --ipc=host -it redhat/granite-3-1b-a400m-instruct
To run the image as an openAI compatible API server run docker run --network host --ipc=host -it redhat/granite-3-1b-a400m-instruct -s
redhat/granite-3-8b-instruct
redhat
IBM的Granite 3.0大型语言模型（LLM），优化用于本地大型语言模型操作
3 次收藏2.6千+ 次下载
1 年前更新
redhat/granite-3.1-8b-instruct
redhat
IBM的Granite 3.1大型语言模型(LLM)，针对本地大型语言模型运行进行了优化
8 次收藏1.5千+ 次下载
1 年前更新
redhat/granite-3-3b-a800m-instruct
redhat
预配置的Docker镜像，用于运行IBM的Granite 3.0大型语言模型(LLM)，针对本地大型语言模型操作进行了优化
1 次收藏1.4千+ 次下载
1 年前更新
ai/granite-4.0-nano
Docker AI 官方镜像
Granite-4.0-Nano是一款轻量级指令模型，通过监督微调、强化学习和模型合并技术在多样化数据集上训练而成，具备强指令遵循能力，适用于设备端部署和研究场景，紧凑尺寸便于专业领域微调。
8.7千+ 次下载
4 个月前更新
ai/granite-4.0-h-tiny
Docker AI 官方镜像
70亿参数长上下文指令模型，采用强化学习对齐，具备指令遵循、工具调用能力，针对企业应用优化。
3 次收藏6.8千+ 次下载
5 个月前更新
redhat/granite-7b-lab-gguf
redhat
Granite-7b-lab模型的4位量化版本Docker镜像，通过4位量化技术降低模型资源占用，实现高效部署，适用于资源受限环境下的大型语言模型应用。
5 次收藏6.1千+ 次下载
1 年前更新
镜像拉取常见问题
使用与功能问题
错误码与失败问题
manifest unknown 错误：镜像不存在或标签错误
manifest unknown 错误
TLS/SSL 证书验证失败：Docker pull 时 HTTPS 证书错误
TLS 证书验证失败
DNS 解析超时：无法解析镜像仓库地址或连接超时
DNS 解析超时
410 Gone 错误：Docker 版本过低导致协议不兼容
410 错误：版本过低
402 Payment Required 错误：流量耗尽错误提示
402 错误：流量耗尽
401 UNAUTHORIZED 错误：身份认证失败或登录信息错误
身份认证失败错误
429 Too Many Requests 错误：请求频率超出专业版限制
429 限流错误
Docker login 凭证保存错误：Cannot autolaunch D-Bus（不影响登录）
凭证保存错误
账号 / 计费 / 权限
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"