uberchuckie/ollama-intel-gpu Docker 镜像 - 轩辕镜像 | Docker 镜像高效稳定拉取服务

Ollama Intel GPU 镜像文档

镜像概述

本镜像为Ollama 0.9.3版本提供Intel GPU运行支持，基于charlescng/ollama-intel-gpu项目构建（该项目是mattcurf/ollama-intel-gpu的分支），本质上是intelanalytics/ipex-llm-inference-cpp-xpu的轻量级包装。当前intel/ipex-llm支持的最新Ollama版本为0.9.3。

核心功能与特性

• 支持在Intel GPU上运行Ollama 0.9.3版本
• 针对Intel Arc系列GPU优化（已在Arc A380和Arc B580上验证）
• 通过环境变量灵活配置运行参数
• 提供标准Ollama API接口（默认端口***）

使用场景

• 本地大模型推理部署
• 开发环境中的Ollama测试与验证
• 需要利用Intel GPU加速的AI应用集成

使用方法与配置说明

环境变量配置

Docker Run 示例

bash
docker run \
  -d \
  --name='ollama-intel-gpu' \
  -e TZ="America/New_York" \
  -e 'OLLAMA_ORIGINS'='*' \
  -e 'DEVICE'='Arc' \
  -e 'OLLAMA_MAX_LOADED_MODELS'='1' \
  -e 'OLLAMA_NUM_PARALLEL'='1' \
  -e 'OLLAMA_NUM_CTX'='4096' \
  -p '11434:11434/tcp' \
  -v '<主机卷挂载路径>':'/root/.ollama':'rw' \
  --device='/dev/dri' 'uberchuckie/ollama-intel-gpu:latest'

参数说明

• -d: 后台运行容器
• --name: 指定容器名称
• -e: 设置环境变量
• -p: 端口映射（主机端口:容器端口）
• -v: 卷挂载，将主机目录挂载到容器内以持久化Ollama数据
• --device='/dev/dri': 挂载GPU设备，使容器能够访问Intel GPU

注意事项

1. 确保主机已安装Intel GPU驱动
2. 卷挂载路径需替换为实际主机目录，用于存储模型和配置数据
3. 根据GPU性能调整OLLAMA_NUM_CTX参数，较高的值需要更多显存支持
4. 生产环境中建议限制OLLAMA_ORIGINS为具体域名，而非通配符*