aabergh/open-webui

镜像概述

该Docker镜像基于最新版OpenWebUI构建，是一款增强型Web界面工具，专为本地大语言模型交互设计。相较于官方版本，本镜像额外集成CUDA加速支持、Ollama模型管理工具，并默认配置更大规模的语言模型，旨在提供更高效、更强大的本地AI交互体验。

核心功能与特性

• CUDA加速支持：内置CUDA驱动支持，可利用NVIDIA GPU进行模型推理加速，显著提升响应速度
• Ollama集成：原生支持Ollama模型管理工具，可便捷下载、管理和运行本地大语言模型
• 更大默认LLM：默认配置比官方版本更大规模的语言模型，提供更优的对话质量和理解能力
• 与OpenWebUI同步更新：基于最新版OpenWebUI构建，保持与官方功能同步

使用场景

• 个人本地AI助手：在个人设备上搭建高性能AI对话系统，保护数据隐私
• 开发测试环境：为LLM应用开发提供便捷的本地测试平台
• 知识库管理：结合本地文档，构建个性化知识库问答系统
• 教育与研究：用于AI模型交互教学、实验和研究

使用方法

前提条件

• 安装Docker Engine（20.10.0+）
• 若使用CUDA加速，需安装NVIDIA Docker运行时（nvidia-container-toolkit）

基本运行命令

bash
docker run -d \
  --name openwebui-cuda \
  --gpus all \
  -p 3000:8080 \
  -v ./openwebui-data:/app/backend/data \
  [镜像名称]:latest

参数说明

• --gpus all：启用所有GPU设备（仅在使用CUDA加速时需要）
• -p 3000:8080：将容器内8080端口映射到主机3000端口
• -v ./openwebui-data:/app/backend/data：挂载本地目录以持久化数据（配置、对话历史等）

环境变量配置

通过-e参数设置环境变量，常用配置：

• OLLAMA_API_BASE_URL：Ollama API地址（默认：http://localhost:***）
• DEFAULT_MODEL：指定默认加载的LLM模型（默认：更大规模模型，如llama3-70b）
• CUDA_VISIBLE_DEVICES：指定使用的GPU设备（如"0"表示使用第1块GPU）

docker-compose配置示例

yaml
version: '3.8'
services:
  openwebui:
    image: [镜像名称]:latest
    container_name: openwebui-cuda
    restart: always
    ports:
      - "3000:8080"
    volumes:
      - ./openwebui-data:/app/backend/data
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    environment:
      - OLLAMA_API_BASE_URL=[***]
      - DEFAULT_MODEL=llama3-70b