Lang***Chatchat 镜像文档

镜像概述和主要用途

LangChatchat 镜像是集成LangChain框架与大语言模型（如ChatGLM、LLaMA等）的容器化知识库问答解决方案。该镜像提供本地部署能力，支持将PDF、Markdown等多格式文档转化为结构化知识库，通过自然语言交互实现智能问答。主要用于企业内部文档检索、个人学资料管理、技术文档智能查询等场景，保障数据本地化处理与隐私安全。

核心功能和特性

核心功能

• 知识库构建：批量导入多格式文档（PDF、Word、Markdown、TXT等），自动完成文本提取、分段及向量化处理。
• 智能问答：基于大语言模型理解知识库内容，支持上下文关联与多轮对话，提供准确相关的回答。
• 模型适配：兼容主流开源大语言模型（ChatGLM系列、LLaMA系列、Qwen系列等），支持本地模型加载与推理。
• 可视化管理：内置Web界面，支持文档上传、知识库维护、问答交互等操作的可视化管理。

特性

• 本地部署：全流程本地化运行，无需依赖外部API，保障数据隐私与安全。
• 轻量化配置：通过环境变量快速调整核心参数，简化部署流程。
• 扩展性强：支持自定义模型路径、向量数据库（FAISS、Chroma等）及知识库存储路径。
• 多场景适配：兼容CPU/GPU运行环境，满足不同硬件配置需求。

使用场景和适用范围

使用场景

• 企业内部知识库：构建企业规章制度、技术手册、产品文档的智能检索系统，提升信息获取效率。
• 个人学助手**：将教材、论文、笔记转化为知识库，辅助快速查询知识点与学**内容。
• 技术文档查询：针对API文档、框架手册等技术资料，提供精准的代码示例与使用说明查询。
• 客服辅助系统：快速检索产品FAQ或故障处理文档，为客服提供标准化回答支持。

适用范围

• 对数据隐私有高要求，需本地处理文档与问答的场景。
• 需低成本构建智能问答系统的中小企业及个人用户。
• 基于开源模型与文档构建定制化知识库的开发者。

使用方法和配置说明

前提条件

• 安装Docker 20.10+环境，GPU模式需额外安装nvidia-docker。
• 本地预留足够存储空间（模型文件通常为GB级，根据模型大小调整）。

Docker 快速启动

CPU模式

docker run -d \
  --name lang***chatchat \
  -p 7860:7860 \
  -v /path/to/local/models:/app/models \
  -v /path/to/local/knowledge:/app/knowledge \
  -e MODEL_PATH=/app/models/chatglm3-6b \
  -e VECTOR_DB=faiss \
  chatchat-space/lang***chatchat:latest

GPU模式（需NVIDIA GPU支持）

docker run -d \
  --name lang***chatchat-gpu \
  --gpus all \
  -p 7860:7860 \
  -v /path/to/local/models:/app/models \
  -v /path/to/local/knowledge:/app/knowledge \
  -e MODEL_PATH=/app/models/chatglm3-6b \
  -e VECTOR_DB=faiss \
  -e DEVICE=gpu \
  chatchat-space/lang***chatchat:latest

Docker Compose 配置示例

创建docker-compose.yml文件：

version: '3'
services:
  lang***chatchat:
    image: chatchat-space/lang***chatchat:latest
    container_name: lang***chatchat
    ports:
      - "7860:7860"  # Web界面端口
      - "8000:8000"  # API服务端口（可选）
    volumes:
      - ./models:/app/models  # 本地模型存储目录
      - ./knowledge:/app/knowledge  # 知识库数据目录
      - ./config:/app/config  # 自定义配置目录（可选）
    environment:
      - MODEL_PATH=/app/models/chatglm3-6b  # 模型路径（容器内）
      - VECTOR_DB=faiss  # 向量数据库类型
      - DEVICE=cpu  # 运行设备（cpu/gpu）
      - WEBUI_PORT=7860  # Web界面端口
      - API_PORT=8000  # API服务端口
      - EMBEDDING_MODEL=bge-large-zh  # 嵌入模型名称
    restart: unless-stopped

启动命令：docker-compose up -d

核心配置参数说明

环境变量

数据卷映射

访问与使用

容器启动后，通过浏览器访问 http://localhost:7860 打开Web界面：

1. 上传文档：在"知识库管理"模块上传文档（支持PDF、Markdown等格式）。
2. 构建知识库：系统自动提取文本并向量化，生成知识库索引。
3. 开始问答：在"对话"模块输入问题，系统基于知识库内容生成回答。

注意事项

• 模型准备：需提前下载大语言模型及嵌入模型文件，放置于MODEL_PATH映射的本地目录。
• 性能要求：GPU模式推荐显存≥10GB；CPU模式建议内存≥16GB以保证运行流畅。
• 版本兼容性：使用最新镜像版本，并确保本地模型与镜像支持的模型版本兼容。
• 数据安全：所有数据本地化存储，无需上传至云端，适用于对隐私要求高的场景。