wechatycore/ollama

Ollama 容器文档

镜像概述

本镜像为Ollama的容器化版本，专门针对本地大语言模型（LLM）处理和Wechaty机器人集成进行优化。提供便捷的本地LLM部署方案，同时支持与Wechaty框架无缝集成，适用于开发基于本地AI能力的聊天机器人应用。

核心功能与特性

• 本地LLM处理：支持在本地环境运行和管理大语言模型，无需依赖云端服务
• Wechaty集成优化：内置与Wechaty机器人框架的适配组件，简化机器人开发流程
• 轻量级部署：容器化设计确保环境一致性，降低部署复杂度
• 灵活配置：支持模型选择、资源分配等参数自定义，适应不同硬件环境

使用场景

• 开发基于本地LLM的智能聊天机器人
• 构建无需联网的隐私保护型AI应用
• 集成Wechaty框架实现微信等社交平台的自动化交互
• 本地LLM模型测试与开发环境搭建

使用方法

基本运行命令

bash
docker run -d --name ollama-wechaty -p 11434:11434 ollama-wechaty:latest

环境变量配置

Docker Compose配置示例

yaml
version: '3'
services:
  ollama-wechaty:
    image: ollama-wechaty:latest
    container_name: ollama-wechaty
    ports:
      - "11434:11434"
    environment:
      - MODEL=mistral
      - WECHATY_PUPPET=wechaty-puppet-wechat
      - MAX_MEMORY=8G
    volumes:
      - ./ollama-data:/root/.ollama
    restart: unless-stopped

集成Wechaty示例

启动容器后，可通过以下代码示例在Node.js中集成Wechaty与Ollama：

javascript
const { WechatyBuilder } = require('wechaty')
const axios = require('axios')

const bot = WechatyBuilder.build({
  puppet: process.env.WECHATY_PUPPET
})

bot.on('message', async (message) => {
  if (message.type() === bo***ssage.Type.Text) {
    const response = await axios.post('http://localhost:***/api/generate', {
      model: process.env.MODEL,
      prompt: message.text()
    })
    await message.say(response.data.response)
  }
})

bot.start()