lianshufeng/llm

镜像概述

该Docker镜像提供视觉语言模型API服务，专注于处理包含图像和文本的多模态请求，可实现图像内容理解与问答功能。通过兼容模式API接口，接收指定格式的JSON请求数据，返回针对图像内容的分析结果。

核心功能与特性

• 多模态输入支持：同时接收图像（通过URL）和文本信息作为输入
• 兼容模式API：提供/compatible-mode/v1接口路径，支持标准JSON格式请求
• 视觉问答能力：能够分析图像内容并回答相关问题
• 简单集成：可直接通过HTTP请求调用，易于与各类应用系统集成

使用场景与适用范围

• 图像内容自动分析与理解
• 视觉问答系统开发与部署
• 多模态数据处理服务构建
• 智能图像检索与交互应用

使用方法与配置说明

基本部署

使用以下命令启动容器，映射容器8000端口到主机8000端口：

shell
docker run -d -p 8000:8000 [镜像名称]

API调用示例

容器启动后，可通过HTTP POST请求调用API。以下是使用curl工具的调用示例：

shell
curl --location 'http://127.0.0.1:8000/compatible-mode/v1' \
--header 'Content-Type: application/json' \
--data '{
    "messages": [
        {
            "role": "user",
            "content": [
                {"type": "image", "image":"https://qianwen-res.oss-cn-beijing.aliyuncs.com/Qwen-VL/assets/demo.jpeg"},
                {"type": "text", "text": "图片里都有什么"}
            ]
        }
    ]
}'

请求参数说明

• messages：消息数组，包含用户输入内容
  • role：角色标识，固定为"user"
  • content：内容数组，包含图像和文本信息
    • type: "image"：指定图像类型，image字段为图像URL
    • type: "text"：指定文本类型，text字段为问题文本

响应说明

API将返回JSON格式响应，包含对图像内容的分析结果和问题回答。具体响应格式取决于模型实现。