bytez/samil24_whisper-medium-sorani-v1

samil24/whisper-medium-sorani-v1 Docker镜像文档

镜像概述

samil24/whisper-medium-sorani-v1是一个基于Whisper medium模型构建的Docker镜像，专注于自动语音识别（automatic-speech-recognition）任务，特别针对Sorani语言进行优化。该镜像提供容器化部署方案，支持本地运行与API访问，适用于需要语音转文本功能的应用场景，兼顾隐私性与可定制性。

核心功能与特性

• 自动语音识别：基于Whisper medium模型实现高精度语音转文本
• Sorani语言支持：针对Sorani语言优化，提供更准确的识别效果
• 容器化部署：通过Docker容器快速部署，简化环境配置
• 本地权重缓存：支持将模型权重存储在本地，减少重复下载时间
• GPU加速：支持NVIDIA GPU，提升推理性能
• 灵活配置：可通过环境变量自定义运行设备（CPU/GPU/自动）、端口等参数
• API接口：提供HTTP POST接口，方便集成到各类应用中

使用场景与适用范围

• Sorani语言语音转文本应用开发
• 本地化语音处理系统部署（增强数据隐私）
• 需要离线语音识别功能的嵌入式系统
• 多语言语音识别服务中的Sorani语言支持模块
• 学术研究或商业项目中的语音数据处理

使用方法与配置说明

前置要求

1. 安装Docker环境（确保Docker已正确配置）
2. 获取Bytez API密钥：访问Bytez设置页面注册并登录，获取API密钥（用于模型分析和版本更新通知）

镜像拉取

bash
docker pull bytez/samil24_whisper-medium-sorani-v1

基础运行（CPU模式）

bash
docker run -it \
  -e KEY=YOUR_BYTEZ_API_KEY_HERE \
  -e PORT=8000 \
  -p 8000:8000 \
  bytez/samil24_whisper-medium-sorani-v1

端口调整

如需使用其他端口（如80端口）：

bash
docker run -it \
  -e KEY=YOUR_BYTEZ_API_KEY_HERE \
  -e PORT=80 \
  -p 80:80 \
  bytez/samil24_whisper-medium-sorani-v1

本地权重缓存

为避免重复下载模型权重（尤其是大型模型），可将权重存储在本地目录：

bash
docker run -it \
  -v /本地缓存目录路径:/server/model \
  -e HF_HOME=/server/model \
  -e KEY=YOUR_BYTEZ_API_KEY_HERE \
  -p 8000:8000 \
  -e PORT=8000 \
  bytez/samil24_whisper-medium-sorani-v1

示例（Linux系统）：

bash
docker run -it \
  -v /home/user/models:/server/model \
  -e HF_HOME=/server/model \
  -e KEY=YOUR_BYTEZ_API_KEY_HERE \
  -p 8000:8000 \
  -e PORT=8000 \
  bytez/samil24_whisper-medium-sorani-v1

GPU加速运行

需先安装NVIDIA驱动和CUDA，然后添加--gpus all参数：

bash
docker run -it \
  --gpus all \
  -e KEY=YOUR_BYTEZ_API_KEY_HERE \
  -p 8000:8000 \
  -e PORT=8000 \
  bytez/samil24_whisper-medium-sorani-v1

GPU加速+本地缓存

bash
docker run -it \
  --gpus all \
  -v /本地缓存目录路径:/server/model \
  -e HF_HOME=/server/model \
  -e KEY=YOUR_BYTEZ_API_KEY_HERE \
  -p 8000:8000 \
  -e PORT=8000 \
  bytez/samil24_whisper-medium-sorani-v1

发送推理请求

容器启动后，通过POST请求调用语音识别接口：

bash
curl --location 'http://0.0.0.0:8000/run' \
--header 'Content-Type: application/json' \
--data-raw '{
  "b64AudioBufferWav": "INSERT_B64_WAV_AUDIO_HERE",
  "params": {
    "forward_params": {
      "language": "french",
      "task": "transcribe"
    }
  }
}'

参数说明：

• b64AudioBufferWav：Base64编码的WAV格式音频数据
• params.forward_params.language：指定语言（如"sorani"）
• params.forward_params.task：任务类型（"transcribe"表示转录）

环境变量配置

模型参数详解

长度控制

生成策略

Logits 操作

其他参数

完整参数列表可参考https://github.com/huggingface/transformers/blob/v4.38.2/src/transformers/generation/configuration_utils.py%E3%80%82

支持与帮助

• ***社区：Bytez ***
• 邮件支持：***

本地部署模型可增强隐私性、控制力和自定义能力，适合各类语音处理项目需求。