saladtechnologies/asr-api

asr-api

一个轻量、性能导向的自动语音识别（ASR）推理服务器。以下是基于3080 Ti的初步性能数据：

核心功能

• 提供健康检查接口，确保服务就绪后响应请求
• 支持MP3、FLAC、WAV格式音频的转文字服务
• 可通过环境变量灵活配置模型、端口、缓存目录等参数
• 部分镜像版本支持Flash Attention 2以提升性能

使用场景

• 语音转文字应用开发
• 音频内容自动分析与归档
• 实时语音识别服务部署
• 批量音频文件转写处理

API接口说明

GET /hc

健康检查接口，仅在服务器完全就绪时返回响应。

响应示例

json
{
  "status": "ok",
  "version": "0.0.2"
}

POST /asr

语音转文字接口，接受音频文件下载链接。

请求示例

json
{
  "url": "https://example.com/audio.mp3"
}

响应示例

json
{
  "text": "hello world",
  "chunks": [
    {
      "timestamp": [0.0, 2.1],
      "text": "hello world"
    }
  ]
}

配置说明

所有配置通过环境变量实现：

Docker部署示例

基础镜像（运行时下载模型）

bash
docker run -d -p 8000:8000 \
  -e MODEL_ID=openai/whisper-large-v3 \
  docker.xuanyuan.run/saladtechnologies/asr-api:latest

包含模型的镜像（无需运行时下载）

bash
docker run -d -p 8000:8000 \
  docker.xuanyuan.run/saladtechnologies/asr-api:latest-openai-whisper-large-v3

支持Flash Attention 2的镜像

bash
docker run -d -p 8000:8000 \
  -e FLASH_ATTENTION_2=1 \
  saladtechnologies/asr-api:latest-fa2