intakecare/intake-whisper-diarization

runpod-serverless

使用runpod.io无服务器基础设施转录希伯来语音频的模板。

注意：如果您在[runpod.io]注册，我们希望您考虑使用我们的https://runpod.io/?ref=06octndf%E3%80%82%E8%BF%99%E5%B0%86%E4%B8%BA%E6%88%91%E4%BB%AC%E6%8F%90%E4%BE%9B%E6%9B%B4%E5%A4%9A credits，以便我们提供更好的服务。

描述

本项目提供了一个无服务器解决方案，用于转录希伯来语音频文件。它利用runpod.io的基础设施高效处理音频文件并返回转录结果。该项目是ivrit.ai非盈利项目的一部分。

内容

• Dockerfile：用于创建无服务器函数的Docker镜像。
• infer.py：处理转录过程的主脚本，位于Docker镜像内部。

设置推理端点

1. 登录[runpod.io]
2. 选择菜单->Serverless
3. 选择新建端点
4. 选择所需的worker配置：
   • 可选择最便宜的worker（16GB GPU，截至2024年8月1日价格为$0.00016/秒）。
   • 活动worker数可设为0，最大worker数为1或更多。
   • 每个worker的GPU数量应设为1。
   • 容器镜像应设为yairlifshitz/fw-v2-d3-e3:v0.34，或您自己构建的Docker镜像（后续将说明如何构建）。
   • 容器磁盘至少需要20GB。
5. 点击部署。

构建自己的Docker镜像

1. 克隆此仓库：

git clone https://github.com/yourusername/runpod-serverless.git
cd runpod-serverless

2. 构建Docker镜像：

docker build -t runpod-serverless .

3. 将镜像推送到公共Docker仓库：

a. 如果尚未注册，在https://hub.docker.com/%E5%88%9B%E5%BB%BA%E8%B4%A6%E6%88%B7%E3%80%82

b. 从命令行登录Docker Hub：

docker login

c. 用您的Docker Hub用户名标记镜像：

docker tag runpod-serverless yourusername/runpod-serverless:latest

d. 将镜像推送到Docker Hub：

docker push yourusername/runpod-serverless:latest

4. 在runpod.io上使用推送的镜像设置无服务器函数。

使用方法

在runpod.io上部署后，您可以通过提供转录URL（最大200MB）或上传文件（最大10MB）来转录希伯来语音频。

基于URL的转录

python
import runpod
import base64

payload = { 'type' : 'url', 'url' : 'https://your-audio-url' }

runpod.api_key = '<Your runpod.io API key>'
ep = runpod.Endpoint("<endpoint key>")
res = ep.run_sync(payload)

文件上传

python
import runpod
import base64

mp3_data = open('<file>.mp3', 'rb').read()
data = base64.b64encode(mp3_data).decode('utf-8')
payload = { 'type' : 'blob', 'data' : data }

runpod.api_key = '<Your runpod.io API key>'
ep = runpod.Endpoint("<endpoint key>")
res = ep.run_sync(payload)

贡献

欢迎贡献！请随时提交Pull Request。

许可证

我们的代码和模型以MIT许可证发布。

致谢

• 我们的众多数据贡献者
• 我们的数据标注志愿者！