convmind/model-as-service

model-as-service

convmind预训练模型服务镜像集合

镜像概述

该镜像集合提供了多种机器学习模型的Docker化服务，包括BERT、Hugging Face Bert、Stanford CoreNLP及Elastic Search等，帮助用户快速部署和使用预训练模型服务。

核心功能

• BERT-as-service：提供BERT模型的服务化接口，支持文本编码等任务
• Hugging Face Bert HTTP server：基于Hugging Face的BERT模型HTTP服务
• Stanford CoreNLP：提供自然语言处理相关功能的服务
• Elastic Search：提供搜索引擎服务（开发模式）

使用场景

• 自然语言处理任务：如文本嵌入、语义分析、实体识别等
• 搜索服务开发：利用Elastic Search构建搜索功能
• 机器学习模型的快速部署与测试

配置说明及部署示例

BERT-as-service

安装依赖

bash
pip install bert-serving-server  # 服务端
pip install bert-serving-client  # 客户端，与服务端独立

客户端使用示例

python
from bert_serving.client import BertClient
bc = BertClient(ip='gpu.convmind.ai', port=6555, port_out=6556, check_version=False)
bc.encode(['先做起来', '然后做对', '再做得更好'])

Hugging Face Bert HTTP server

bash
docker run --runtime nvidia -dit -p 7000:7000 -t convmind/model-as-service:latest_hf

Stanford CoreNLP

参考官方文档：https://stanfordnlp.github.io/CoreNLP/corenlp-server.html

Elastic Search（开发模式）

bash
docker run -p 9200:9200 -p 9300:9300 -e "discovery.type=single-node" docker.elastic.co/elasticsearch/elasticsearch:7.3.1

参考官方文档：Elastic Search Docker指南