anuvaadio/aai4b-nmt-inference
anuvaadio
暂无描述
1万+ 次下载1 年前更新
roboflow/roboflow-inference-server-trt
roboflow
Roboflow官方推理服务器，针对TRT目标设备提供推理服务
10万+ 次下载13 天前更新
rancher/opni-inference-service
rancher
暂无描述
1 次收藏1万+ 次下载2 年前更新
roboflow/roboflow-inference-server-cpu
roboflow
官方Roboflow推理服务器，适用于CPU平台的推理任务运行。
2 次收藏10万+ 次下载10 天前更新
roboflow/roboflow-inference-server-gpu
roboflow
暂无描述
2 次收藏10万+ 次下载10 天前更新
semitechnologies/model2vec-inference
semitechnologies
暂无描述
5万+ 次下载7 个月前更新
semitechnologies/transformers-inference
semitechnologies
暂无描述
50万+ 次下载4 个月前更新
roboflow/roboflow-inference-server-jetson-5.1.1
roboflow
暂无描述
1万+ 次下载10 天前更新
openeuler/text-embeddings-inference-cpu
openeuler
暂无描述
1.2千+ 次下载6 个月前更新
openeuler/euler-copilot-fast-inference
openeuler
基于openEuler基础镜像的大规模CPU推理框架，容器化打包后支持一键部署，适用于大模型推理场景。
277 次下载1 年前更新
openeuler/text-generation-inference-cpu
openeuler
暂无描述
709 次下载6 个月前更新
openeuler/euler-copilot-fast-inference-qwen
openeuler
基于鲲鹏和openEuler基础镜像的推理框架，用于大规模CPU推理，容器化打包后支持一键部署。
57 次下载1 年前更新
inferencedevnet/amd64-nvidia-inference-node
inferencedevnet
暂无描述
1 次收藏1万+ 次下载5 个月前更新
inferencecloud/amd64-nvidia-inference-node
inferencecloud
暂无描述
1万+ 次下载2 个月前更新
xprobe/xinference
xprobe
暂无描述
51 次收藏500万+ 次下载11 天前更新
dhruvnair/inference-toolkit
dhruvnair
暂无描述
100万+ 次下载10 个月前更新
willseff/cyrt-inference
willseff
暂无描述
10万+ 次下载2 个月前更新
intelanalytics/ipex-llm-inference-cpp-xpu
intelanalytics
暂无描述
7 次收藏10万+ 次下载6 个月前更新
hamunadocker/inference-node
hamunadocker
分布式机器学习推理节点镜像，用于在分布式环境中部署和运行机器学习模型推理任务，支持高效扩展和资源优化，适用于大规模模型推理场景。
10万+ 次下载1 年前更新
dustynv/jetson-inference
dustynv
jetson-inference是为NVIDIA Jetson平台设计的深度学习推理容器，集成CUDA、PyTorch、TensorRT、OpenCV等关键依赖，支持多种JetPack/L4T版本，便于快速部署和运行计算机视觉等推理任务。
16 次收藏5万+ 次下载1 年前更新
aveshadev/inference-agent
aveshadev
暂无描述
1万+ 次下载30 天前更新
apecloud/xinference
apecloud
暂无描述
1万+ 次下载3 个月前更新
alexgshaw/hf-model-inference
alexgshaw
暂无描述
1万+ 次下载4 个月前更新
gdubx/trinity-inference
gdubx
暂无描述
1万+ 次下载22 天前更新
第 1 页