热门搜索:
架构筛选
roboflow/inference-exp
roboflow
推理功能的实验版本，属于早期阶段项目。
1万+ 次下载2 天前更新
roboflow/roboflow-inference-server-trt
roboflow
Roboflow官方推理服务器，针对TRT目标设备提供推理服务
10万+ 次下载5 天前更新
rancher/opni-inference-service
rancher
暂无描述
1 次收藏1万+ 次下载2 年前更新
intel/ai-inference-cpu
intel
暂无描述
8.6千+ 次下载3 年前更新
roboflow/roboflow-inference-server-gpu
roboflow
暂无描述
2 次收藏10万+ 次下载2 天前更新
roboflow/roboflow-inference-server-cpu
roboflow
官方Roboflow推理服务器，适用于CPU平台的推理任务运行。
2 次收藏10万+ 次下载2 天前更新
semitechnologies/model2vec-inference
semitechnologies
暂无描述
5万+ 次下载8 个月前更新
intel/evi-ai-inference-cpu
intel
暂无描述
3.1千+ 次下载1 年前更新
semitechnologies/gpt4all-inference
semitechnologies
暂无描述
1万+ 次下载2 年前更新
semitechnologies/transformers-inference
semitechnologies
暂无描述
50万+ 次下载5 个月前更新
roboflow/roboflow-inference-server-jetson-5.1.1
roboflow
暂无描述
1万+ 次下载2 天前更新
intel/evi-ai-inference-gpu
intel
暂无描述
445 次下载1 年前更新
intel/ai-visual-inference-samples
intel
Intel® AI 视觉推理示例镜像提供基于媒体和AI推理框架的Python脚本实现，用于展示Intel® Data Center GPU Flex Series性能，支持OpenVINO和PyTorch，目前为预发布版本，不适合生产使用。
1.3千+ 次下载1 年前更新
intel/intelligent_traffic_management_video_inference
intel
智能交通管理 - 视频推理：使用Intel®深度学习流处理器(Intel® DL Streamer)检测和跟踪车辆、行人，并将数据发送至规则引擎。
1 次收藏3.6千+ 次下载3 年前更新
openeuler/text-embeddings-inference-cpu
openeuler
暂无描述
1.3千+ 次下载8 个月前更新
openeuler/euler-copilot-fast-inference
openeuler
基于openEuler基础镜像的大规模CPU推理框架，容器化打包后支持一键部署，适用于大模型推理场景。
336 次下载1 年前更新
openeuler/text-generation-inference-cpu
openeuler
暂无描述
812 次下载7 个月前更新
openeuler/euler-copilot-fast-inference-qwen
openeuler
基于鲲鹏和openEuler基础镜像的推理框架，用于大规模CPU推理，容器化打包后支持一键部署。
77 次下载1 年前更新
inferencecloud/amd64-nvidia-inference-node
inferencecloud
暂无描述
1万+ 次下载16 天前更新
inferencedevnet/amd64-nvidia-inference-node
inferencedevnet
暂无描述
1 次收藏1万+ 次下载7 个月前更新
xprobe/xinference
xprobe
暂无描述
51 次收藏500万+ 次下载2 天前更新
intelanalytics/ipex-llm-inference-cpp-xpu
intelanalytics
暂无描述
7 次收藏10万+ 次下载8 个月前更新
dhruvnair/inference-toolkit
dhruvnair
暂无描述
100万+ 次下载11 个月前更新
willseff/cyrt-inference
willseff
暂无描述
10万+ 次下载4 个月前更新
hamunadocker/inference-node
hamunadocker
分布式机器学习推理节点镜像，用于在分布式环境中部署和运行机器学习模型推理任务，支持高效扩展和资源优化，适用于大规模模型推理场景。
10万+ 次下载1 年前更新
dustynv/jetson-inference
dustynv
jetson-inference是为NVIDIA Jetson平台设计的深度学习推理容器，集成CUDA、PyTorch、TensorRT、OpenCV等关键依赖，支持多种JetPack/L4T版本，便于快速部署和运行计算机视觉等推理任务。
16 次收藏5万+ 次下载1 年前更新
anuvaadio/aai4b-nmt-inference
anuvaadio
暂无描述
1万+ 次下载1 年前更新
aveshadev/inference-agent
aveshadev
暂无描述
1万+ 次下载2 个月前更新
alexgshaw/hf-model-inference
alexgshaw
暂无描述
1万+ 次下载27 天前更新
apecloud/xinference
apecloud
暂无描述
1万+ 次下载5 个月前更新
dhiaul98/ocr_batch_inference
dhiaul98
暂无描述
1万+ 次下载2 年前更新
gdubx/trinity-inference
gdubx
暂无描述
1万+ 次下载1 个月前更新
第 1 页
与「inference-exp」相关的博客与命名空间
相关博客
MONGO-EXPRESS Docker 容器化部署指南
MONGO-EXPRESS是一个基于Web的MongoDB管理界面，采用Node.js、Express.js和Bootstrap3开发，提供直观的图形化界面用于管理MongoDB数据库。通过MONGO-EXPRESS，用户可以方便地执行数据库查询、管理集合、操作文档以及配置数据库参数等任务，特别适合开发环境中的快速数据库管理。
Docker,MONGO-EXPRESS2025/11/11
基于 Docker 部署 xprobe/xinference：从环境准备到实战操作
如果你想部署一个AI模型做推理（比如用Qwen-7B做对话、用ResNet做图片分类），不用手动解决模型依赖、CUDA配置、环境冲突这些麻烦事——Xinference已经把这些工作封装好，尤其是通过Docker镜像，能让你在几分钟内搭好推理环境。
Docker,xinference2025/10/10