热门搜索:
架构筛选
saladtechnologies/unsloth-inference
saladtechnologies
暂无描述
220 次下载8 个月前更新
unsloth/unsloth
unsloth
Unsloth Docker镜像是一个预构建容器，包含LLM微调与强化学习开源框架Unsloth的所有依赖，无需额外设置即可快速使用。支持Jupyter Lab和SSH双访问模式，适用于Windows、Linux、WSL及多数NVIDIA GPU，可立即开始LLM微调工作。
38 次收藏10万+ 次下载17 天前更新
unsloth/deepseek-r1-0528-qwen3-gguf
unsloth
DeepSeek-R1-0528-Qwen3-8B模型Docker镜像，基于Qwen3-8B通过蒸馏DeepSeek-R1-0528思维链构建，显著提升推理深度与复杂任务处理能力，适用于数学推理、代码生成等场景，支持系统提示与低幻觉率，性能达开源模型SOTA水平。
352 次下载11 个月前更新
unsloth/deepseek-r1-distill-llama
unsloth
暂无描述
352 次下载11 个月前更新
roboflow/roboflow-inference-server-trt
roboflow
Roboflow官方推理服务器，针对TRT目标设备提供推理服务
10万+ 次下载12 天前更新
roboflow/inference-exp
roboflow
推理功能的实验版本，属于早期阶段项目。
1万+ 次下载12 天前更新
unsloth/qwen3-gguf
unsloth
暂无描述
295 次下载11 个月前更新
rancher/opni-inference-service
rancher
暂无描述
1 次收藏1万+ 次下载2 年前更新
intel/ai-inference-cpu
intel
暂无描述
8.6千+ 次下载3 年前更新
roboflow/roboflow-inference-server-cpu
roboflow
官方Roboflow推理服务器，适用于CPU平台的推理任务运行。
2 次收藏10万+ 次下载7 天前更新
roboflow/roboflow-inference-server-gpu
roboflow
暂无描述
2 次收藏10万+ 次下载7 天前更新
semitechnologies/model2vec-inference
semitechnologies
暂无描述
5万+ 次下载1 个月前更新
unsloth/phi-4-mini-reasoning-gguf
unsloth
暂无描述
157 次下载11 个月前更新
unsloth/phi-4-reasoning-plus-gguf
unsloth
暂无描述
132 次下载11 个月前更新
unsloth/phi-4-reasoning-gguf
unsloth
暂无描述
129 次下载11 个月前更新
intel/evi-ai-inference-cpu
intel
暂无描述
3.1千+ 次下载1 年前更新
semitechnologies/gpt4all-inference
semitechnologies
暂无描述
1万+ 次下载2 年前更新
semitechnologies/transformers-inference
semitechnologies
暂无描述
50万+ 次下载7 个月前更新
unsloth/llama-3.1-gguf
unsloth
暂无描述
1 次收藏111 次下载11 个月前更新
roboflow/roboflow-inference-server-cpu-slim
roboflow
暂无描述
1万+ 次下载12 天前更新
roboflow/roboflow-inference-server-jetson-5.1.1
roboflow
暂无描述
1万+ 次下载7 天前更新
intel/evi-ai-inference-gpu
intel
暂无描述
445 次下载1 年前更新
roboflow/roboflow-inference-server-cpu-parallel
roboflow
暂无描述
1万+ 次下载12 天前更新
roboflow/roboflow-inference-server-gpu-parallel
roboflow
暂无描述
1万+ 次下载12 天前更新
intelanalytics/ipex-llm-inference-cpp-xpu
intelanalytics
暂无描述
7 次收藏10万+ 次下载9 个月前更新
dhruvnair/inference-toolkit
dhruvnair
暂无描述
100万+ 次下载1 年前更新
willseff/cyrt-inference
willseff
暂无描述
10万+ 次下载5 个月前更新
hamunadocker/inference-node
hamunadocker
分布式机器学习推理节点镜像，用于在分布式环境中部署和运行机器学习模型推理任务，支持高效扩展和资源优化，适用于大规模模型推理场景。
10万+ 次下载1 年前更新
vastai/unsloth-studio
vastai
暂无描述
6千+ 次下载6 天前更新
dimyg/web_ai_pre_inference
dimyg
暂无描述
5万+ 次下载3 年前更新
rocm/tritoninferenceserver
rocm
暂无描述
110 次下载2 个月前更新
dudaji/inference-service
dudaji
暂无描述
10万+ 次下载4 年前更新
seunglab/ncc_inference
seunglab
暂无描述
1万+ 次下载6 年前更新
ertis/kafka-ml_model-inference
ertis
暂无描述
5万+ 次下载4 年前更新
dustynv/jetson-inference
dustynv
jetson-inference是为NVIDIA Jetson平台设计的深度学习推理容器，集成CUDA、PyTorch、TensorRT、OpenCV等关键依赖，支持多种JetPack/L4T版本，便于快速部署和运行计算机视觉等推理任务。
16 次收藏5万+ 次下载1 年前更新
zheli18/gnn-inference
zheli18
暂无描述
1万+ 次下载5 年前更新
aipaasinference/mlflow_cpu
aipaasinference
暂无描述
10万+ 次下载4 年前更新
aveshadev/inference-agent
aveshadev
暂无描述
1万+ 次下载3 个月前更新
anuvaadio/aai4b-nmt-inference
anuvaadio
暂无描述
1万+ 次下载2 年前更新
dwhitena/neon-inference
dwhitena
暂无描述
1万+ 次下载9 年前更新
luneberry07/inference
luneberry07
暂无描述
1万+ 次下载4 年前更新
alexgshaw/hf-model-inference
alexgshaw
暂无描述
1万+ 次下载1 个月前更新
rnzdocker1/eks-elastic-inference-app
rnzdocker1
暂无描述
1万+ 次下载7 年前更新
apecloud/xinference
apecloud
暂无描述
1万+ 次下载6 个月前更新
jasonbarbee/arm_inference_engine
jasonbarbee
暂无描述
1万+ 次下载6 年前更新
dhiaul98/ocr_batch_inference
dhiaul98
暂无描述
1万+ 次下载2 年前更新
scaledinference/wercker
scaledinference
这是一个包含golang、glide和protoc的最小容器镜像，用于运行ScaledInference项目的单元测试。
1万+ 次下载6 年前更新
第 1 页