ghcr.io/docling-project/docling-serve:v1.33.0

Docling Serve

以 API 服务形式运行 https://github.com/docling-project/docling。

📚 Docling Serve 官方文档

• 学习如何配置 Web 服务器
• 了解 API 的全部运行时选项
• 探索实用的部署示例
• 更多内容

[!NOTE] 迁移至 v1 API。 Docling Serve 现已提供稳定版 v1 API。阅读迁移至 v1 指南了解详情。

快速开始

安装 docling-serve 包并启动服务器。

# 使用 Python 包运行
pip install docling-serve
docling-serve run --enable-ui

# 使用容器镜像运行，例如通过 Podman
podman run -p 5001:5001 -e DOCLING_SERVE_ENABLE_UI=1 quay.io/docling-project/docling-serve

服务器启动后可通过以下地址访问：

• API 接口
• API 文档
• UI 演示沙箱

可通过以下简单转换命令快速体验：

curl -X 'POST' \
'http://localhost:5001/v1/convert/source' \
-H 'accept: application/json' \
-H 'Content-Type: application/json' \
-d '{
"sources": [{"kind": "http", "url": "https://arxiv.org/pdf/2501.17887"}]
}'

容器镜像

以下提供了适配不同硬件和 PyTorch 配置的 Docling Serve 容器镜像：

📦 已分发镜像

[!IMPORTANT] CUDA 镜像标签规则

特定 CUDA 版本的镜像（-cu128、-cu130）遵循 PyTorch 的 CUDA 版本支持生命周期，标签策略与基础镜像不同：

• 基础镜像（docling-serve、docling-serve-cpu）：为方便使用，提供 latest 和 main 标签
• CUDA 镜像（docling-serve-cu*）：仅提供明确版本号标签（例如 1.12.0）和 main 标签

原因说明：随着 PyTorch 持续支持新版本 CUDA，旧的 CUDA 版本会被逐步废弃。为避免用户意外拉取已废弃的 CUDA 版本，CUDA 镜像特意不提供 latest 标签。请始终使用明确版本标签，示例如下：

> # ✅ 推荐使用：指定明确版本
> docker pull quay.io/docling-project/docling-serve-cu130:v1.18.0
>
> # ❌ CUDA 镜像不提供 latest 标签
> docker pull quay.io/docling-project/docling-serve-cu130:latest
>

🚫 未公开发布镜像

适配 AMD ROCm 6.3 的镜像（docling-serve-rocm）已完成适配，但由于体积过大暂不公开发布。

可通过以下命令本地构建该镜像：

git clone --branch main git@github.com:docling-project/docling-serve.git
cd docling-serve/
make docling-serve-rocm-image

如需使用 Docker Compose 部署，请参考 docs/deployment.md。

后续将推出 docling-serve-slim 精简镜像，通过跳过模型权重下载的方式大幅缩减镜像体积。

演示 UI

可直接在 /ui 端点访问易于使用的图形操作界面。

获取帮助与支持

欢迎通过https://github.com/docling-project/docling/discussions与我们交流。

贡献指南

详情请阅读 https://github.com/docling-project/docling-serve/blob/main/CONTRIBUTING.md。

引用说明

如果您在项目中使用 Docling，可参考以下格式引用相关文献：

@techreport{Docling,
author = {Docling Contributors},
month = {1},
title = {Docling: An Efficient Open-Source Toolkit for AI-driven Document Conversion},
url = {https://arxiv.org/abs/2501.17887},
eprint = {2501.17887},
doi = {10.48550/arXiv.2501.17887},
version = {2.0.0},
year = {2025}
}

许可证

Docling Serve 代码库采用 MIT 许可证。

IBM ❤️ 开源 AI

Docling 由 IBM 团队主导开发。