ghcr.io/docling-project/docling-serve-cpu:v1.33.0

Docling Serve

将 https://github.com/docling-project/docling 作为 API 服务运行。

📚 Docling Serve 官方文档

• 了解如何配置 Web 服务器
• 查阅 API 的全部运行时选项
• 探索实用的部署示例
• 更多内容请查阅文档

[!NOTE] 迁移至 v1 API： Docling Serve 现已推出稳定版 v1 API，更多详情请参考 迁移至 v1 指南。

快速入门

安装 docling-serve 软件包并启动服务器。

# 使用 Python 包运行
pip install docling-serve
docling-serve run --enable-ui

# 使用容器镜像运行（例如通过 Podman）
podman run -p 5001:5001 -e DOCLING_SERVE_ENABLE_UI=1 quay.io/docling-project/docling-serve

服务启动后可通过以下地址访问：

• API 接口
• API 文档页
• UI 交互演示页

你可以通过以下命令快速体验文档转换功能：

curl -X 'POST' \
'http://localhost:5001/v1/convert/source' \
-H 'accept: application/json' \
-H 'Content-Type: application/json' \
-d '{
"sources": [{"kind": "http", "url": "https://arxiv.org/pdf/2501.17887"}]
}'

容器镜像

我们提供以下适配不同硬件与 PyTorch 配置的容器镜像，用于运行 Docling Serve：

📦 已公开发布的镜像

[!IMPORTANT] CUDA 镜像标签策略

带 CUDA 专属后缀的镜像（-cu128、-cu130）遵循 PyTorch 的 CUDA 版本支持生命周期规则，标签规则与基础镜像不同：

• 基础镜像（docling-serve、docling-serve-cpu）：为方便使用，同时提供 latest 和 main 标签
• CUDA 镜像（docling-serve-cu*）：仅提供明确版本标签（例如 1.12.0）和 main 标签

这样设置的原因是：随着 PyTorch 迭代新增对更新版本 CUDA 的支持，旧版 CUDA 会逐步被弃用。为了避免用户意外拉取到已弃用的 CUDA 版本镜像，CUDA 镜像特意不提供 latest 标签。请始终使用明确指定版本的标签，示例如下：

> # ✅ 推荐用法：明确指定版本号
> docker pull quay.io/docling-project/docling-serve-cu130:v1.18.0
>
> # ❌ CUDA 镜像不提供该标签
> docker pull quay.io/docling-project/docling-serve-cu130:latest
>

🚫 未公开发布的镜像

适配 AMD ROCm 6.3 的镜像（docling-serve-rocm）功能已支持，但由于镜像体积过大，暂不公开发布。

你可以通过以下命令在本地自行构建：

git clone --branch main git@github.com:docling-project/docling-serve.git
cd docling-serve/
make docling-serve-rocm-image

如需使用 Docker Compose 进行部署，请参考 docs/deployment.md。

后续将推出 docling-serve-slim 精简镜像，该版本将跳过内置模型权重的预下载，显著减小镜像体积。

演示 UI

服务的 /ui 端点提供了开箱即用的可视化交互界面。

获取帮助与支持

欢迎通过 https://github.com/docling-project/docling/discussions 与我们交流反馈。

贡献指南

请查阅 https://github.com/docling-project/docling-serve/blob/main/CONTRIBUTING.md 了解详情。

引用说明

如果你在项目中使用了 Docling，请考虑引用以下文献：

@techreport{Docling,
author = {Docling Contributors},
month = {1},
title = {Docling: An Efficient Open-Source Toolkit for AI-driven Document Conversion},
url = {https://arxiv.org/abs/2501.17887},
eprint = {2501.17887},
doi = {10.48550/arXiv.2501.17887},
version = {2.0.0},
year = {2025}
}

许可证

Docling Serve 代码库采用 MIT 许可证。

IBM ❤️ 开源 AI

Docling 由 IBM 团队倾力打造。