ghcr.io/docling-project/docling-serve-cu128:v1.34.0

Docling Serve

将 https://github.com/docling-project/docling 作为 API 服务运行。

📚 Docling Serve 文档

• 了解如何配置 Web 服务器
• 查看 API 的全部运行时选项
• 探索实用的部署示例
• 以及更多内容

[!NOTE] 迁移至 v1 API。Docling Serve 目前已提供稳定的 v1 API，可查阅 迁移至 v1 指南 了解更多详情。

快速入门

安装 docling-serve 软件包并启动服务器。

# 使用 Python 软件包运行
pip install docling-serve
docling-serve run --enable-ui

# 使用容器镜像运行，例如通过 Podman
podman run -p 5001:5001 -e DOCLING_SERVE_ENABLE_UI=1 quay.io/docling-project/docling-serve

服务器启动后可通过以下地址访问：

• API 接口
• API 文档
• UI 演示控制台

你可以通过以下简单转换示例体验功能：

curl -X 'POST' \
'http://localhost:5001/v1/convert/source' \
-H 'accept: application/json' \
-H 'Content-Type: application/json' \
-d '{
"sources": [{"kind": "http", "url": "https://arxiv.org/pdf/2501.17887"}]
}'

容器镜像

我们提供以下不同硬件与 PyTorch 配置的容器镜像，用于运行 Docling Serve：

📦 已公开发布的镜像

[!IMPORTANT] CUDA 镜像标签策略

带 CUDA 专属后缀的镜像（-cu128、-cu130）遵循 PyTorch 的 CUDA 版本支持生命周期规则，标签规则与基础镜像不同：

• 基础镜像（docling-serve、docling-serve-cpu）：为方便使用，同时提供 latest 和 main 标签
• CUDA 镜像（docling-serve-cu*）：仅提供明确版本号标签（例如 1.12.0）和 main 标签

为什么采用该规则？随着 PyTorch 不断新增对更新 CUDA 版本的支持，旧 CUDA 版本会逐步被弃用。为避免用户意外拉取已弃用的 CUDA 版本镜像，CUDA 镜像刻意不提供 latest 标签。请始终使用明确的版本标签，例如：

> # ✅ 推荐做法：使用明确版本
> docker pull quay.io/docling-project/docling-serve-cu130:v1.18.0
>
> # ❌ CUDA 镜像不支持该用法
> docker pull quay.io/docling-project/docling-serve-cu130:latest
>

🚫 未公开发布的镜像

基于 AMD ROCm 6.3 的镜像（docling-serve-rocm）功能已得到支持，但由于体积过大未公开发布。

你可以通过以下命令在本地构建该镜像：

git clone --branch main git@github.com:docling-project/docling-serve.git
cd docling-serve/
make docling-serve-rocm-image

若需了解基于 Docker Compose 的部署方式，请参考 docs/deployment.md。

后续将推出 docling-serve-slim 精简镜像，这类镜像将跳过模型权重下载步骤以缩小镜像体积。

演示 UI

你可以通过 /ui 端点访问开箱即用的简易操作界面。

获取帮助与支持

欢迎通过 https://github.com/docling-project/docling/discussions 与我们交流。

贡献指南

请查阅 https://github.com/docling-project/docling-serve/blob/main/CONTRIBUTING.md 了解详情。

引用说明

如果你在项目中使用了 Docling，请考虑引用以下文献：

@techreport{Docling,
author = {Docling Contributors},
month = {1},
title = {Docling: An Efficient Open-Source Toolkit for AI-driven Document Conversion},
url = {https://arxiv.org/abs/2501.17887},
eprint = {2501.17887},
doi = {10.48550/arXiv.2501.17887},
version = {2.0.0},
year = {2025}
}

许可证

Docling Serve 代码库采用 MIT 许可证。

IBM ❤️ 开源 AI

Docling 由 IBM 团队开发推出。