iipc/heritrix Docker Image Overview

iipc/heritrix

iipc

Heritrix是一款开源、可扩展、支持网络级规模的档案级网页爬虫Docker镜像，用于大规模网页抓取与归档。

下载次数: 0状态：社区镜像维护者：iipc仓库类型：镜像最近更新：1 个月前

轩辕镜像，加速的不只是镜像。点击查看

中文简介版本下载

轩辕镜像，加速的不只是镜像。点击查看

Heritrix Docker镜像

镜像概述和主要用途

Heritrix Docker镜像是基于Heritrix Maven发布二进制文件，通过构建脚本构建的容器化部署方案。该镜像提供了便捷的方式运行Heritrix网页爬虫，适用于需要进行网络级规模网页抓取和档案级数据归档的场景。问题反馈或贡献请提交至Heritrix Github仓库。

核心功能和特性

开源特性：基于开源项目构建，支持自定义扩展和二次开发
可扩展性：支持通过模块扩展功能，满足不同抓取需求
网络级规模：具备高效处理大规模网页抓取任务的能力
档案级质量：确保抓取数据的完整性和长期可访问性
容器化部署：简化环境配置，支持快速启动和资源隔离

使用场景和适用范围

数字档案馆或图书馆的网页资源归档
科研机构大规模网络数据采集与分析
企业网站内容备份与历史版本追踪
需要定期抓取并保存网页内容的自动化任务
网络信息监测与数据聚合平台

详细的使用方法和配置说明

基本使用示例

以下命令可快速启动Heritrix容器：

shell
mkdir jobs  # 创建本地任务目录
docker run --init --rm -d \
  -p 8443:8443 \  # 映射Web管理界面端口
  -e "USERNAME=admin" \  # 设置管理员用户名
  -e "PASSWORD=admin" \  # 设置管理员密码
  -v ./jobs:/opt/heritrix/jobs \  # 挂载任务目录（持久化任务数据）
  iipc/heritrix  # 镜像名称

参数说明：

--init：使用init进程管理容器内进程，确保信号正确传递
--rm：容器停止后自动删除容器文件
-d：后台运行容器
-p 8443:8443：将容器内8443端口（Web管理界面）映射到主机8443端口
-e "USERNAME=admin"：设置Web管理界面管理员用户名
-e "PASSWORD=admin"：设置Web管理界面管理员密码
-v ./jobs:/opt/heritrix/jobs：挂载本地jobs目录到容器内，用于持久化存储抓取任务数据

扩展说明

更多详细操作指南请参考Heritrix操作手册中的Docker运行章节。使用前请务必阅读安全注意事项。

可用标签

标准发行版（Standard Distribution）

latest：最新稳定版本
3.10.0：3.10.0版本
3.4.0-20210923：20210923发布的3.4.0版本

Contrib发行版（含额外贡献模块）

Contrib发行版包含部分额外贡献模块，标签如下：

contrib：最新contrib版本
3.4.0-20210923-contrib：20210923发布的3.4.0-contrib版本

查看更多 heritrix 相关镜像 →

ukwa/heritrix

ukwa

当前生产环境使用的Heritrix的Docker化构建

1 次收藏1万+ 次下载

1 年前更新

轩辕镜像配置手册

探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式

Docker 配置

登录仓库拉取

通过 Docker 登录认证访问私有仓库

专属域名拉取

无需登录使用专属域名

K8s Containerd

Kubernetes 集群配置 Containerd

K3s

K3s 轻量级 Kubernetes 镜像加速

Dev Containers

VS Code Dev Containers 配置

Podman

Podman 容器引擎配置

Singularity/Apptainer

HPC 科学计算容器配置

其他仓库配置

ghcr、Quay、nvcr 等镜像仓库

Harbor 镜像源配置

Harbor Proxy Repository 对接专属域名

Portainer 镜像源配置

Portainer Registries 加速拉取

Nexus 镜像源配置

Nexus3 Docker Proxy 内网缓存

系统配置

Linux

在 Linux 系统配置镜像服务

Windows/Mac

在 Docker Desktop 配置镜像

MacOS OrbStack

MacOS OrbStack 容器配置

Docker Compose

Docker Compose 项目配置

NAS 设备

群晖

Synology 群晖 NAS 配置

飞牛

飞牛 fnOS 系统配置镜像

绿联

绿联 NAS 系统配置镜像

威联通

QNAP 威联通 NAS 配置

极空间

极空间 NAS 系统配置服务

网络设备

爱快路由

爱快 iKuai 路由系统配置

宝塔面板

在宝塔面板一键配置镜像

需要其他帮助？请查看我们的常见问题Docker 镜像访问常见问题解答或提交工单

镜像拉取常见问题

使用与功能问题

配置了专属域名后，docker search 为什么会报错？

docker search 限制

Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？

站内搜不到镜像

机器不能直连外网时，怎么用 docker save / load 迁镜像？

离线 save/load

docker pull 拉插件报错（plugin v1+json）怎么办？

插件要用 plugin install

WSL 里 Docker 拉镜像特别慢，怎么排查和优化？

WSL 拉取慢

轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？

安全与 digest

第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？

新手拉取配置

错误码与失败问题

docker pull 提示 manifest unknown 怎么办？

manifest unknown

docker pull 提示 no matching manifest 怎么办？

no matching manifest（架构）

镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？

invalid tar header（解压）

Docker pull 时 HTTPS / TLS 证书验证失败怎么办？

TLS 证书失败

Docker pull 时 DNS 解析超时或连不上仓库怎么办？

DNS 超时

Docker 拉取出现 410 Gone 怎么办？

410 Gone 排查

出现 402 或「流量用尽」提示怎么办？

402 与流量用尽

Docker 拉取提示 UNAUTHORIZED（401）怎么办？

401 认证失败

遇到 429 Too Many Requests（请求太频繁）怎么办？

429 限流

docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？

D-Bus 凭证提示

为什么会出现「单层超过 20GB」或 413，无法加速拉取？

413 与超大单层

账号 / 计费 / 权限

轩辕镜像免费版和专业版有什么区别？

免费版与专业版区别

轩辕镜像支持哪些 Docker 镜像仓库？

支持的镜像仓库

镜像拉取失败还会不会扣流量？

失败是否计费

麒麟 V10 / 统信 UOS 提示 KYSEC 权限不够怎么办？

KYSEC 拦截脚本

如何在轩辕镜像申请开具发票？

申请开票

怎么修改轩辕镜像的网站登录和仓库登录密码？

修改登录密码

如何注销轩辕镜像账户？要注意什么？

注销账户

配置与原理类

写了 registry-mirrors，为什么还是走官方或仍然报错？

mirrors 不生效

怎么用 docker tag 去掉镜像名里的轩辕域名前缀？

去掉域名前缀

如何拉取指定 CPU 架构的镜像（如 ARM64、AMD64）？

指定架构拉取

用轩辕镜像拉镜像时快时慢，常见原因有哪些？

拉取速度原因

查看全部问题→

用户好评

来自真实用户的反馈，见证轩辕镜像的优质服务

oldzhang

运维工程师

Linux服务器

"Docker访问体验非常流畅，大镜像也能快速完成下载。"