热门搜索:

atomicptr/crab

atomicptr

一个多功能工具，可从给定来源（如站点地图或URL列表）爬取多个URL。

下载次数: 0状态：社区镜像维护者：atomicptr仓库类型：镜像最近更新：1 个月前

让 AI 帮你使用轩辕镜像？ · 展开查看说明

如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。

只需在 AI 对话中先发送下面这句话即可：

请先完整阅读并严格遵守以下文档中的全部规则与要求：

https://xuanyuan.cloud/agents.md

在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。

查看 agents.md 用法指南与完整示范。国内用户首推元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。若 AI 无法访问外链，可打开说明文档复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。

镜像标签列表与下载命令

镜像概述

该Docker镜像封装了一个多功能URL爬取工具，旨在从指定来源（如站点地图（sitemap）或URL列表文件）批量获取URL。适用于需要高效、便捷地收集多个URL的场景，提供灵活的爬取能力以满足不同来源的URL获取需求。

核心功能和特性

多来源支持：兼容站点地图（sitemap.xml）和URL列表文件作为输入来源
批量爬取能力：支持一次性爬取多个URL，提高数据收集效率
轻量便捷：通过Docker容器化部署，无需复杂环境配置，开箱即用
灵活输出：可将爬取结果输出至文件或标准输出，便于后续处理

使用场景和适用范围

网站管理：网站管理员需快速获取站点内所有URL进行审计或更新
开发测试：开发者收集目标URL用于接口测试、数据采集或爬虫前置准备
SEO分析：SEO人员从站点地图中提取URL进行关键词分析或链接检查
数据收集：需要批量获取指定来源URL的各类自动化任务场景

使用方法和配置说明

基本使用命令

通过Docker运行容器，指定输入来源类型和路径，即可启动URL爬取：

bash
docker run --rm -v /本地输入输出目录:/data [镜像名称] --source-type <来源类型> --input /data/<输入文件> --output /data/<输出文件>

参数说明

参数	类型	描述	是否必填
`--source-type`	字符串	指定输入来源类型，支持`sitemap`（站点地图）或`url-list`（URL列表文件）	是
`--input`	字符串	输入文件在容器内的路径（需通过`-v`挂载本地目录至容器内目录，如`/data`）	是
`--output`	字符串	输出文件在容器内的路径（结果将保存至该文件，默认输出至标准输出）	否
`--concurrency`	整数	爬取并发数，控制同时处理的URL数量（默认值：5）	否

部署示例

示例1：从站点地图爬取URL并输出至文件

假设本地当前目录下有站点地图文件sitemap.xml，需将结果保存至urls.txt：

bash
# 挂载当前目录至容器的/data目录，指定来源类型为sitemap，输入文件为/data/sitemap.xml，输出至/data/urls.txt
docker run --rm -v $(pwd):/data [镜像名称] --source-type sitemap --input /data/sitemap.xml --output /data/urls.txt

示例2：从URL列表文件爬取并输出至标准输出

本地当前目录下有URL列表文件url_list.txt（每行一个URL），直接查看爬取结果：

bash
# 挂载当前目录至/data，指定来源类型为url-list，输入文件为/data/url_list.txt，不指定输出（默认标准输出）
docker run --rm -v $(pwd):/data [镜像名称] --source-type url-list --input /data/url_list.txt

注意事项

输入文件需确保格式正确：站点地图需符合XML标准，URL列表文件需每行包含一个有效URL
通过-v参数挂载本地目录时，确保本地目录有读写权限，避免容器内文件操作失败
可通过--concurrency参数调整并发数，根据网络环境和目标服务器限制合理设置，避免请求过于频繁导致被限制访问

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问标签列表页面。

轩辕镜像加速拉取命令点我查看更多 crab 镜像标签

docker pull docker.xuanyuan.run/atomicptr/crab:<标签>

使用方法：

DockerHub 原生拉取命令

docker pull atomicptr/crab:<标签>

轩辕镜像配置手册

按平台快速找到配置文档

Docker

登录仓库拉取

登录认证 · 私有仓库

专属域名拉取

免登录 · 高速拉取

Linux

Docker 镜像配置

Windows / Mac

Docker Desktop 配置

MacOS OrbStack

OrbStack 容器

Docker Compose

Compose 项目配置

NAS

群晖

Synology 配置

飞牛

fnOS 镜像配置

绿联

绿联 NAS

威联通

QNAP 配置

极空间

极空间 NAS

企业仓库

其他仓库

ghcr · Quay · nvcr

Harbor 镜像源

Proxy Repository 对接

Portainer 镜像源

Registries 配置

Nexus 镜像源

Docker Proxy 缓存

开发工具

Dev Containers

VS Code 开发容器

Podman

Podman 配置指南

Singularity / Apptainer

HPC 科学计算容器

Kubernetes

K8s Containerd

Kubernetes · Containerd

K3s

轻量级集群

面板 / 网络

爱快路由

iKuai 镜像加速

宝塔面板

一键配置镜像源

AI

用 AI 使用轩辕镜像

agents.md · AI 对话 · 提示词

一键安装

一键安装 Docker

Linux Docker 一键安装

需要其他帮助？请查看我们的常见问题Docker 镜像访问常见问题解答或提交工单

镜像拉取常见问题

功能

免费版与专业版区别

功能对比 · 版本选择

支持的镜像仓库

Docker Hub · GCR · GHCR

新手拉取配置

docker search 限制

专属域名 · Hub 搜索

不支持 push

仅支持 pull · 不支持

拉取速度原因

带宽 · 缓存 · 冷热镜像

错误码

402 与流量用尽

402 · 流量包 · 充值

401 认证失败

401 · docker login

manifest unknown

标签错误 · 镜像不存在

410 Gone 排查

410 · Docker 升级

429 限流

免费版 · 请求频率

其他报错

DNS 超时

DNS 解析 · 网络超时

TLS 证书失败

no matching manifest（架构）

账号

失败是否计费

manifest · blob · 计费

申请开发票（企业 / 个人）

企业 · 个人 · 工单

修改登录密码

网站 · 仓库 · 重置

注销账户

工单 · 数据 · 注销

原理

mirrors 不生效

daemon.json · 重启

去掉域名前缀

docker tag · 重命名

指定架构拉取

ARM64 · AMD64 · 多架构

latest 与「最新」

digest · 版本号 · 标签

查看全部问题→

用户好评

来自真实用户的反馈，见证轩辕镜像的优质服务

oldzhang

运维工程师

Linux服务器

"Docker访问体验非常流畅，大镜像也能快速完成下载。"