热门搜索:

colovu/hadoop

colovu

用于提供Hadoop服务的Docker基础镜像，支持Hadoop集群各组件部署，包含Namenode、Datanode等节点，便于快速搭建和配置Hadoop环境。

1 次收藏下载次数: 0状态：社区镜像维护者：colovu仓库类型：镜像最近更新：5 年前

轩辕镜像，让镜像更快，让人生更轻。点击查看

中文简介

标签下载

镜像标签列表与下载命令

轩辕镜像，让镜像更快，让人生更轻。点击查看

Hadoop

针对 Hadoop 应用的 Docker 镜像，用于提供 Hadoop 服务。

详细信息可参照：官方说明

!hadoop-logo

版本信息：

3.3、latest
3.2

镜像信息

镜像地址：registry.cn-shenzhen.aliyuncs.com/colovu/hadoop:3.3

TL;DR

本镜像为 Hadoop 的基础镜像，具体使用需要参照相关 Node 的使用说明。相应 Node 主要为：

colovu/hadoop-datanode
colovu/hadoop-namenode
colovu/hadoop-journalnode
colovu/hadoop-historyserver
colovu/hadoop-nodemanager
colovu/hadoop-resourcemanager

默认对外声明

端口

9000：Namenode 服务监听端口
9870：Namenode Web 服务端口
9864：DataNode 服务监听端口
8088：ResourceManager Web 端口
8188：HistoryManager Web 端口

数据卷

镜像默认提供以下数据卷定义，默认数据分别存储在自动生成的应用名对应Hadoop子目录中：

shell
/var/log                # Hadoop 日志文件
/srv/conf               # Hadoop 配置文件
/srv/data               # Hadoop 数据文件

如果需要持久化存储相应数据，需要在宿主机建立本地目录，并在使用镜像初始化容器时进行映射。宿主机相关的目录中如果不存在对应应用的子目录或相应数据文件，则容器会在初始化时创建相应目录及文件。

容器配置

Hadoop 应用的参数通过设置环境变量的方式设置。格式为 <PREFIX>_<PROPERTY>。使用不同的前缀设置不同的配置文件，**PREFIX**与配置文件对应关系如下：

CORE_CONF: /srv/conf/hadoop/core-site.xml
HDFS_CONF: /srv/conf/hadoop/hdfs-site.xml
YARN_CONF : /srv/conf/hadoop/yarn-site.xml
HTTPFS_CONF : /srv/conf/hadoop/httpfs-site.xml
KMS_CONF : /srv/conf/hadoop/kms-site.xml
MAPRED_CONF : /srv/conf/hadoop/mapred-site.xml

容器的环境变量可通过两种方式设置：

环境变量文件：将常规通用环境变量写入环境变量文件中，并在容器启动命令中指定相应环境变量文件；如使用文件hadoop.env
命令行参数：对于特定变量，直接在命令行中使用-e参数指定各个变量（不适合大量变量的设置）

PROPETY:

在设置环境变量时，对特殊字符需要进行转义；使用 docker 或 docker-compose 启动容器时，环境变量与设置的属性转义规则如下：

_ ==> . : 环境变量中的下划线会被转义为设置属性中的半角点
__ ==> _ : 环境变量中的双下划线会被转义为设置属性中的单下划线
___ ==> - : 环境变量中的三下划线会被转义为设置属性中的中划线

例如如下的环境变量及对应设置的实际属性为：

CORE_CONF_fs_defaultFS=hdfs://namenode:8020 ：设置配置文件core-site.xml中fs.defaultFS属性，设置后类似如下：

xml
<property><name>fs.defaultFS</name><value>hdfs://namenode:8020</value></property>

YARN_CONF_yarn_log___aggregation___enable=true ：设置配置文件yarn-site.xml中yarn.log-aggregation-enable属性，设置后类似如下：

xml
<property><name>yarn.log-aggregation-enable</name><value>true</value></property>

预置的配置参数

以下配置参数，如果设置，将批量设置对应的配置属性：

MULTIHOMED_NETWORK

默认值：1。配置 Hadoop 集群在使用不同的网络时，可以正常访问；设置的配置文件及对应属性如下：

配置文件 /srv/conf/hadoop/hdfs-site.xml:

dfs.namenode.rpc-bind-host = 0.0.0.0
dfs.namenode.servicerpc-bind-host = 0.0.0.0
dfs.namenode.http-bind-host = 0.0.0.0
dfs.namenode.https-bind-host = 0.0.0.0

配置文件 /srv/conf/hadoop/yarn-site.xml:

yarn.resourcemanager.bind-host = 0.0.0.0
yarn.nodemanager.bind-host = 0.0.0.0

配置文件 /srv/conf/hadoop/mapred-site.xml:

yarn.nodemanager.bind-host = 0.0.0.0

GANGLIA_HOST

默认值：无。配置 Hadoop 将对应的度量数据发送至指定的 ganglia gmond 守护服务。

可选配置参数

如果没有必要，可选配置参数可以不用定义，直接使用对应的默认值，主要包括：

ENV_DEBUG

默认值：false。设置是否输出容器调试信息。可设置为：1、true、yes

安全

容器安全

本容器默认使用应用对应的运行时用户及用户组运行应用，以加强容器的安全性。在使用非root用户运行容器时，相关的资源访问会受限；应用仅能操作镜像创建时指定的路径及数据。使用Non-root方式的容器，更适合在生产环境中使用。

更新记录

3.3、latest
3.2

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问标签列表页面。

轩辕镜像加速拉取命令点我查看更多 hadoop 镜像标签

docker pull docker.xuanyuan.run/colovu/hadoop:<标签>

使用方法：

DockerHub 原生拉取命令

docker pull colovu/hadoop:<标签>

轩辕镜像配置手册

探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式

Docker 配置

登录仓库拉取

通过 Docker 登录认证访问私有仓库

专属域名拉取

无需登录使用专属域名

K8s Containerd

Kubernetes 集群配置 Containerd

K3s

K3s 轻量级 Kubernetes 镜像加速

Dev Containers

VS Code Dev Containers 配置

Podman

Podman 容器引擎配置

Singularity/Apptainer

HPC 科学计算容器配置

其他仓库配置

ghcr、Quay、nvcr 等镜像仓库

Harbor 镜像源配置

Harbor Proxy Repository 对接专属域名

Portainer 镜像源配置

Portainer Registries 加速拉取

Nexus 镜像源配置

Nexus3 Docker Proxy 内网缓存

系统配置

Linux

在 Linux 系统配置镜像服务

Windows/Mac

在 Docker Desktop 配置镜像

MacOS OrbStack

MacOS OrbStack 容器配置

Docker Compose

Docker Compose 项目配置

NAS 设备

群晖

Synology 群晖 NAS 配置

飞牛

飞牛 fnOS 系统配置镜像

绿联

绿联 NAS 系统配置镜像

威联通

QNAP 威联通 NAS 配置

极空间

极空间 NAS 系统配置服务

网络设备

爱快路由

爱快 iKuai 路由系统配置

宝塔面板

在宝塔面板一键配置镜像

需要其他帮助？请查看我们的常见问题Docker 镜像访问常见问题解答或提交工单

镜像拉取常见问题

使用与功能问题

配置了专属域名后，docker search 为什么会报错？

docker search 限制

Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？

站内搜不到镜像

机器不能直连外网时，怎么用 docker save / load 迁镜像？

离线 save/load

docker pull 拉插件报错（plugin v1+json）怎么办？

插件要用 plugin install

WSL 里 Docker 拉镜像特别慢，怎么排查和优化？

WSL 拉取慢

轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？

安全与 digest

第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？

新手拉取配置

轩辕镜像合规吗？轩辕镜像的合规是怎么做的？

镜像合规机制

错误码与失败问题

docker pull 提示 manifest unknown 怎么办？

manifest unknown

docker pull 提示 no matching manifest 怎么办？

no matching manifest（架构）

镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？

invalid tar header（解压）

Docker pull 时 HTTPS / TLS 证书验证失败怎么办？

TLS 证书失败

Docker pull 时 DNS 解析超时或连不上仓库怎么办？

DNS 超时

docker 无法连接轩辕镜像域名怎么办？

域名连通性排查

Docker 拉取出现 410 Gone 怎么办？

410 Gone 排查

出现 402 或「流量用尽」提示怎么办？

402 与流量用尽

Docker 拉取提示 UNAUTHORIZED（401）怎么办？

401 认证失败

遇到 429 Too Many Requests（请求太频繁）怎么办？

429 限流

docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？

D-Bus 凭证提示

为什么会出现「单层超过 20GB」或 413，无法加速拉取？

413 与超大单层

账号 / 计费 / 权限

轩辕镜像免费版和专业版有什么区别？

免费版与专业版区别

轩辕镜像支持哪些 Docker 镜像仓库？

支持的镜像仓库

镜像拉取失败还会不会扣流量？

失败是否计费

麒麟 V10 / 统信 UOS 提示 KYSEC 权限不够怎么办？

KYSEC 拦截脚本

如何在轩辕镜像申请开具发票？

申请开票

怎么修改轩辕镜像的网站登录和仓库登录密码？

修改登录密码

如何注销轩辕镜像账户？要注意什么？

注销账户

配置与原理类

写了 registry-mirrors，为什么还是走官方或仍然报错？

mirrors 不生效

怎么用 docker tag 去掉镜像名里的轩辕域名前缀？

去掉域名前缀

如何拉取指定 CPU 架构的镜像（如 ARM64、AMD64）？

指定架构拉取

用轩辕镜像拉镜像时快时慢，常见原因有哪些？

拉取速度原因

为什么拉取镜像的 :latest 标签，拿到的往往不是「最新」镜像？

latest 与「最新」

查看全部问题→

用户好评

来自真实用户的反馈，见证轩辕镜像的优质服务

oldzhang

运维工程师

Linux服务器

"Docker访问体验非常流畅，大镜像也能快速完成下载。"

热门搜索:

colovu/hadoop

colovu

用于提供Hadoop服务的Docker基础镜像，支持Hadoop集群各组件部署，包含Namenode、Datanode等节点，便于快速搭建和配置Hadoop环境。

1 次收藏下载次数: 0状态：社区镜像维护者：colovu仓库类型：镜像最近更新：5 年前

轩辕镜像，让镜像更快，让人生更轻。点击查看

中文简介

标签下载

镜像标签列表与下载命令

轩辕镜像，让镜像更快，让人生更轻。点击查看

Hadoop

针对 Hadoop 应用的 Docker 镜像，用于提供 Hadoop 服务。

详细信息可参照：官方说明

!hadoop-logo

版本信息：

3.3、latest
3.2

镜像信息

镜像地址：registry.cn-shenzhen.aliyuncs.com/colovu/hadoop:3.3

TL;DR

本镜像为 Hadoop 的基础镜像，具体使用需要参照相关 Node 的使用说明。相应 Node 主要为：

colovu/hadoop-datanode
colovu/hadoop-namenode
colovu/hadoop-journalnode
colovu/hadoop-historyserver
colovu/hadoop-nodemanager
colovu/hadoop-resourcemanager

默认对外声明

端口

9000：Namenode 服务监听端口
9870：Namenode Web 服务端口
9864：DataNode 服务监听端口
8088：ResourceManager Web 端口
8188：HistoryManager Web 端口

数据卷

镜像默认提供以下数据卷定义，默认数据分别存储在自动生成的应用名对应Hadoop子目录中：

shell
/var/log                # Hadoop 日志文件
/srv/conf               # Hadoop 配置文件
/srv/data               # Hadoop 数据文件

容器配置

CORE_CONF: /srv/conf/hadoop/core-site.xml
HDFS_CONF: /srv/conf/hadoop/hdfs-site.xml
YARN_CONF : /srv/conf/hadoop/yarn-site.xml
HTTPFS_CONF : /srv/conf/hadoop/httpfs-site.xml
KMS_CONF : /srv/conf/hadoop/kms-site.xml
MAPRED_CONF : /srv/conf/hadoop/mapred-site.xml

容器的环境变量可通过两种方式设置：

环境变量文件：将常规通用环境变量写入环境变量文件中，并在容器启动命令中指定相应环境变量文件；如使用文件hadoop.env
命令行参数：对于特定变量，直接在命令行中使用-e参数指定各个变量（不适合大量变量的设置）

PROPETY:

在设置环境变量时，对特殊字符需要进行转义；使用 docker 或 docker-compose 启动容器时，环境变量与设置的属性转义规则如下：

_ ==> . : 环境变量中的下划线会被转义为设置属性中的半角点
__ ==> _ : 环境变量中的双下划线会被转义为设置属性中的单下划线
___ ==> - : 环境变量中的三下划线会被转义为设置属性中的中划线

例如如下的环境变量及对应设置的实际属性为：

CORE_CONF_fs_defaultFS=hdfs://namenode:8020 ：设置配置文件core-site.xml中fs.defaultFS属性，设置后类似如下：

xml
<property><name>fs.defaultFS</name><value>hdfs://namenode:8020</value></property>

YARN_CONF_yarn_log___aggregation___enable=true ：设置配置文件yarn-site.xml中yarn.log-aggregation-enable属性，设置后类似如下：

xml
<property><name>yarn.log-aggregation-enable</name><value>true</value></property>

预置的配置参数

以下配置参数，如果设置，将批量设置对应的配置属性：

MULTIHOMED_NETWORK

默认值：1。配置 Hadoop 集群在使用不同的网络时，可以正常访问；设置的配置文件及对应属性如下：

配置文件 /srv/conf/hadoop/hdfs-site.xml:

dfs.namenode.rpc-bind-host = 0.0.0.0
dfs.namenode.servicerpc-bind-host = 0.0.0.0
dfs.namenode.http-bind-host = 0.0.0.0
dfs.namenode.https-bind-host = 0.0.0.0

配置文件 /srv/conf/hadoop/yarn-site.xml:

yarn.resourcemanager.bind-host = 0.0.0.0
yarn.nodemanager.bind-host = 0.0.0.0

配置文件 /srv/conf/hadoop/mapred-site.xml:

yarn.nodemanager.bind-host = 0.0.0.0

GANGLIA_HOST

默认值：无。配置 Hadoop 将对应的度量数据发送至指定的 ganglia gmond 守护服务。

可选配置参数

如果没有必要，可选配置参数可以不用定义，直接使用对应的默认值，主要包括：

ENV_DEBUG

默认值：false。设置是否输出容器调试信息。可设置为：1、true、yes

安全

容器安全

更新记录

3.3、latest
3.2

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问标签列表页面。

轩辕镜像加速拉取命令点我查看更多 hadoop 镜像标签

docker pull docker.xuanyuan.run/colovu/hadoop:<标签>

使用方法：

DockerHub 原生拉取命令

docker pull colovu/hadoop:<标签>

轩辕镜像配置手册

探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式

Docker 配置

登录仓库拉取

通过 Docker 登录认证访问私有仓库

专属域名拉取

无需登录使用专属域名

K8s Containerd

Kubernetes 集群配置 Containerd

K3s

K3s 轻量级 Kubernetes 镜像加速

Dev Containers

VS Code Dev Containers 配置

Podman

Podman 容器引擎配置

Singularity/Apptainer

HPC 科学计算容器配置

其他仓库配置

ghcr、Quay、nvcr 等镜像仓库

Harbor 镜像源配置

Harbor Proxy Repository 对接专属域名

Portainer 镜像源配置

Portainer Registries 加速拉取

Nexus 镜像源配置

Nexus3 Docker Proxy 内网缓存

系统配置

Linux

在 Linux 系统配置镜像服务

Windows/Mac

在 Docker Desktop 配置镜像

MacOS OrbStack

MacOS OrbStack 容器配置

Docker Compose

Docker Compose 项目配置

NAS 设备

群晖

Synology 群晖 NAS 配置

飞牛

飞牛 fnOS 系统配置镜像

绿联

绿联 NAS 系统配置镜像

威联通

QNAP 威联通 NAS 配置

极空间

极空间 NAS 系统配置服务

网络设备

爱快路由

爱快 iKuai 路由系统配置

宝塔面板

在宝塔面板一键配置镜像

需要其他帮助？请查看我们的常见问题Docker 镜像访问常见问题解答或提交工单

镜像拉取常见问题

使用与功能问题

配置了专属域名后，docker search 为什么会报错？

docker search 限制

Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？

站内搜不到镜像

机器不能直连外网时，怎么用 docker save / load 迁镜像？

离线 save/load

docker pull 拉插件报错（plugin v1+json）怎么办？

插件要用 plugin install

WSL 里 Docker 拉镜像特别慢，怎么排查和优化？

WSL 拉取慢

轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？

安全与 digest

第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？

新手拉取配置

轩辕镜像合规吗？轩辕镜像的合规是怎么做的？

镜像合规机制

错误码与失败问题

docker pull 提示 manifest unknown 怎么办？

manifest unknown

docker pull 提示 no matching manifest 怎么办？

no matching manifest（架构）

镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？

invalid tar header（解压）

Docker pull 时 HTTPS / TLS 证书验证失败怎么办？

TLS 证书失败

Docker pull 时 DNS 解析超时或连不上仓库怎么办？

DNS 超时

docker 无法连接轩辕镜像域名怎么办？

域名连通性排查

Docker 拉取出现 410 Gone 怎么办？

410 Gone 排查

出现 402 或「流量用尽」提示怎么办？

402 与流量用尽

Docker 拉取提示 UNAUTHORIZED（401）怎么办？

401 认证失败

遇到 429 Too Many Requests（请求太频繁）怎么办？

429 限流

docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？

D-Bus 凭证提示

为什么会出现「单层超过 20GB」或 413，无法加速拉取？

413 与超大单层

账号 / 计费 / 权限

轩辕镜像免费版和专业版有什么区别？

免费版与专业版区别

轩辕镜像支持哪些 Docker 镜像仓库？

支持的镜像仓库

镜像拉取失败还会不会扣流量？

失败是否计费

麒麟 V10 / 统信 UOS 提示 KYSEC 权限不够怎么办？

KYSEC 拦截脚本

如何在轩辕镜像申请开具发票？

申请开票

怎么修改轩辕镜像的网站登录和仓库登录密码？

修改登录密码

如何注销轩辕镜像账户？要注意什么？

注销账户

配置与原理类

写了 registry-mirrors，为什么还是走官方或仍然报错？

mirrors 不生效

怎么用 docker tag 去掉镜像名里的轩辕域名前缀？

去掉域名前缀

如何拉取指定 CPU 架构的镜像（如 ARM64、AMD64）？

指定架构拉取

用轩辕镜像拉镜像时快时慢，常见原因有哪些？

拉取速度原因

为什么拉取镜像的 :latest 标签，拿到的往往不是「最新」镜像？

latest 与「最新」

查看全部问题→

用户好评

来自真实用户的反馈，见证轩辕镜像的优质服务

oldzhang

运维工程师

Linux服务器

"Docker访问体验非常流畅，大镜像也能快速完成下载。"

colovu/hadoop

用于提供Hadoop服务的Docker基础镜像，支持Hadoop集群各组件部署，包含Namenode、Datanode等节点，便于快速搭建和配置Hadoop环境。

Hadoop

TL;DR

默认对外声明

端口

数据卷

容器配置

预置的配置参数

可选配置参数

安全

容器安全

更新记录

更多相关 Docker 镜像与资源

镜像拉取方式

轩辕镜像加速拉取命令点我查看更多 hadoop 镜像标签

DockerHub 原生拉取命令

更多 hadoop 镜像推荐

apache/hadoop

openeuler/hadoop

flokkr/hadoop

danisla/hadoop

harisekhon/hadoop

kiwenlau/hadoop

查看更多 hadoop 相关镜像

轩辕镜像配置手册

Docker 配置

登录仓库拉取

专属域名拉取

K8s Containerd

K3s

Dev Containers

Podman

Singularity/Apptainer

其他仓库配置

Harbor 镜像源配置

Portainer 镜像源配置

Nexus 镜像源配置

系统配置

Linux

Windows/Mac

MacOS OrbStack

Docker Compose

NAS 设备

群晖

飞牛

绿联

威联通

极空间

网络设备

爱快路由

宝塔面板

镜像拉取常见问题

使用与功能问题

配置了专属域名后，docker search 为什么会报错？

Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？

机器不能直连外网时，怎么用 docker save / load 迁镜像？

docker pull 拉插件报错（plugin v1+json）怎么办？

WSL 里 Docker 拉镜像特别慢，怎么排查和优化？

轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？

第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？

轩辕镜像合规吗？轩辕镜像的合规是怎么做的？

错误码与失败问题

docker pull 提示 manifest unknown 怎么办？

docker pull 提示 no matching manifest 怎么办？

镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？

Docker pull 时 HTTPS / TLS 证书验证失败怎么办？

Docker pull 时 DNS 解析超时或连不上仓库怎么办？

docker 无法连接轩辕镜像域名怎么办？

Docker 拉取出现 410 Gone 怎么办？

出现 402 或「流量用尽」提示怎么办？

Docker 拉取提示 UNAUTHORIZED（401）怎么办？

遇到 429 Too Many Requests（请求太频繁）怎么办？

docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？

为什么会出现「单层超过 20GB」或 413，无法加速拉取？

账号 / 计费 / 权限

轩辕镜像免费版和专业版有什么区别？

轩辕镜像支持哪些 Docker 镜像仓库？

镜像拉取失败还会不会扣流量？

麒麟 V10 / 统信 UOS 提示 KYSEC 权限不够怎么办？