热门搜索:

datamechanics/spark

datamechanics

Data Mechanics提供的Apache Spark优化Docker镜像，适用于在Kubernetes或本地环境运行Spark应用，内置多种云存储连接器、PySpark支持及常用依赖，支持多版本组件组合。

44 次收藏下载次数: 0状态：社区镜像维护者：datamechanics仓库类型：镜像最近更新：3 年前

让 AI 帮你使用轩辕镜像？ · 展开查看说明

如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。

只需在 AI 对话中先发送下面这句话即可：

请先完整阅读并严格遵守以下文档中的全部规则与要求：

https://xuanyuan.cloud/agents.md

在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。

查看 agents.md 用法指南与完整示范。国内用户首推元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。若 AI 无法访问外链，可打开说明文档复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。

镜像标签列表与下载命令

Apache Spark优化Docker镜像

由Data Mechanics提供，Data Mechanics是面向数据工程师的云原生Spark平台。阅读我们的博客文章了解构建动机，或参考教程快速入门。

什么是Spark Docker镜像？

当在Kubernetes上运行Spark时，Spark驱动程序和执行器以Docker容器形式运行，这些容器使用专为Spark构建的镜像。该镜像包含Spark发行版，您还可以在其中添加应用代码和依赖项。

此镜像也可用于本地运行Spark，例如以单容器驱动程序模式运行，或在本地minikube集群上的Kubernetes上运行Spark。

镜像包含哪些内容？

镜像包含未经修改的开源Spark发行版，并内置以下组件：

常用数据源连接器

AWS S3 (s3a://)
Google Cloud Storage (gs://)
Azure Blob Storage (wasbs://)
Azure Data Lake Gen1 (adls://)
Azure Data Lake Gen2 (abfss://)
Delta Lake
AWS Hadoop云Magic Committer

Python与PySpark支持

内置Python、PySpark、pip和conda，便于安装额外Python包。若无需PySpark，可使用标签前缀为jvm-only的轻量级镜像。

组件版本组合

镜像包含以下组件的版本组合（非所有组合均存在）：

组件	可用版本
Spark	2.4.5 至 3.2.1
Hadoop	3.1, 3.2, 3.3
Java	8 和 11
Scala	2.11 和 2.12
Python	3.7 和 3.8

标签格式说明

每个镜像提供多种标签，以Spark 3.1.2、Java 8、Scala 2.12、Hadoop 3.2.0和Python 3.8为例，包含以下标签：

长格式标签：3.1.2-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest，包含所有组件版本
Spark补丁版本短标签：datamechanics/spark:3.1.2-latest，仅指定Spark版本，其他依赖为最新兼容版本（可能升级兼容依赖版本）
Spark次要版本短标签：datamechanics/spark:3.1-latest，指向该次要版本的最新补丁版本（如Spark 3.1.3发布后，标签将指向3.1.3-latest）

推荐使用短标签（如datamechanics/spark:3.1-latest或datamechanics/spark:3.1.2-latest）。仅在需要特定版本组合（如迁移现有Scala/Java项目）时使用长标签；新JVM项目和PySpark项目使用短标签即可。

标签修订

默认推荐使用以-latest结尾的标签，包含特定版本的最新镜像。当修复漏洞（如spark.jar.packages问题）或升级连接器版本时，会发布带修订号的镜像，格式为-dmXX（XX为版本号）。

如需使用特定修订版，例如Spark 3.1.2的第17修订版PySpark镜像，使用标签datamechanics/spark:3.1.2-dm17。版本发布说明可在官网查看。

Dockerfile位置

镜像使用Earthly而非Docker构建，所有镜像通过单个Earthfile生成。构建上下文和Earthfile为自动生成，代码即将开源。

支持的标签列表

同一行的标签为同一镜像的别名。

`spark`（包含PySpark和Python）

Spark 3

3.2.1-hadoop-3.3.1-java-8-scala-2.12-python-3.8-dm17, 3.2.1-hadoop-3.3.1-java-8-scala-2.12-python-3.8-latest, 3.2-dm17, 3.2-latest, 3.2.1-dm17, 3.2.1-latest
3.2.0-hadoop-3.3.1-java-8-scala-2.12-python-3.8-dm17, 3.2.0-hadoop-3.3.1-java-8-scala-2.12-python-3.8-latest, 3.2.0-dm17, 3.2.0-latest
3.1.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.1.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.1-dm17, 3.1-latest, 3.1.3-dm17, 3.1.3-latest
3.1.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.1.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.1.2-dm17, 3.1.2-latest
3.1.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.1.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.1.1-dm17, 3.1.1-latest
3.0.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.0.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.0-dm17, 3.0-latest, 3.0.3-dm17, 3.0.3-latest
3.0.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.0.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.0.2-dm17, 3.0.2-latest
3.0.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.0.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.0.1-dm17, 3.0.1-latest
3.0.0-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, 3.0.0-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, 3.0.0-dm17, 3.0.0-latest
3.2.1-hadoop-3.3.1-java-11-scala-2.12-python-3.8-dm17, 3.2.1-hadoop-3.3.1-java-11-scala-2.12-python-3.8-latest
3.2.0-hadoop-3.3.1-java-11-scala-2.12-python-3.8-dm17, 3.2.0-hadoop-3.3.1-java-11-scala-2.12-python-3.8-latest
3.1.3-hadoop-3.2.0-java-11-scala-2.12-python-3.8-dm17, 3.1.3-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest
3.1.2-hadoop-3.2.0-java-11-scala-2.12-python-3.8-dm17, 3.1.2-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest
3.1.1-hadoop-3.2.0-java-11-scala-2.12-python-3.8-dm17, 3.1.1-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest
3.0.2-hadoop-3.2.0-java-11-scala-2.12-python-3.8-dm17, 3.0.2-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest
3.0.1-hadoop-3.2.0-java-11-scala-2.12-python-3.8-dm17, 3.0.1-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest
3.0.0-hadoop-3.2.0-java-11-scala-2.12-python-3.8-dm17, 3.0.0-hadoop-3.2.0-java-11-scala-2.12-python-3.8-latest

Spark 2

2.4.7-hadoop-3.1.0-java-8-scala-2.12-python-3.7-dm17, 2.4.7-hadoop-3.1.0-java-8-scala-2.12-python-3.7-latest, 2.4.7-dm17, 2.4.7-latest, 2.4-dm17, 2.4-latest
2.4.6-hadoop-3.1.0-java-8-scala-2.12-python-3.7-dm17, 2.4.6-hadoop-3.1.0-java-8-scala-2.12-python-3.7-latest, 2.4.6-dm17, 2.4.6-latest
2.4.5-hadoop-3.1.0-java-8-scala-2.12-python-3.7-dm17, 2.4.5-hadoop-3.1.0-java-8-scala-2.12-python-3.7-latest, 2.4.5-dm17, 2.4.5-latest
2.4.7-hadoop-3.1.0-java-8-scala-2.11-python-3.7-dm17, 2.4.7-hadoop-3.1.0-java-8-scala-2.11-python-3.7-latest
2.4.6-hadoop-3.1.0-java-8-scala-2.11-python-3.7-dm17, 2.4.6-hadoop-3.1.0-java-8-scala-2.11-python-3.7-latest
2.4.5-hadoop-3.1.(0-java-8-scala-2.11-python-3.7-dm17, 2.4.5-hadoop-3.1.0-java-8-scala-2.11-python-3.7-latest

`spark:jvm-only`（不含PySpark的轻量级版本）

Spark 3

jvm-only-3.2.1-hadoop-3.3.1-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.2.1-hadoop-3.3.1-java-8-scala-2.12-python-3.8-latest, jvm-only-3.2-dm17, jvm-only-3.2-latest, jvm-only-3.2.1-dm17, jvm-only-3.2.1-latest
jvm-only-3.2.0-hadoop-3.3.1-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.2.0-hadoop-3.3.1-java-8-scala-2.12-python-3.8-latest, jvm-only-3.2.0-dm17, jvm-only-3.2.0-latest
jvm-only-3.1.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.1.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.1-dm17, jvm-only-3.1-latest, jvm-only-3.1.3-dm17, jvm-only-3.1.3-latest
jvm-only-3.1.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.1.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.1.2-dm17, jvm-only-3.1.2-latest
jvm-only-3.1.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.1.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.1.1-dm17, jvm-only-3.1.1-latest
jvm-only-3.0.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.0.3-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.0-dm17, jvm-only-3.0-latest, jvm-only-3.0.3-dm17, jvm-only-3.0.3-latest
jvm-only-3.0.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.0.2-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.0.2-dm17, jvm-only-3.0.2-latest
jvm-only-3.0.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.0.1-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.0.1-dm17, jvm-only-3.0.1-latest
jvm-only-3.0.0-hadoop-3.2.0-java-8-scala-2.12-python-3.8-dm17, jvm-only-3.0.0-hadoop-3.2.0-java-8-scala-2.12-python-3.8-latest, jvm-only-3.0.0-dm17, jvm-only-3.0.0-latest
jvm-only-3.2.1-hadoop-3.3.1-java-11-scala-2.12-python-3.8-dm17, jvm-only-3.2.1-hadoop-3.3.1-java-11-scala-2.12-python-3.8-latest
`jvm-only-3.2.0-hadoop-3.

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问标签列表页面。

轩辕镜像加速拉取命令点我查看更多 spark 镜像标签

docker pull docker.xuanyuan.run/datamechanics/spark:<标签>

使用方法：

DockerHub 原生拉取命令

docker pull datamechanics/spark:<标签>

轩辕镜像配置手册

按平台快速找到配置文档

Docker

登录仓库拉取

登录认证 · 私有仓库

专属域名拉取

免登录 · 高速拉取

Linux

Docker 镜像配置

Windows / Mac

Docker Desktop 配置

MacOS OrbStack

OrbStack 容器

Docker Compose

Compose 项目配置

NAS

群晖

Synology 配置

飞牛

fnOS 镜像配置

绿联

绿联 NAS

威联通

QNAP 配置

极空间

极空间 NAS

企业仓库

其他仓库

ghcr · Quay · nvcr

Harbor 镜像源

Proxy Repository 对接

Portainer 镜像源

Registries 配置

Nexus 镜像源

Docker Proxy 缓存

开发工具

Dev Containers

VS Code 开发容器

Podman

Podman 配置指南

Singularity / Apptainer

HPC 科学计算容器

Kubernetes

K8s Containerd

Kubernetes · Containerd

K3s

轻量级集群

面板 / 网络

爱快路由

iKuai 镜像加速

宝塔面板

一键配置镜像源

AI

用 AI 使用轩辕镜像

agents.md · AI 对话 · 提示词

一键安装

一键安装 Docker

Linux Docker 一键安装

需要其他帮助？请查看我们的常见问题 Docker 镜像访问常见问题解答或提交工单

镜像拉取常见问题

功能

免费版与专业版区别

功能对比 · 版本选择

支持的镜像仓库

Docker Hub · GCR · GHCR

新手拉取配置

docker search 限制

专属域名 · Hub 搜索

不支持 push

仅支持 pull · 不支持

拉取速度原因

带宽 · 缓存 · 冷热镜像

错误码

402 与流量用尽

402 · 流量包 · 充值

401 认证失败

401 · docker login

manifest unknown

标签错误 · 镜像不存在

410 Gone 排查

410 · Docker 升级

429 限流

免费版 · 请求频率

其他报错

DNS 超时

DNS 解析 · 网络超时

TLS 证书失败

no matching manifest（架构）

账号

失败是否计费

manifest · blob · 计费

申请开发票（企业 / 个人）

企业 · 个人 · 工单

修改登录密码

网站 · 仓库 · 重置

注销账户

工单 · 数据 · 注销

原理

mirrors 不生效

daemon.json · 重启

去掉域名前缀

docker tag · 重命名

指定架构拉取

ARM64 · AMD64 · 多架构

latest 与「最新」

digest · 版本号 · 标签

查看全部问题→

用户好评

来自真实用户的反馈，见证轩辕镜像的优质服务

oldzhang

运维工程师

Linux服务器

"Docker访问体验非常流畅，大镜像也能快速完成下载。"