Dremio是一款开源自助数据访问工具,提供高性能查询能力,支持对数据湖进行交互式分析。
Dremio概述
商标说明:本软件列表由Bitnami打包。产品中提及的相关商标归各自公司所有,使用这些商标并不意味着任何关联或背书。
consolehelm install my-release oci://registry-1.docker.io/bitnamicharts/dremio
如需在生产环境使用Dremio?请尝试VMware Tanzu Application Catalog,即Bitnami应用目录的企业版。
自2025年8月28日起,Bitnami将升级其公共目录,通过新的Bitnami Secure Images计划提供精选的强化、安全聚焦镜像。此次过渡包括:
这些变更旨在通过推广软件供应链完整性和最新部署的最佳实践,提升所有Bitnami用户的安全态势。更多详情,请访问https://github.com/bitnami/containers/issues/83267%E3%80%82
本图表使用Helm包管理器在Kubernetes集群上引导部署https://github.com/bitnami/containers/tree/main/bitnami/dremio%E3%80%82
使用发布名称my-release安装图表:
consolehelm install my-release oci://REGISTRY_NAME/REPOSITORY_NAME/dremio
注意:需将占位符
REGISTRY_NAME和REPOSITORY_NAME替换为Helm图表仓库和仓库名称。例如,对于Bitnami,需使用REGISTRY_NAME=registry-1.docker.io和REPOSITORY_NAME=bitnamicharts。
该命令使用默认配置在Kubernetes集群上部署Dremio。参数部分列出了可在安装过程中配置的参数。
提示:使用
helm list查看所有发布
强烈建议在生产环境中使用不可变标签。这可确保如果相同标签更新为不同镜像时,部署不会自动变更。
如果主容器有新版本、重大变更或严重漏洞,Bitnami将发布新图表更新其容器。
Dremio有两个主要配置文件:dremio.conf和core-site.xml。图表会使用values.yaml文件中的信息自动生成这些文件。
可通过以下方式添加自定义信息到这两个文件中。
自定义dremio.conf文件
dremio.conf文件可通过以下参数覆盖:
dremio.dremioConf.configOverrides:应用于所有Dremio节点的非敏感设置。dremio.dremioConf.secretConfigOverrides:应用于所有Dremio节点的敏感设置。上述参数应用于所有Dremio节点。如需针对特定节点设置,图表提供以下参数:
masterCoordinator.dremioConf.configOverrides:应用于Dremio主协调器节点的非敏感设置。masterCoordinator.dremioConf.secretConfigOverrides:应用于Dremio主协调器节点的敏感设置。coordinator.dremioConf.configOverrides:应用于Dremio协调器节点的非敏感设置。coordinator.dremioConf.secretConfigOverrides:应用于Dremio协调器节点的敏感设置。executor.common.dremioConf.configOverrides:应用于Dremio执行器节点的非敏感设置。executor.common.dremioConf.secretConfigOverrides:应用于Dremio执行器节点的敏感设置。使用这些参数,图表将为每个Dremio组件生成包含非敏感设置的ConfigMaps和包含敏感设置的Secrets。随后,初始化容器会合并ConfigMap和Secret中的信息,生成最终的dremio.conf文件,并挂载到/opt/bitnami/dremio/conf。
注意:上述参数中的设置必须以YAML格式输入,将转换为HOCON兼容的扁平化YAML。
以下示例为所有Dremio节点覆盖上传路径,并为主协调器节点增加令牌过期时间:
yamldremio: dremioConf: configOverrides: paths.upload: /tmp/uploads masterCoordinator: dremioConf: configOverrides: services.coordinator.web.tokens.cache.expiration_minutes: 20
查看上游Dremio文档获取允许的设置列表。
作为替代方案,可通过*.dremioConf.existingSecret和*.dremioConf.existingConfigmap参数提供包含dremio.conf配置的现有ConfigMaps和Secrets。
自定义core-site.xml文件
core-site.xml文件可通过以下参数自定义:
dremio.coreSite.appendConfiguration:追加到core-site.xml文件<configuration>部分内的XML字符串。以下示例禁用与S3后端的SSL连接:
yamldremio: coreSite: appendConfiguration: | <property> <name>fs.s3a.connection.ssl.enabled</name> <description>值可为true或false,设置为true可与安全的Minio服务器使用SSL。</description> <value>false</value> </property>
作为替代方案,可通过dremio.coreSite.existingSecret参数提供包含core-site.xml配置的现有Secret。
查看上游Dremio文档获取core-site.xml文件中的可用设置列表。
配置文件中的环境变量
图表允许在Dremio配置设置中引用环境变量,方法是将环境变量用{{ }}括起来。初始化容器将使用https://github.com/bitnami/render-template%E5%B7%A5%E5%85%B7%E6%B8%B2%E6%9F%93%E7%8E%AF%E5%A2%83%E5%8F%98%E9%87%8F%EF%BC%8C%E9%80%82%E7%94%A8%E4%BA%8E%E5%AF%86%E9%92%A5%E8%BD%AE%E6%8D%A2%E5%9C%BA%E6%99%AF%E3%80%82
如需添加用于渲染的额外环境变量,设置defaultInitContainers.generateConf.extraEnvVars参数。
以下示例在core-site.xml中添加依赖AZURE_TOKEN环境变量的属性,该变量来自名为azure-secret、密钥为token的Secret:
yamldremio: coreSite: appendConfiguration: | <property> <name>dremio.azure.key</name> <description>存储账户的共享访问密钥。</description> <value>{{ AZURE_TOKEN }}</value> </property> defaultInitContainers: generateConf: extraEnvVars: - name: AZURE_TOKEN valueFrom: secretKeyRef: name: azure-secret key: token
添加额外配置文件
对于高级配置(如编辑logback.xml),可通过以下参数在dremio.conf的ConfigMap或Secret中包含额外配置文件:
dremio.dremioConf.extraFiles:添加非敏感额外文件。dremio.dremioConf.extraSecretFiles:添加敏感额外文件。以下示例包含修改后的logback.xml文件:
yamldremio: dremioConf: extraFiles: logback.xml: | <?xml version="1.0" encoding="UTF-8" ?> <configuration scan="true" scanPeriod="30 seconds"> <contextListener class="ch.qos.logback.classic.jul.LevelChangePropagator"/> <appender name="console" class="ch.qos.logback.core.ConsoleAppender"> <encoder> <pattern>%date{ISO8601} [%thread] %-5level %logger{36} - %msg%n</pattern> </encoder> </appender> </configuration>
注意:在
extraFiles或extraSecretFiles中添加dremio.conf将完全覆盖图表生成的默认dremio.conf文件。
Bitnami Dremio图表原生支持s3作为后端存储(AWS或MinIO™),通过dremio.distStorageType配置,可选值为aws、minio或other。例如:
dremio.distStorageType: aws当dremio.distStorageType设为other时,可配置其他分布式存储后端,但需通过*.dremioConf和*.coreSite添加额外配置。以下为部分分布式存储后端配置示例。查看上游Dremio文档获取dremio.conf和core-site.xml中所需的设置。
MinIO™子图表作为存储后端(默认)
使用嵌入式子图表时,设置以下参数:
yamldremio: distStorageType: minio minio: enabled: true
外部MinIO™作为分布式存储
配置外部MinIO™安装时,使用externalS3部分(替换DREMIO_*占位符):
yamldremio: distStorageType: minio minio: enabled: false externalS3: host: DREMIO_MINIO_HOST port: DREMIO_MINIO_PORT accessKeyID: DREMIO_ACCESS_KEY_ID accessKeySecret: DREMIO_ACCESS_KEY_SECRET bucket: DREMIO_BUCKET
AWS作为分布式存储(使用访问密钥认证)
配置AWS作为分布式存储时,使用externalS3部分(替换DREMIO_*占位符):
yamldremio: distStorageType: minio minio: enabled: false externalS3: accessKeyID: DREMIO_ACCESS_KEY_ID accessKeySecret: DREMIO_ACCESS_KEY_SECRET bucket: DREMIO_BUCKET region: DREMIO_REGION
Azure Storage作为分布式存储
根据上游Dremio文档配置Azure Storage时,使用dremio.dremioConf和dremio.coreSite参数(替换DREMIO_*占位符):
yamldremio: distStorageType: other dremioConf: configOverrides: paths.dist: "dremioAzureStorage://:///DREMIO_FILE_SYSTEM_NAME/DREMIO_ALTERNATIVE_STORAGE_ROOT_DIRECTORY" coreSite: appendConfiguration: | <property> <name>fs.dremioAzureStorage.impl</name> <description>文件系统实现,必须为com.dremio.plugins.azure.AzureStorageFileSystem</description> <value>com.dremio.plugins.azure.AzureStorageFileSystem</value> </property> <property> <name>dremio.azure.account</name> <description>存储账户名称。</description> <value>DREMIO_ACCOUNT_NAME</value> </property> <property> <name>dremio.azure.key</name> <description>存储账户的共享访问密钥。</description> <value>DREMIO_ACCESS_KEY</value> </property> <property> <name>dremio.azure.mode</name> <description>存储账户类型,值:STORAGE_V2</description> <value>STORAGE_V2</value> </property> <property> <name>dremio.azure.secure</name> <description>启用SSL连接的布尔选项,默认:True,值:True/False</description> <value>True</value> </property> minio: enabled: false
Google Cloud Storage作为分布式存储
根据上游Dremio文档配置Google Cloud Storage时,使用dremio.dremioConf和dremio.coreSite参数(替换DREMIO_*占位符):
yamldremio: distStorageType: other dremioConf: configOverrides: paths.dist: "dremiogcs:///DREMIO_BUCKET_NAME/DREMIO_BUCKET_FOLDER" coreSite: appendConfiguration: | <property> <name>dremio.gcs.whitelisted.buckets</name> <description>用于分布式存储的GCS桶</description> <value>DREMIO_BUCKET_NAME</value> </property> <property> <name>fs.dremiogcs.impl</name> <description>文件系统实现,必须设为com.dremio.plugins.gcs.GoogleBucketFileSystem</description> <value>com.dremio.plugins.gcs.GoogleBucketFileSystem</value> </property> <property> <name>dremio.gcs.use_keyfile</name> <description>不使用密钥文件</description> <value>false</value> </property> minio: enabled: false
将metrics.enabled设为true时,图表可与Prometheus集成。这将在所有Pod中部署带有https://github.com/prometheus/jmx_exporter%E7%9A%84%E8%BE%B9%E8%BD%A6%E5%AE%B9%E5%99%A8%EF%BC%8C%E4%BB%A5%E5%8F%8A%60metrics%60%E6%9C%8D%E5%8A%A1%EF%BC%88%E5%8F%AF%E5%9C%A8%60metrics.service%60%E9%83%A8%E5%88%86%E9%85%8D%E7%BD%AE%EF%BC%89%E3%80%82%E8%AF%A5%60metrics%60%E6%9C%8D%E5%8A%A1%E5%8C%85%E5%90%AB%E8%87%AA%E5%8A%A8%E8%A2%ABPrometheus%E6%8A%93%E5%8F%96%E6%89%80%E9%9C%80%E7%9A%84%E6%B3%A8%E8%A7%A3%E3%80%82
Prometheus要求
需在集群中安装Prometheus或Prometheus Operator才能实现集成。安装https://github.com/bitnami/charts/tree/main/bitnami/prometheus%E6%88%96https://github.com/bitnami/charts/tree/main/bitnami/kube-prometheus%E5%8F%AF%E5%BF%AB%E9%80%9F%E5%9C%A8%E9%9B%86%E7%BE%A4%E4%B8%AD%E9%83%A8%E7%BD%B2Prometheus%E3%80%82
与Prometheus Operator集成
图表可部署ServiceMonitor对象以与Prometheus Operator集成。为此,设置metrics.serviceMonitor.enabled=true。确保集群中已安装Prometheus Operator CustomResourceDefinitions,否则将失败并显示以下错误:
textno matches for kind "ServiceMonitor" in version "monitoring.coreos.com/v1"
安装https://github.com/bitnami/charts/tree/main/bitnami/kube-prometheus%E5%8F%AF%E8%8E%B7%E5%8F%96%E6%89%80%E9%9C%80%E7%9A%84CRDs%E5%92%8CPrometheus Operator。
当dremio.auth.enabled参数设为true时,图表将创建一个Job,使用Dremio内部认证机制自动引导用户。用户可通过以下参数自定义:
dremio.auth.username:引导用户名dremio.auth.password:引导密码dremio.auth.email:引导***dremio.auth.firstName:引导名dremio.auth.lastName:引导姓也可通过dremio.auth.existingSecret值使用现有Secret提供密码。
其他认证机制可通过dremioConf和coreSite值配置。查看上游Dremio文档获取所有可用选项。
可配置Dremio连接外部Zookeeper而非在集群内安装,通常用于使用托管数据库服务或共享数据库服务器。为此,通过参数中的`
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本,请访问 标签列表页面。
探索更多轩辕镜像的使用方法,找到最适合您系统的配置方式
通过 Docker 登录认证访问私有仓库
无需登录使用专属域名
Kubernetes 集群配置 Containerd
K3s 轻量级 Kubernetes 镜像加速
VS Code Dev Containers 配置
Podman 容器引擎配置
HPC 科学计算容器配置
ghcr、Quay、nvcr 等镜像仓库
Harbor Proxy Repository 对接专属域名
Portainer Registries 加速拉取
Nexus3 Docker Proxy 内网缓存
需要其他帮助?请查看我们的 常见问题Docker 镜像访问常见问题解答 或 提交工单
docker search 限制
站内搜不到镜像
离线 save/load
插件要用 plugin install
WSL 拉取慢
安全与 digest
新手拉取配置
镜像合规机制
manifest unknown
no matching manifest(架构)
invalid tar header(解压)
TLS 证书失败
DNS 超时
域名连通性排查
410 Gone 排查
402 与流量用尽
401 认证失败
429 限流
D-Bus 凭证提示
413 与超大单层
来自真实用户的反馈,见证轩辕镜像的优质服务