热门搜索:

folioci/mod-data-import

folioci

FOLIO项目的mod-data-import模块，用于数据导入处理，支持数据库连接，集成Kafka和AWS S3，提供文件拆分、异步处理及作业评分功能，适用于FOLIO生态系统的数据导入场景。

下载次数: 0状态：社区镜像维护者：folioci仓库类型：镜像最近更新：5 天前

使用轩辕镜像，把时间还给真正重要的事。点击查看

中文简介

标签下载

镜像标签列表与下载命令

使用轩辕镜像，把时间还给真正重要的事。点击查看

FOLIO - mod-data-import 镜像文档

镜像概述

mod-data-import是FOLIO项目的核心模块之一，专注于数据导入处理流程。该模块支持数据库交互，集成Kafka消息系统和AWS S3存储服务，提供文件拆分、异步任务调度及多维度作业评分机制，适用于FOLIO生态系统中各类数据导入场景的需求。

核心功能与特性

数据导入处理：提供完整的数据导入流程管理，支持结构化数据的导入与处理
数据库集成：依赖数据库连接存储导入任务元数据及处理状态
消息队列支持：通过Kafka实现异步消息传递，优化任务处理流程
云存储集成：支持AWS S3协议的对象存储服务，用于文件存储与访问
文件拆分机制：可配置大型文件拆分功能，按指定记录数拆分文件
作业评分系统：基于作业大小、时间、租户使用率等多维度参数进行评分，动态调整任务优先级
异步处理框架：支持异步任务处理，可配置轮询间隔与最大工作线程数

使用场景与适用范围

主要应用于FOLIO生态系统（如图书馆管理系统、资源管理平台等）的数据导入场景，适用于需要批量导入、异步处理数据的业务场景，需配合FOLIO其他服务组件协同工作。

使用方法与配置说明

基础信息

模块端口：8081（容器内服务端口）
内存需求：542293850字节（约517MB）
数据库依赖：需配置数据库连接（如PostgreSQL）
Java配置：-XX:MaxRAMPercentage=66.0 -Djava.util.logging.config.file=vertx-default-jul-logging.properties

Docker运行示例

bash
docker run -d \
  --name mod-data-import \
  -p 8081:8081 \
  -e KAFKA_HOST=kafka-service \
  -e KAFKA_PORT=9092 \
  -e AWS_BUCKET=folio-import-storage \
  -e AWS_ACCESS_KEY_ID=your-access-key \
  -e AWS_SECRET_ACCESS_KEY=your-secret-key \
  -e DB_HOST=db-host \
  -e DB_PORT=5432 \
  -e DB_NAME=folio_data_import \
  -e DB_USER=folio_user \
  -e DB_PASSWORD=folio_password \
  folio/mod-data-import

环境变量配置说明

Kafka配置

环境变量	说明	默认值
KAFKA_HOST	Kafka服务主机地址	10.0.2.15
KAFKA_PORT	Kafka服务端口	9092

AWS S3配置

环境变量	说明	默认值
AWS_URL	S3服务端点URL	[***]
AWS_REGION	AWS区域	（空）
AWS_BUCKET	S3存储桶名称	example-bucket
AWS_ACCESS_KEY_ID	S3访问密钥ID	AKIAIOSFODNN7EXAMPLE
AWS_SECRET_ACCESS_KEY	S3密钥	wJalrXUtnFEMI/K7MDENG/EXAMPLEKEY
AWS_SDK	是否启用AWS SDK	false
S3_FORCEPATHSTYLE	是否强制路径样式访问	false

文件处理配置

环境变量	说明	默认值
SPLIT_FILES_ENABLED	是否启用文件拆分	false
RECORDS_PER_SPLIT_FILE	每个拆分文件的记录数	1000

作业评分配置

环境变量	说明	默认值
SCORE_JOB_SMALLEST	小型作业评分	40
SCORE_JOB_LARGEST	大型作业评分	-40
SCORE_JOB_REFERENCE	作业参考评分基准值	***
SCORE_AGE_NEWEST	最新作业年龄评分	0
SCORE_AGE_OLDEST	最旧作业年龄评分	50
SCORE_AGE_EXTREME_THRESHOLD_MINUTES	极端年龄阈值（分钟）	480
SCORE_AGE_EXTREME_VALUE	极端年龄作业评分	***
SCORE_TENANT_USAGE_MIN	租户最低使用率评分	100
SCORE_TENANT_USAGE_MAX	租户最高使用率评分	-200
SCORE_PART_NUMBER_FIRST	第一部分作业评分	1
SCORE_PART_NUMBER_LAST	最后部分作业评分	0
SCORE_PART_NUMBER_LAST_REFERENCE	最后部分参考评分	100

异步处理配置

环境变量	说明	默认值
ASYNC_PROCESSOR_POLL_INTERVAL_MS	异步处理器轮询间隔（毫秒）	5000
ASYNC_PROCESSOR_MAX_WORKERS_COUNT	异步处理器最大工作线程数	1

代码仓库

https://github.com/folio-org/mod-data-import

镜像拉取方式

您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问标签列表页面。

轩辕镜像加速拉取命令点我查看更多 mod-data-import 镜像标签

docker pull docker.xuanyuan.run/folioci/mod-data-import:<标签>

使用方法：

DockerHub 原生拉取命令

docker pull folioci/mod-data-import:<标签>

轩辕镜像配置手册

探索更多轩辕镜像的使用方法，找到最适合您系统的配置方式

Docker 配置

登录仓库拉取

通过 Docker 登录认证访问私有仓库

专属域名拉取

无需登录使用专属域名

K8s Containerd

Kubernetes 集群配置 Containerd

K3s

K3s 轻量级 Kubernetes 镜像加速

Dev Containers

VS Code Dev Containers 配置

Podman

Podman 容器引擎配置

Singularity/Apptainer

HPC 科学计算容器配置

其他仓库配置

ghcr、Quay、nvcr 等镜像仓库

Harbor 镜像源配置

Harbor Proxy Repository 对接专属域名

Portainer 镜像源配置

Portainer Registries 加速拉取

Nexus 镜像源配置

Nexus3 Docker Proxy 内网缓存

系统配置

Linux

在 Linux 系统配置镜像服务

Windows/Mac

在 Docker Desktop 配置镜像

MacOS OrbStack

MacOS OrbStack 容器配置

Docker Compose

Docker Compose 项目配置

NAS 设备

群晖

Synology 群晖 NAS 配置

飞牛

飞牛 fnOS 系统配置镜像

绿联

绿联 NAS 系统配置镜像

威联通

QNAP 威联通 NAS 配置

极空间

极空间 NAS 系统配置服务

网络设备

爱快路由

爱快 iKuai 路由系统配置

宝塔面板

在宝塔面板一键配置镜像

需要其他帮助？请查看我们的常见问题Docker 镜像访问常见问题解答或提交工单

镜像拉取常见问题

使用与功能问题

配置了专属域名后，docker search 为什么会报错？

docker search 限制

Docker Hub 上有的镜像，为什么在轩辕镜像网站搜不到？

站内搜不到镜像

机器不能直连外网时，怎么用 docker save / load 迁镜像？

离线 save/load

docker pull 拉插件报错（plugin v1+json）怎么办？

插件要用 plugin install

WSL 里 Docker 拉镜像特别慢，怎么排查和优化？

WSL 拉取慢

轩辕镜像安全吗？如何用 digest 校验镜像没被篡改？

安全与 digest

第一次用轩辕镜像拉 Docker 镜像，要怎么登录和配置？

新手拉取配置

轩辕镜像合规吗？轩辕镜像的合规是怎么做的？

镜像合规机制

错误码与失败问题

docker pull 提示 manifest unknown 怎么办？

manifest unknown

docker pull 提示 no matching manifest 怎么办？

no matching manifest（架构）

镜像已拉取完成，却提示 invalid tar header 或 failed to register layer 怎么办？

invalid tar header（解压）

Docker pull 时 HTTPS / TLS 证书验证失败怎么办？

TLS 证书失败

Docker pull 时 DNS 解析超时或连不上仓库怎么办？

DNS 超时

docker 无法连接轩辕镜像域名怎么办？

域名连通性排查

Docker 拉取出现 410 Gone 怎么办？

410 Gone 排查

出现 402 或「流量用尽」提示怎么办？

402 与流量用尽

Docker 拉取提示 UNAUTHORIZED（401）怎么办？

401 认证失败

遇到 429 Too Many Requests（请求太频繁）怎么办？

429 限流

docker login 提示 Cannot autolaunch D-Bus，还算登录成功吗？

D-Bus 凭证提示

为什么会出现「单层超过 20GB」或 413，无法加速拉取？

413 与超大单层

账号 / 计费 / 权限

轩辕镜像免费版和专业版有什么区别？

免费版与专业版区别

轩辕镜像支持哪些 Docker 镜像仓库？

支持的镜像仓库

镜像拉取失败还会不会扣流量？

失败是否计费

麒麟 V10 / 统信 UOS 提示 KYSEC 权限不够怎么办？

KYSEC 拦截脚本

如何在轩辕镜像申请开具发票？

申请开票

怎么修改轩辕镜像的网站登录和仓库登录密码？

修改登录密码

如何注销轩辕镜像账户？要注意什么？

注销账户

配置与原理类

写了 registry-mirrors，为什么还是走官方或仍然报错？

mirrors 不生效

怎么用 docker tag 去掉镜像名里的轩辕域名前缀？

去掉域名前缀

如何拉取指定 CPU 架构的镜像（如 ARM64、AMD64）？

指定架构拉取

用轩辕镜像拉镜像时快时慢，常见原因有哪些？

拉取速度原因

查看全部问题→

用户好评

来自真实用户的反馈，见证轩辕镜像的优质服务

oldzhang

运维工程师

Linux服务器

"Docker访问体验非常流畅，大镜像也能快速完成下载。"