一款强大的大型语言模型微调数据集创建工具

简体中文 | English | Türkçe

功能特性 • 快速开始 • 文档 • 贡献指南 • 许可证

如果您喜欢这个项目，请给它一个 Star⭐️，或请作者喝杯咖啡 => *** ❤️！

概述

Easy Dataset 是一款专为构建大型语言模型（LLM）数据集设计的应用。它具备直观界面，内置强大的文档解析工具、智能分段算法、数据清洗与增强功能。该应用可将多种格式的领域文档转换为高质量结构化数据集，适用于模型微调、检索增强生成（RAG）、模型性能评估等场景。

最新动态

🎉🎉 Easy Dataset 1.7.0 版本推出全新的评估功能！您可以轻松将领域文档转换为评估数据集（测试集）并自动运行多维度评估任务。此外，还内置人工盲测系统，助您轻松满足垂直领域模型评估、微调后模型性能检测、RAG 召回率评估等需求。教程：[***]

功能特性

📄 文档处理与数据生成

• 智能文档处理：支持 PDF、Markdown、DOCX、TXT、EPUB 等多种格式，具备智能识别能力
• 智能文本分割：多种分割算法（Markdown 结构、递归分隔符、固定长度、代码感知分块），支持可视化自定义分割
• 智能问题生成：从文本片段自动提取相关问题，支持问题模板与批量生成
• 领域标签树：基于文档结构智能构建全局领域标签树，具备自动标记能力
• 答案生成：利用 LLM API 生成全面答案与思维链（Chain of Thought, COT），支持 AI 优化
• 数据清洗：智能文本清洗，去除噪声，提升数据质量

🔄 多种数据集类型

• 单轮问答数据集：标准问答对，适用于基础微调
• 多轮对话数据集：可自定义角色与场景，支持对话格式
• 图像问答数据集：从图像生成视觉问答数据，支持多种导入方式（目录、PDF、ZIP）
• 数据蒸馏：无需上传文档，直接从领域主题生成标签树与问题

📊 模型评估系统

• 评估数据集：生成判断题、单选题、多选题、简答题、开放题等多种题型
• 自动化模型评估：使用 Judge Model 自动评估模型答案质量，支持自定义评分规则
• 人工盲测（Arena）：双盲对比两个模型的答案，实现无偏评估
• AI 质量评估：对生成的数据集进行自动质量评分与筛选

🛠️ 高级功能

• 自定义提示词：项目级自定义所有提示词模板（问题生成、答案生成、数据清洗等）
• GA 对生成：生成 Genre-Audience 对，丰富数据多样性
• 任务管理中心：后台批量任务处理，支持监控与中断
• 资源监控面板：Token 消耗统计、API 调用追踪、模型性能分析
• 模型测试 playground：同时对比最多 3 个模型

📤 导出与集成

• 多种导出格式：Alpaca、ShareGPT、Multilingual-Thinking 格式，支持 JSON/JSONL 文件类型
• 均衡导出：配置每个标签的导出数量，实现数据集均衡
• LLaMA Factory 集成：一键生成 LLaMA Factory 配置文件
• Hugging Face 上传：直接将数据集上传至 Hugging Face Hub

🤖 模型支持

• 广泛的模型兼容性：兼容所有遵循 OpenAI 格式的 LLM API
• 多提供商支持：OpenAI、MiniMax、Ollama（本地模型）、智谱 AI、阿里百灵、OpenRouter 等
• 视觉模型：支持 Gemini、Claude 等用于 PDF 解析与图像问答

🌐 用户体验

• 友好界面：现代化、直观的 UI，兼顾技术与非技术用户
• 多语言支持：完整支持中文、英文、土耳其语和葡萄牙语 🇹🇷
• 数据集广场：发现和探索公共数据集资源
• 桌面客户端：支持 Windows、macOS 和 Linux

快速演示

本地运行

下载客户端

Windows

MacOS

Linux

Setup.exe

Intel

M

AppImage

使用 NPM 安装

1. 克隆仓库：

git clone https://github.com/ConardLi/easy-dataset.git
cd easy-dataset

2. 安装依赖：

npm install

3. 启动开发服务器：

npm run build

npm run start

4. 打开浏览器，访问 http://localhost:1717

使用官方 Docker 镜像

1. 克隆仓库：

git clone https://github.com/ConardLi/easy-dataset.git
cd easy-dataset

2. 修改 docker-compose.yml 文件：

services:
easy-dataset:
image: ghcr.io/conardli/easy-dataset
container_name: easy-dataset
ports:
- '1717:1717'
volumes:
- ./local-db:/app/local-db
- ./prisma:/app/prisma
restart: unless-stopped

[!NOTE] 建议使用当前代码仓库目录下的 local-db 和 prisma 文件夹作为挂载路径，以保持与通过 NPM 启动时的数据库路径一致。

[!NOTE] 首次启动时会自动初始化数据库文件，无需手动运行 npm run db:push。

3. 使用 docker-compose 启动：

docker-compose up -d

4. 打开浏览器，访问 http://localhost:1717

使用本地 Dockerfile 构建

如果您想自行构建镜像，请使用项目根目录下的 Dockerfile：

1. 克隆仓库：

git clone https://github.com/ConardLi/easy-dataset.git
cd easy-dataset

2. 构建 Docker 镜像：

docker build -t easy-dataset .

3. 运行容器：

docker run -d \
-p 1717:1717 \
-v ./local-db:/app/local-db \
-v ./prisma:/app/prisma \
--name easy-dataset \
easy-dataset

[!NOTE] 建议使用当前代码仓库目录下的 local-db 和 prisma 文件夹作为挂载路径，以保持与通过 NPM 启动时的数据库路径一致。

[!NOTE] 首次启动时会自动初始化数据库文件，无需手动运行 npm run db:push。

4. 打开浏览器，访问 http://localhost:1717

文档

• 查看本项目演示视频：Easy Dataset 演示视频
• 有关所有功能和 API 的详细文档，请访问我们的 文档网站
• 查看本项目论文：Easy Dataset: A Unified and Extensible Framework for Synthesizing LLM Fine-Tuning Data from Unstructured Documents

社区实践

• 使用 Easy Dataset 完成测试集生成与模型评估
• Easy Dataset × LLaMA Factory：让大模型高效学习领域知识
• Easy Dataset 实战指南：如何构建高质量数据集？
• Easy Dataset 关键功能更新解读
• 基础模型微调数据集：基础知识普及

贡献指南

我们欢迎社区贡献！如果您想为 Easy Dataset 做贡献，请遵循以下步骤：

1. Fork 本仓库
2. 创建新分支（git checkout -b feature/amazing-feature）
3. 进行修改
4. 提交更改（git commit -m 'Add some amazing feature'）
5. 推送到分支（git push origin feature/amazing-feature）
6. 打开 Pull Request（提交至 DEV 分支）

请确保适当更新测试，并遵循现有编码风格。

加入讨论群 & 联系作者

许可证

本项目采用 AGPL 3.0 许可证授权 - 详见 LICENSE 文件。

引用

如果本工作对您有帮助，请引用：

@misc{miao2025easydataset,
title={Easy Dataset: A Unified and Extensible Framework for Synthesizing LLM Fine-Tuning Data from Unstructured Documents},
author={Ziyang Miao and Qiyu Sun and Jingyuan Wang and Yuchen Gong and Yaowei Zheng and Shiqi Li and Richong Zhang},
year={2025},
eprint={2507.04009},
archivePrefix={arXiv},
primaryClass={cs.CL},
url={https://arxiv.org/abs/2507.04009}
}

Star History

由 ConardLi 用心打造 • 关注我：微信公众号 ｜ Bilibili ｜ 掘金 ｜ 知乎 ｜ ***