gwul/tweetsets-worker
gwul
该镜像运行TweetSets的工作节点，支持创建、筛选***数据集及生成衍生数据（如推文ID列表、提及关系等），适用于学术研究与存档，且符合***政策要求。
下载次数: 0状态：社区镜像维护者：gwul仓库类型：镜像最近更新：4 年前
让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
TweetSets工作节点镜像
https://zenodo.org/badge/91485768.svg](https://zenodo.org/badge/latestdoi/91485768)
镜像概述
本镜像为TweetSets提供工作节点容器，TweetSets是一款面向学术研究与数据存档的数据集工具。它允许用户从现有数据集创建自定义数据集，通过关键词、标签等参数筛选内容，并生成衍生数据（如推文ID列表、提及节点/边等），且严格遵守政策要求。
核心功能
- 自定义数据集创建：从现有数据集生成专属***数据集
- 多维度筛选：支持关键词、标签、用户等参数过滤数据
- 衍生数据生成：输出推文ID列表、提及关系（节点/边）等结构化数据
- 合规模式切换：提供public/local/both三种模式，确保符合***第三方分享政策
使用场景
- 学术研究：获取***数据用于社交网络分析、舆情研究等
- 数据存档：长期保存特定主题的***数据集
- 数据分析：生成结构化衍生数据支持后续研究
配置说明
前提条件
- 安装Docker及Docker-compose
- 按ElasticSearch文档设置
vm_max_map_count（集群节点需单独配置）
非集群部署步骤
- 创建数据目录：
bash
mkdir -p /tweetset_data/redis /tweetset_data/datasets /tweetset_data/full_datasets /tweetset_data/elasticsearch/esdata1 /tweetset_data/elasticsearch/esdata2 chown -R 1000:1000 /tweetset_data/elasticsearch - 创建数据集加载目录：
mkdir /datasets_loading - 克隆仓库：
git clone https://github.com/gwu-libraries/TweetSets.git - 进入Docker目录：
cd TweetSets/docker - 复制配置文件：
bash
cp example.docker-compose.yml docker-compose.yml cp example.env .env - 编辑
.env文件配置参数（参考注释选择合适值） - 创建数据集列表提示文件：
touch dataset_list_msg.txt - 启动容器：
docker-compose up -d
数据集加载
- 准备数据集：在指定目录放入JSON/JSON.gz格式推文文件及
dataset.json描述文件 - 启动加载容器：
docker-compose run --rm loader /bin/bash - 执行加载命令：
python tweetset_loader.py create /dataset/path/to
注意事项
- 集群部署需配置NFS共享目录（参考原文档）
- HTTPS支持需在docker-compose.yml中启用nginx-proxy并配置
- Kibana可通过取消注释相关服务启用，用于数据可视化分析
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 tweetsets-worker 镜像标签
docker pull docker.xuanyuan.run/gwul/tweetsets-worker:<标签>
DockerHub 原生拉取命令
docker pull gwul/tweetsets-worker:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"