gwul/tweetsets-spark
gwul
该镜像为TweetSets提供Apache Spark支持，用于研究和归档***数据集，可从现有数据集生成衍生数据，并通过多模式确保符合***政策要求。
下载次数: 0状态：社区镜像维护者：gwul仓库类型：镜像最近更新：4 年前
让 AI 帮你使用轩辕镜像？ · 展开查看说明 · 点击收起说明
如果你使用 DeepSeek、元宝 AI、Copilot、ChatGPT 等 AI 工具，协助配置轩辕镜像、编写 docker pull 命令、修改 Docker Compose 镜像地址、配置镜像加速、排查镜像拉取失败、分析报错日志等问题，请先让 AI 阅读并遵守轩辕镜像的规则文档。
只需在 AI 对话中先发送下面这句话即可：
请先完整阅读并严格遵守以下文档中的全部规则与要求：
https://xuanyuan.cloud/agents.md
在未充分阅读并理解该文档前，不要生成任何命令、配置、修改建议、故障排查方案或技术回答。后续所有输出都必须严格以该文档中的规范为最高优先级执行。查看 agents.md 用法指南与完整示范。国内用户首推 元宝 AI、DeepSeek 的深度思考模式，不推荐豆包 AI；Cursor 等编辑器可在对话 @ 该链接，或加入 User Rules。 若 AI 无法访问外链，可 打开说明文档 复制全文粘贴。文档会随站点更新，复制内容可能过期，建议定期检查。
TweetSets（Spark支持版）
https://zenodo.org/badge/91485768.svg](https://zenodo.org/badge/latestdoi/91485768)
用于研究和归档的***数据集工具，本镜像集成Apache Spark以高效处理大规模数据集，支持合规的数据集创建与衍生。
核心功能
- 从现有数据集筛选生成自定义***数据集（支持关键词、标签等参数）
- 生成推文ID列表、提及关系节点/边等衍生数据
- 多运行模式（公共/本地/混合）：公共模式限制完整推文分享，本地模式开放全部功能，混合模式按IP范围切换
- 利用Spark高效加载和重新加载数据集，支持集群部署
使用场景
- 学术研究：分析***用户行为、话题趋势等
- 数据归档：长期保存合规的***数据集
- 衍生数据生成：为网络分析、文本挖掘提供结构化输入
配置说明
前提条件
- Docker及Docker Compose
- 按ElasticSearch文档设置
vm_max_map_count（集群节点均需配置）
非集群模式部署
- 创建数据目录：
bash
mkdir -p /tweetset_data/redis /tweetset_data/datasets /tweetset_data/full_datasets /tweetset_data/elasticsearch/esdata1 /tweetset_data/elasticsearch/esdata2 chown -R 1000:1000 /tweetset_data/elasticsearch - 创建数据集加载目录：
mkdir /datasets_loading - 克隆仓库：
git clone https://github.com/gwu-libraries/TweetSets.git - 进入Docker目录：
cd TweetSets/docker - 复制配置文件：
bash
cp example.docker-compose.yml docker-compose.yml cp example.env .env - 编辑
.env（按注释配置参数） - 创建数据集列表消息文件：
touch dataset_list_msg.txt - 启动容器：
docker-compose up -d
Spark加载数据集（集群模式）
- 进入Loader容器：
bash
docker-compose -f loader.docker-compose.yml run --rm loader /bin/bash - Spark创建数据集：
bash
spark-submit \ --jars elasticsearch-hadoop.jar \ --master spark://$SPARK_MASTER_HOST:7101 \ --py-files dist/TweetSets-2.2.0-py3.8.egg,dependencies.zip \ --conf spark.driver.bindAddress=0.0.0.0 \ --conf spark.driver.host=$SPARK_DRIVER_HOST \ --conf spark.driver.port=7003 \ --conf spark.blockManager.port=7020 \ tweetset_loader.py spark-create /dataset/path/to
引用方式
Justin Littman, Laura Wrubel, Dan Kerchner, Dolsy Smith, Will Bonnett. (2020). TweetSets. Zenodo. https://doi.org/10.5281/zenodo.***
镜像拉取方式
您可以使用以下命令拉取该镜像。请将 <标签> 替换为具体的标签版本。如需查看所有可用标签版本，请访问 标签列表页面。
轩辕镜像加速拉取命令点我查看更多 tweetsets-spark 镜像标签
docker pull docker.xuanyuan.run/gwul/tweetsets-spark:<标签>
DockerHub 原生拉取命令
docker pull gwul/tweetsets-spark:<标签>
镜像拉取常见问题
功能
错误码
用户好评
来自真实用户的反馈，见证轩辕镜像的优质服务
oldzhang
运维工程师
Linux服务器
5
"Docker访问体验非常流畅，大镜像也能快速完成下载。"