bytez/cpierse_gpt2_film_scripts

镜像概述

本Docker镜像封装了基于GPT2架构的cpierse/gpt2_film_scripts模型，专注于电影剧本文本生成任务。用户可通过本地部署快速搭建生成服务，通过API接口调用模型生成内容，支持CPU/GPU运行环境和参数定制。

核心功能

• 本地部署：支持在CPU或GPU环境下运行，适配不同硬件资源；
• API访问：通过HTTP POST请求调用模型，返回生成文本或流式响应；
• 权重缓存：将模型权重存储到本地目录，减少重复下载时间；
• 参数定制：可调整生成长度、温度、top_p等参数，控制生成结果的多样性和相关性；
• 多设备支持：自动识别硬件环境，或手动指定运行设备（CPU/GPU）。

使用场景

• 电影/电视剧剧本创作辅助，快速生成情节片段；
• 创意写作灵感激发，生成故事大纲或对话内容；
• 媒体内容生产，如短视频脚本、广告文案等；
• 教育领域的写作练习工具，帮助用户提升剧本创作能力。

配置说明

前提条件

1. 已安装Docker环境；
2. 获取Bytez API Key（需注册Bytez账号并在设置页面获取）。

拉取镜像

bash
docker pull docker.xuanyuan.run/bytez/cpierse_gpt2_film_scripts

运行容器

基础CPU运行

bash
docker run -it \
  -e KEY=YOUR_BYTEZ_API_KEY \
  -e PORT=8000 \
  -p 8000:8000 \
  docker.xuanyuan.run/bytez/cpierse_gpt2_film_scripts

GPU加速运行

需确保已安装Nvidia驱动和CUDA，添加--gpus all参数：

bash
docker run -it \
  --gpus all \
  -e KEY=YOUR_BYTEZ_API_KEY \
  -e PORT=8000 \
  -p 8000:8000 \
  docker.xuanyuan.run/bytez/cpierse_gpt2_film_scripts

本地权重缓存

挂载本地目录存储模型权重，避免重复下载：

bash
docker run -it \
  -v /本地目录路径:/server/model \
  -e HF_HOME=/server/model \
  -e KEY=YOUR_BYTEZ_API_KEY \
  -p 8000:8000 \
  docker.xuanyuan.run/bytez/cpierse_gpt2_film_scripts

调用示例

通过curl发送POST请求生成文本：

bash
curl --location 'http://0.0.0.0:8000/run' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Once upon a time there was a ",
  "stream": false,
  "params": {
    "max_new_tokens": 50,
    "temperature": 1.3,
    "top_p": 1.2
  }
}'

关键环境变量

• KEY：Bytez API Key（必填）；
• PORT：服务端口（默认8000）；
• DEVICE：运行设备（可选，值为auto/cuda/cpu，默认auto）；
• HF_HOME：模型权重存储路径（用于本地缓存）。

模型参数

可通过请求参数定制生成行为，主要包括：

• 长度控制：max_new_tokens（最大生成 tokens 数）、min_length（最小生成长度）；
• 生成策略：do_sample（是否采样）、num_beams（beam search 数量）；
• Logits调整：temperature（温度，控制多样性）、top_p（核采样阈值）、repetition_penalty（重复惩罚）；
• 特殊 tokens：pad_token_id（填充 token）、eos_token_id（结束 token）。

更多参数详情可参考https://github.com/huggingface/transformers/blob/v4.38.2/src/transformers/generation/configuration_utils.py。 ===FULL_DESC===