intel/intel-extension-for-transformers

Intel Extension for Transformers Docker镜像

镜像概述

Intel Extension for Transformers Docker镜像是基于https://github.com/intel/intel-extension-for-transformers%E9%A1%B9%E7%9B%AE%E6%9E%84%E5%BB%BA%E7%9A%84%E5%AE%B9%E5%99%A8%E5%8C%96%E8%A7%A3%E5%86%B3%E6%96%B9%E6%A1%88%EF%BC%8C%E6%97%A8%E5%9C%A8%E4%B8%BA%E5%90%84%E7%B1%BBIntel%E5%B9%B3%E5%8F%B0%EF%BC%88%E5%8C%85%E6%8B%ACIntel Gaudi2、Intel CPU和Intel GPU）提供Transformer模型的优化性能，从而加速生成式人工智能（GenAI）和大型语言模型（LLM）的部署与运行。

核心功能与特性

• 跨平台支持：针对Intel Gaudi2、CPU和GPU等多种Intel硬件平台进行优化
• 性能优化：提供Transformer模型的高效运行能力，提升GenAI/LLM应用性能
• 场景化标签：提供不同功能场景的专用镜像标签，满足文本生成、模型微调、代码生成等多样化需求
• 版本控制：基于稳定版本（如1.4.0）构建，确保功能可靠性

适用场景

• 文本生成应用：需部署高性能文本生成模型的场景
• 模型微调任务：对Transformer模型进行定制化微调的需求
• 代码生成场景：需要AI辅助代码生成的开发环境
• 通用Transformer模型加速：各类基于Transformer架构的AI模型部署与运行

镜像标签与使用说明

使用方法

基本使用流程

1. 根据具体需求选择合适的镜像标签
2. 参考对应标签的详细文档获取具体部署步骤
3. 通过Docker命令或Docker Compose进行容器部署

示例（以文本生成镜像为例）

bash
# 拉取文本生成镜像
docker pull intel/intel-extension-for-transformers:text-generation-cpu-1.4.0

# 运行容器（具体参数请参考对应文档）
docker run -it --rm intel/intel-extension-for-transformers:text-generation-cpu-1.4.0

注：各镜像的详细使用方法、配置参数及环境变量设置，请参考表格中对应的详细文档链接。