intel/intel-extension-for-pytorch

Intel® Extension for PyTorch* Docker 镜像文档

镜像概述和主要用途

[Intel® Extension for PyTorch*] 扩展了 [PyTorch*]，通过针对 Intel 硬件的最新特性优化，提供额外的性能提升。本镜像基于 https://hub.docker.com/_/ubuntu 构建，集成了 Intel® Extension for PyTorch* 及相关软件，适用于在 Intel CPU 和 GPU 上加速深度学习工作负载。

镜像通过 https://github.com/intel/ai-containers/blob/main/python/Dockerfile 生成，源码位于 https://github.com/intel/ai-containers 仓库。

注意：Docker Hub 上有两个仓库（intel/intel-extension-for-pytorch 和 intel/intel-optimized-pytorch）会定期更新最新镜像，但部分 legacy 镜像可能未同步至两个仓库。

核心功能和特性

CPU 优化

• 支持 Intel 高级矩阵扩展（Intel® AMX）
• 支持 Intel 高级向量扩展 512（Intel® AVX-512）
• 支持向量神经网络指令（VNNI）

GPU 支持

• 通过 PyTorch* xpu 设备实现 GPU 加速
• 支持 Intel Arc™ A 系列显卡、Intel 数据中心 GPU Flex 系列和 Max 系列

扩展功能

• 部分镜像集成 Jupyter Notebook 服务
• 提供多节点训练支持（集成 Intel® oneAPI Collective Communications Library）
• 包含神经压缩器（Neural Compressor）工具
• 支持 TorchServe* 模型部署

支持的硬件

CPU

• 支持 AMX、AVX-512、VNNI 指令集的 Intel CPU

GPU

• Intel® Arc™ A 系列显卡
• Intel® 数据中心 GPU Flex 系列
• Intel® 数据中心 GPU Max 系列

镜像类型和标签

1. XPU 镜像（支持 CPU 和 GPU 优化）

基础 XPU 镜像

带 Jupyter Notebook 的 XPU 镜像

2. CPU 专用镜像（不含 GPU 支持）

基础 CPU 镜像

带 Jupyter Notebook 的 CPU 镜像

带 oneCCL 和神经压缩器的 CPU 多节点镜像

注意：镜像中启用了无密码 SSH 连接，但不含 SSH ID 密钥。用户需将密钥挂载至 /root/.ssh/id_rsa 和 /etc/ssh/authorized_keys。

提示：挂载密钥前，需通过 chmod 600 authorized_keys; chmod 600 id_rsa 修改文件权限，确保默认用户可读取。

TorchServe CPU 镜像

3. 集成 Intel® Distribution for Python* 的镜像

CPU 基础镜像