intel/intel-optimized-tensorflow

Intel® Extension for TensorFlow*

项目未处于积极管理中。此镜像仓库将不再由Intel维护。

[Intel® Extension for TensorFlow*] 扩展了 [TensorFlow*]，通过最新的特性优化在Intel硬件上提供额外的性能提升。

[Intel® Extension for TensorFlow*] 基于TensorFlow的 [PluggableDevice] 接口，将Intel XPU（GPU、CPU等）设备引入 [TensorFlow*]，为以下Intel GPU提供灵活的按需性能支持：

• [Intel® Arc™ A系列显卡]
• [Intel® 数据中心GPU Flex系列]
• [Intel® 数据中心GPU Max系列]

注意： 有两个Docker Hub仓库（intel/intel-extension-for-tensorflow 和 intel/intel-optimized-tensorflow）会定期更新最新镜像，但部分旧镜像可能未同时发布到两个仓库。

XPU镜像

以下镜像包含CPU和GPU优化支持：

以下镜像包含Intel®深度学习基础组件支持：

| 标签(s) | TensorFlow | ITEX | 驱动 | DL基础组件 | Dockerfile | | ---------------------- | ----------- | -------------- | ------- | --------------- | | 2.15.0.3-xpu-pip-dl-essentials | [v2.15.1] | [v2.15.0.3] | [1099]| [2025.0.2-6] | [v0.4.0-Beta] |

运行XPU容器

bash
docker run -it --rm \
    --device /dev/dri \
    -v /dev/dri/by-path:/dev/dri/by-path \
    --ipc=host \
    intel/intel-extension-for-tensorflow:xpu

---

以下镜像额外包含 Jupyter Notebook 服务器：

运行XPU Jupyter容器

bash
docker run -it --rm \
    -p 8888:8888 \
    --net=host \
    --device /dev/dri \
    -v /dev/dri/by-path:/dev/dri/by-path \
    --ipc=host \
    intel/intel-extension-for-tensorflow:2.15.0.3-xpu-pip-jupyter

运行上述命令后，将URL（类似 http://127.0.0.1:$PORT/?token=）复制到浏览器以访问Notebook服务器。

---

以下镜像为带GPU优化的 [TensorFlow* Serving]：

运行Serving GPU容器

bash
docker run -it --rm \
    -p 8500:8500 \
    --device /dev/dri \
    -v /dev/dri/by-path:/dev/dri/by-path \
    -v $PWD/workspace:/workspace \
    -w /workspace \
    -e MODEL_NAME=<your-model-name> \
    -e MODEL_DIR=<your-model-dir> \
    intel/intel-extension-for-tensorflow:serving-gpu

更多详情，请按照 [Intel® Extension for TensorFlow* Serving] 说明中的步骤操作。

仅CPU镜像

以下镜像仅构建了CPU优化（刻意排除GPU加速支持）：

以下镜像额外包含 Jupyter Notebook 服务器：

运行CPU Jupyter容器

bash
docker run -it --rm \
    -p 8888:8888 \
    --net=host \
    -v $PWD/workspace:/workspace \
    -w /workspace \
    intel/intel-extension-for-tensorflow:2.15.1-pip-jupyter

运行上述命令后，将URL（类似 http://127.0.0.1:$PORT/?token=）复制到浏览器以访问Notebook服务器。

---

以下镜像额外包含 [Horovod]：

注意 镜像中已启用无密码SSH连接，但容器不包含任何SSH ID密钥。用户需将密钥挂载到 /root/.ssh/id_rsa 和 /etc/ssh/authorized_keys。

提示 挂载任何密钥前，请使用 chmod 600 authorized_keys; chmod 600 id_rsa 修改文件权限，以授予默认用户账户读取权限。

设置和运行ITEX多节点容器

重要 Intel® Extension for TensorFlow* 多节点容器（适用于Xeon处理器）的维护、错误修复和发布已停止开发。最后支持的版本是 2.15.1。未来版本请使用适用于XPU的 [Intel® Extension for TensorFlow*] 多节点容器。

使用此容器与OpenSSH需要一些额外配置。要执行任何DDP（分布式数据并行）执行，容器分别被分配为启动器和工作器角色：

SSH服务器（工作器）

1. 授权密钥：/etc/ssh/authorized_keys

SSH客户端（启动器）

1. 用户私钥：/root/.ssh/id_rsa

要正确添加这些文件，请按照以下步骤操作：

1. 设置ID密钥

   您可以使用以下命令为OpenSSH 生成身份密钥。

   bash
   ssh-keygen -q -N "" -t rsa -b 4096 -f ./id_rsa
   touch authorized_keys
   cat id_rsa.pub >> authorized_keys
   

2. 配置所有已创建文件的权限和所有权

   bash
   chmod 600 id_rsa config authorized_keys
   chown root:root id_rsa.pub id_rsa config authorized_keys
   

3. 为horovod创建主机文件（可选）

   txt
   Host host1
       HostName <host1的主机名>
       IdentitiesOnly yes
       IdentityFile ~/.root/id_rsa
       Port <SSH端口>
   Host host2
       HostName <host2的主机名>
       IdentitiesOnly yes
       IdentityFile ~/.root/id_rsa
       Port <SSH端口>
   ...
   

4. 在Python脚本中配置 [Horovod]

   python
   import horovod.torch as hvd
   
   hvd.init()
   

5. 现在启动工作器并在启动器上执行DDP

   1. 工作器运行命令：

      bash
      docker run -it --rm \
          --net=host \
          -v $PWD/authorized_keys:/etc/ssh/authorized_keys \
          -v $PWD/tests:/workspace/tests \
          -w /workspace \
          intel/intel-optimized-tensorflow:2.15.1-pip-multinode \
          bash -c '/usr/sbin/sshd -D'
      

   2. 启动器运行命令：

      bash
      docker run -it --rm \
          --net=host \
          -v $PWD/id_rsa:/root/.ssh/id_rsa \
          -v $PWD/tests:/workspace/tests \
          -v $PWD/hostfile:/root/ssh/config \
          -w /workspace \
          intel/intel-optimized-tensorflow:2.15.1-pip-multinode \
          bash -c 'horovodrun --verbose -np 2 -H host1:1,host2:1 /workspace/tests/tf_base_test.py'
      

注意 [Intel® MPI] 可根据您的机器设置进行配置。如果上述命令不适用，请参阅文档了解如何根据您的网络进行配置。

---

以下镜像为带CPU优化的 [TensorFlow* Serving]：

运行Serving CPU容器

bash
docker run -it --rm \
    -p 8500:8500 \
    --device /dev/dri \
    -v /dev/dri/by-path:/dev/dri/by-path \
    -v $PWD/workspace:/workspace \
    -w /workspace \
    -e MODEL_NAME=<your-model-name> \
    -e MODEL_DIR=<your-model-dir> \
    intel/intel-extension-for-tensorflow:serving-cpu

更多详情，请按照 [Intel® Extension for TensorFlow* Serving] 说明中的步骤操作。

带Intel® Distribution for Python*的仅CPU镜像

以下镜像仅构建了CPU优化（刻意排除GPU加速支持），并包含 [Intel® Distribution for Python*]：

以下镜像额外包含 Jupyter Notebook 服务器：