安装 TorchDynamo¶
本节介绍如何安装 TorchDynamo。 TorchDynamo 包含在 PyTorch 的夜间二进制文件中。为 有关更多信息,请参阅入门。
要求¶
您必须满足以下先决条件才能使用 TorchDynamo:
Linux 或 macOS 环境
Python 3.8(推荐)。支持 Python 3.7 到 3.10,并且 测试。确保已安装 Python 的开发版本 本地也是如此。
GPU/CUDA 要求¶
要使用 GPU 后端,特别是 Triton,请确保 您在本地安装的 CUDA 与您的 PyTorch 版本匹配 正在运行。
以下命令将安装 GPU PyTorch + TorchDynamo 以及 GPU TorchDynamo 依赖项(适用于 CUDA 11.7):
pip3 install numpy --pre torch --force-reinstall --extra-index-url https://download.pytorch.org/whl/nightly/cu117
CPU 要求¶
CPU TorchDynamo 没有其他要求。中央处理器 TorchDynamo 包含在 PyTorch 的夜间版本中。 要安装,请运行以下命令:
pip3 install --pre torch --extra-index-url https://download.pytorch.org/whl/nightly/cpu
验证安装¶
如果您从源代码构建了 PyTorch,则可以运行以下命令 命令(来自 PyTorch 存储库根目录) 要检查 TorchDynamo 是否已正确安装,请执行以下作:
cd tools/dynamo
python verify_dynamo.py
如果本地没有 PyTorch 源,则可以
从 PyTorch 中复制脚本 ()
存储库并在本地运行它。tools/dynamo/verify_dynamo.py
Docker 安装¶
我们还在 PyTorch nightly 中提供所有必需的依赖项 二进制文件,您可以使用以下命令下载这些二进制文件:
docker pull ghcr.io/pytorch/pytorch-nightly
对于 Ad Hoc 实验,只需确保您的容器具有访问权限 到您的所有 GPU:
docker run --gpus all -it ghcr.io/pytorch/pytorch-nightly:latest /bin/bash