當前速訊：手把手教你在昇騰平臺上搭建PyTorch訓練環境

摘要：在昇騰平臺上運行PyTorch業務時，需要搭建異構計算架構CANN軟件開發環境，并安裝PyTorch 框架，從而實現訓練腳本的遷移、開發和調試。

本文分享自華為云社區《手把手教你在昇騰平臺上搭建PyTorch訓練環境》，作者：昇騰CANN。

PyTorch是業界流行的深度學習框架，用于開發深度學習訓練腳本，默認運行在CPU/GPU上。在昇騰AI處理器上運行PyTorch業務時，需要搭建異構計算架構CANN（Compute Architecture for Neural Networks）軟件開發環境，并安裝PyTorch 框架，從而實現訓練腳本的遷移、開發和調試。

(資料圖片僅供參考)

下面帶大家了解如何在昇騰平臺上快速安裝驅動固件、CANN軟件及PyTorch框架。

環境檢查

在昇騰平臺上安裝驅動和固件前，首先需要檢查安裝環境的NPU是否正常在位，并確認操作系統版本與內核版本是否滿足對應的版本配套要求。

以Atlas 800 訓練服務器（型號：9010）（昇騰AI處理器型號Ascend 910）為例，檢查NPU是否正常在位可執行lspci | grep d801命令，如果服務器上有 N路NPU，回顯N行含“d801”字段，則表示NPU正常在位。

安裝驅動和固件

1.創建驅動運行用戶HwHiAiUser。

groupadd -g 1000 HwHiAiUser useradd -g HwHiAiUser -u 1000 -d /home/HwHiAiUser -m HwHiAiUser -s /bin/bash

2.安裝驅動和固件。

在昇騰社區的“固件與驅動”下載頁面下載配套產品的固件驅動軟件，并上傳到服務器任意目錄，然后參考如下命令進行固件驅動軟件包的安裝，需要注意，需要以root用戶進行安裝。

a.為軟件包增加可執行權限。

chmod +x Ascend-hdk-910-npu-driver_23.0.rc1_linux-x86-64.runchmod +x Ascend-hdk-910-npu-firmware_6.3.0.1.241.run

b.安裝驅動。

./Ascend-hdk-910-npu-driver_23.0.rc1_linux-x86-64.run --full --install-for-all

默認安裝路徑為“/usr/local/Ascend”，出現類似如下回顯信息，說明安裝成功。

Driver package installed successfully!復制

您還可以通過執行npu-smi info命令查看，出現類似如下信息，說明驅動加載成功。

c.安裝固件。

./Ascend-hdk-910-npu-firmware_6.3.0.1.241.run --full

出現類型如下回顯信息，說明安裝成功。

Firmware package installed successfully! Reboot now or after driver installation for the installation/upgrade to take effect

3.驅動固件安裝完成后，重啟系統。

reboot

安裝CANN軟件依賴

CANN軟件安裝過程需要下載相關依賴，請確保安裝環境能夠連接網絡，并已配置軟件源，以下步驟以root用戶操作為例。

1. 安裝第三方依賴

Ubuntu系統（Debian、UOS20、Linux等系統操作一致）：

apt-get install -y gcc g++ make cmake zlib1g zlib1g-dev openssl libsqlite3-dev libssl-dev libffi-dev unzip pciutils net-tools libblas-dev gfortran libblas3

openEuler系統（EulerOS、CentOS、BCLinux等系統操作一致）：

yum install -y gcc gcc-c++ make cmake unzip zlib-devel libffi-devel openssl-devel pciutils net-tools sqlite-devel lapack-devel gcc-gfortran

2. 安裝Python及其依賴

以安裝Python 3.7.5為例。

1）通過wget命令下載python3.7.5源碼包。

wget https://www.python.org/ftp/python/3.7.5/Python-3.7.5.tgz

2）解壓縮源碼包

tar -zxvf Python-3.7.5.tgz

3）源碼編譯安裝Python。

?cd Python-3.7.5./configure --prefix=/usr/local/python3.7.5 --enable-loadable-sqlite-extensions --enable-sharedmakemake install

以--prefix=/usr/local/python3.7.5路徑為例進行說明。執行配置、編譯和安裝命令后，安裝包在/usr/local/python3.7.5路徑。

4）設置python3.7.5環境變量。

#用于設置python3.7.5庫文件路徑export LD_LIBRARY_PATH=/usr/local/python3.7.5/lib:$LD_LIBRARY_PATH#如果用戶環境存在多個python3版本，則指定使用python3.7.5版本export PATH=/usr/local/python3.7.5/bin:$PATH

5）檢查是否安裝成功。

?python3 --versionpip3 --version

返回相關版本信息，則說明安裝成功。

6）安裝pip依賴。

pip3 install attrs numpy decorator sympy cffi pyyaml pathlib2 psutil protobuf scipy requests absl-py

安裝CANN開發套件包

1. 從昇騰社區“CANN”產品頁，根據操作系統架構下載CANN開發套件包。

例如“Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run”，并將其上傳到安裝環境任意目錄。

2. 安裝CANN開發套件包。

# 添加可執行權限chmod +x Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run# 校驗軟件包的一致性和完整性./Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run --check# 執行安裝命令./Ascend-cann-toolkit_6.3.RC1_linux-x86_64.run --install --install-for-all

安裝完成后，若顯示如下信息，則說明軟件安裝成功：

[INFO] xxx install success

xxx表示安裝的實際軟件包名。

安裝PyTorch

CANN軟件包安裝完成后，就可以進行PyTorch的安裝了。開發者可以選擇PyTorch 1.8.1或PyTorch 1.11.0版本，PyTorch安裝成功后再安裝APEX混合精度模塊。在安裝Pytorch前，需要先安裝以下依賴。

pip3 install wheelpip3 install typing_extensions

安裝PyTorch 1.8.1

1）安裝官方torch包。

x86_64架構

wget https://download.pytorch.org/whl/cpu/torch-1.8.1%2Bcpu-cp37-cp37m-linux_x86_64.whlpip3 install torch-1.8.1+cpu-cp37-cp37m-linux_x86_64.whl

aarch64架構

wget https://repo.huaweicloud.com/kunpeng/archive/Ascend/PyTorch/torch-1.8.1-cp37-cp37m-linux_aarch64.whlpip3 install torch-1.8.1-cp37-cp37m-linux_aarch64.whl

2）安裝昇騰提供的PyTorch適配插件torch_npu。

x86_64架構

wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.8.1/torch_npu-1.8.1.post1-cp37-cp37m-linux_ x86_64.whlpip3 install torch_npu-1.8.1.post1-cp37-cp37m-linux_ x86_64.whl

aarch64架構

?wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.8.1/torch_npu-1.8.1.post1-cp37-cp37m-linux_aarch64.whlpip3 install torch_npu-1.8.1.post1-cp37-cp37m-linux_aarch64.whl

此處以5.0.rc1版本為例，實際請選擇CANN配套的PyTorch插件版本進行安裝。

3）安裝對應框架版本的torchvision。

pip3 install torchvision==0.9.1

4）驗證是否安裝成功。

python -c "import torch;import torch_npu; a = torch.ones(3, 4).npu(); print(a + a);"

如果輸出包含如下關鍵信息則說明PyTorch安裝成功。

[[2., 2., 2., 2.],  [2., 2., 2., 2.],  [2., 2., 2., 2.]]

安裝PyTorch 1.11.0

1）安裝官方torch包。

x86_64架構

wget https://download.pytorch.org/whl/cpu/torch-1.11.0%2Bcpu-cp37-cp37m-linux_x86_64.whlpip3 install torch-1.11.0+cpu-cp37-cp37m-linux_x86_64.whl

aarch64架構

wget https://repo.huaweicloud.com/kunpeng/archive/Ascend/PyTorch/torch-1.11.0-cp37-cp37m-linux_aarch64.whlpip3 install torch-1.11.0-cp37-cp37m-linux_aarch64.whl

2）安裝昇騰提供的PyTorch適配插件torch_npu。

x86_64架構

wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.11.0/torch_npu-1.11.0-cp37-cp37m-linux_ x86_64.whlpip3 install torch_npu-1.11.0-cp37-cp37m-linux_ x86_64.whl

aarch64架構

wget https://gitee.com/ascend/pytorch/releases/download/v5.0.rc1-pytorch1.11.0/torch_npu-1.11.0-cp37-cp37m-linux_aarch64.whlpip3 install torch_npu-1.11.0-cp37-cp37m-linux_aarch64.whl

3）安裝對應框架版本的torchvision。

pip3 install torchvision==0.12.0

4）驗證PyTorch是否安裝成功。

python -c "import torch;import torch_npu; a = torch.ones(3, 4).npu(); print(a + a);"

如果輸出包含如下關鍵信息則說明PyTorch安裝成功。

[[2., 2., 2., 2.],  [2., 2., 2., 2.],  [2., 2., 2., 2.]]

安裝APEX混合精度模塊

APEX混合精度模塊是一個集優化性能、精度收斂于一身的綜合優化庫，可以提供不同場景下的混合精度訓練支持。

1. 獲取昇騰適配的APEX源碼以及原生APEX代碼。

# 獲取昇騰適配的APEX源碼git clone -b master https://gitee.com/ascend/apex.git# 在apex目錄下獲取原生APEX代碼cd apexgit clone https://github.com/NVIDIA/apex.git

2. 切換到原生APEX代碼對應分支。

cd apexgit checkout 4ef930c1c884fdca5f472ab2ce7cb9b505d26c1acd ..

3. 在昇騰適配APEX源碼目錄的scripts路徑下生成昇騰適配全量代碼。

cd scriptsbash gen.sh

4. 編譯生成昇騰適配的APEX二進制安裝包。

cd ../apexpython3 setup.py --cpp_ext --npu_float_status bdist_wheel

5. 安裝APEX。

86_64架構

cd distpip3 install apex-0.1_ascend-cp37-cp37m-linux_ x86_64.whl

aarch64架構

cd distpip3 install apex-0.1_ascend-cp37-cp37m-linux_aarch64.whl

到此，PyTorch訓練環境就搭建完畢了，開發者可以將PyTorch網絡腳本遷移到昇騰平臺執行訓練，使用昇騰平臺的強大算力。

關于更多文檔介紹，可以在昇騰文檔中心[1]查看，您也可在“昇騰社區在線課程[2]”板塊學習視頻課程，學習過程中的任何疑問，都可以在“昇騰論壇[3]”互動交流！

相關參考

[1]昇騰文檔中心

[2]昇騰社區在線課程

[3]昇騰論壇

點擊關注，第一時間了解華為云新鮮技術~

標簽：