PyTorch-Inkompatibilität auf Jetson Orin

Mögliches Problem 1: GPU nicht nutzbar

PyTorch in der Jetson-Version installieren Tutorial: https://docs.nvidia.com/deeplearning/frameworks/install-pytorch-jetson-platform/index.html

Version frei wählbar: https://developer.download.nvidia.com/compute/redist/jp/

Verwendete Version: torch-2.5.0a0+872d972e41.nv24.08.17622132-cp310-cp310-linux_aarch64.whl

Nach dem Download ausführen:

export TORCH_INSTALL=torch-2.5.0a0+872d972e41.nv24.08.17622132-cp310-cp310-linux_aarch64.whl
pip install --no-cache $TORCH_INSTALL

Test:

import torch

torch.cuda.is_available()

Mögliches Problem 2:

ImportError: libcusparseLt.so.0: cannot open shared object file: No such file or directory

Lösung:

Die zur CUDA-Version passende cuSPARSELt -Bibliothek installieren, die mit dem Jetson-Orin-System kompatibel ist.

Download-Link:

https://developer.nvidia.com/cuda-12-6-0-download-archive?target_os=Linux&target_arch=aarch64-jetson&Compilation=Native&Distribution=Ubuntu&target_version=22.04&target_type=deb_local

https://developer.nvidia.com/cusparselt-downloads

Mögliches Problem 3:

torchvision nicht verfügbar

Lösung:

Passende torchvision-Version manuell installieren, torch 2.5 -> torchvision 0.20.0

git clone --branch v0.20.0 [https://github.com/pytorch/vision.git](https://link.zhihu.com/?target=https%3A//github.com/pytorch/vision.git)

Nach dem Download kompilieren:

export BUILD_VERSION=0.20.0
python3 setup.py install --user

Referenz-Link: https://zhuanlan.zhihu.com/p/1933164131969659101