Problema de incompatibilidade do PyTorch no Jetson Orin

Possível problema 1:

GPU is unavailable

Instale a versão do PyTorch para Jetson

Tutorial: https://docs.nvidia.com/deeplearning/frameworks/install-pytorch-jetson-platform/index.html

Você pode escolher a versão: https://developer.download.nvidia.cn/compute/redist/jp/

A versão que estou usando:

torch-2.5.0a0+872d972e41.nv24.08.17622132-cp310-cp310-linux_aarch64.whl

Após o download, execute:

export TORCH_INSTALL=torch-2.5.0a0+872d972e41.nv24.08.17622132-cp310-cp310-linux_aarch64.whl
pip install --no-cache $TORCH_INSTALL

Teste:

import torch

torch.cuda.is_available()

Possível problema 2:

ImportError: libcusparseLt.so.0: cannot open shared object file: No such file or directory

Solução:

Instale a versão do CUDA correspondente à biblioteca cuSPARSELt compatível com a plataforma Jetson Orin

Link de download:

https://developer.nvidia.com/cuda-12-6-0-download-archive?target_os=Linux&target_arch=aarch64-jetson&Compilation=Native&Distribution=Ubuntu&target_version=22.04&target_type=deb_local

https://developer.nvidia.com/cusparselt-downloads

Possível problema 3:

torchvision is not available

Solução:

Instale manualmente a versão do torchvision correspondente: torch 2.5 -> torchvision 0.20.0

git clone --branch v0.20.0 [https://github.com/pytorch/vision.git](https://link.zhihu.com/?target=https%3A//github.com/pytorch/vision.git)

Compile após o download:

export BUILD_VERSION=0.20.0
python3 setup.py install --user

Link de referência: https://zhuanlan.zhihu.com/p/1933164131969659101