🛠 Configurer une accélération IA externe via OCuLink sur Xerxes Nano

Objectifs

Ce tutoriel avancé vise à exploiter la puissance de calcul externe en connectant un GPU ou un accélérateur IA via le connecteur OCuLink de la Xerxes Nano. Cette configuration est idéale pour l'inférence de modèles LLM ou le traitement vidéo en temps réel, dépassant les capacités intégrées du Jetson Orin Nano ou du Turing RK1.

Matériel nécessaire

• Carte porteuse Xerxes Nano avec module NVIDIA Jetson Orin Nano ou Turing RK1 installé.
• Une carte d'extension PCIe avec connecteur OCuLink mâle (compatible avec les fichiers open-source KiCad de la Xerxes).
• Un boîtier d'extension eGPU (type OCuLink) ou un adaptateur PCIe vers OCuLink.
• Un GPU ou un accélérateur compatible PCIe (par exemple, une carte NVIDIA RTX ou un accélérateur IA spécialisé).
• Un câble OCuLink de qualité (passif ou actif selon la distance).
• Alimentation externe stable pour le boîtier d'extension (si nécessaire).
• Câbles série USB-C pour l'accès terminal au module.

Étapes

1. Préparation matérielle : Éteignez la Xerxes Nano et débranchez l'alimentation. Insérez la carte d'extension OCuLink dans le connecteur dédié de la carte porteuse. Assurez-vous que le connecteur est bien enfoncé jusqu'au clic.
2. Connexion du boîtier : Connectez le câble OCuLink entre la carte d'extension et votre boîtier eGPU. Insérez le GPU ou l'accélérateur dans le slot PCIe du boîtier. Connectez l'alimentation du boîtier si le GPU ne peut pas être alimenté via le slot (la plupart des GPUs dédiés nécessitent une alimentation externe).
3. Démarrage et détection : Allumez le boîtier d'extension, puis la Xerxes Nano. Ouvrez une session terminal via USB-C. Lancez la commande suivante pour vérifier la détection du bus PCIe :

lspci -nn | grep -i nvidia

Si votre GPU apparaît dans la liste, le lien physique est établi. Si rien n'apparaît, vérifiez la compatibilité électrique et le câblage.

1. Installation des pilotes : Selon votre module (Jetson ou Turing), installez les pilotes propriétaires correspondants. Pour un Jetson, assurez-vous que les paquets NVIDIA sont à jour :

sudo apt update && sudo apt install nvidia-driver-535

1. Configuration du BIOS/UEFI : Si le système ne démarre pas ou ne voit pas le GPU, entrez dans l'UEFI (souvent via F2 ou DEL au démarrage). Cherchez les paramètres PCIe et activez l'option « Above 4G Decoding » et « Re-allocate BAR Size » pour permettre l'allocation mémoire correcte du GPU externe.
2. Test de performance : Utilisez nvidia-smi pour confirmer que le GPU est opérationnel et monté correctement :

nvidia-smi

Vérification

Exécutez un benchmark simple comme cuda-memcheck ou lancez un modèle PyTorch simple en forçant l'utilisation du GPU externe. Vérifiez les températures avec nvidia-smi pour vous assurer que le refroidissement actif (connecteur PWM) est suffisant pour le GPU externe et le module embarqué.

Pour aller plus loin

Explorez la configuration de multiplexage PCIe si vous souhaitez utiliser simultanément un stockage NVMe M.2 et le GPU externe, en vérifiant la largeur de bande disponible (Gen 3 x4 partagé). Consultez les discussions GitHub du projet Xerxes Home Lab pour des scripts de gestion thermique avancés.