🛠 Optimiser l'IA locale avec OpenVINO et le GPU Intel Arc

Objectifs

Ce tutoriel vise à configurer l'environnement de développement pour utiliser la puissance de calcul combinée du processeur et du GPU Intel Arc via le toolkit OpenVINO. Vous apprendrez à convertir un modèle neuronal pré-entraîné pour l'exécuter efficacement sur le pilote graphique xe sous Linux.

Matériel nécessaire

• LattePanda Mu Ultra (Core Ultra 7 256V testé)
• Carte porteuse Mini Carrier Board
• Alimentation USB-C conforme
• SSD NVMe installé (minimum 128 Go)
• Connexion Internet stable

Étapes

1. Installez les dépendances système nécessaires pour le compilateur et les bibliothèques graphiques sous Ubuntu 24.04 ou 26.04.

sudo apt update && sudo apt install build-essential cmake git python3-pip libgl1-mesa-glx

1. Créez un environnement virtuel Python pour isoler les dépendances OpenVINO.

python3 -m venv openvino_env
source openvino_env/bin/activate

1. Installez le paquet openvino-dev qui inclut les outils de conversion et les runtimes pour CPU, GPU et NPU.

pip install openvino-dev[tf,onnx,pytorch]

1. Vérifiez que le GPU Intel Arc est bien détecté par OpenVINO. Le pilote xe doit être actif.

python3 -c "import openvino as ov; core = ov.Core(); print(core.available_devices)"

1. Téléchargez un modèle neuronal simple (ex: ResNet50) et convertissez-le pour l'architecture Intel.

ow convert_model --output_dir ./models --input_shape [1,3,224,224] --input_model resnet50.onnx

1. Exécutez une inférence de test en ciblant spécifiquement le périphérique GPU pour tirer parti de l'architecture Lunar Lake.

python3 -c "import openvino as ov; core = ov.Core(); model = core.read_model('./models/resnet50.xml'); compiled = core.compile_model(model, 'GPU'); print('Inférence GPU réussie')"

Vérification

La commande d'inférence doit retourner un message de succès sans erreur de pilote. Assurez-vous que l'utilisation du GPU augmente via intel_gpu_top pendant l'exécution pour confirmer l'accélération matérielle.

Pour aller plus loin

Explorez l'utilisation du NPU intégré pour les charges lourdes tout en gardant le GPU pour l'affichage, ou testez la quantification INT8 pour réduire la latence et la consommation énergétique.