Guide · Rocky Linux

Installer les pilotes NVIDIA et CUDA sur Rocky Linux 8, 9 et 10Choisissez votre version et votre cas, copiez les commandes et vérifiez que tout fonctionne.

Faire fonctionner un GPU NVIDIA sur Rocky Linux demande une douzaine de commandes, et lesquelles dépend de la version de Rocky et de la présence d'un bureau, de Secure Boot ou de conteneurs.

Ci-dessous, vous choisissez votre cas et vous n'obtenez que les commandes qui vous concernent. Elles viennent du guide d'installation de NVIDIA pour Rocky Linux.

Avant de commencer

Vérifiez d'abord que le système voit la carte. Si cette commande ne renvoie rien, le problème vient du matériel ou du BIOS, et aucun pilote ne le réglera :

lspci | grep -i nvidia

Les paquets de ce guide utilisent les modules noyau ouverts de NVIDIA, ceux que NVIDIA recommande pour les GPU à partir de la génération Turing. Cela couvre les cartes datacenter à partir de la T4 et les RTX série 20 et suivantes. Les plus anciennes, comme la P100 ou la V100, demandent les modules propriétaires, que ce guide ne couvre pas.

Regardez ensuite si Secure Boot est activé :

mokutil --sb-state

Si la réponse est enabled, cochez Secure Boot dans le guide. Il vous faudra un accès à la console du serveur au prochain redémarrage, car l'écran de confirmation de la clé n'apparaît pas en SSH.

Installer le pilote et CUDA

Choisissez votre version de Rocky et cochez ce qui s'applique. Les étapes se mettent à jour au fur et à mesure et chaque commande a son bouton de copie. Si vous préparez plusieurs machines, copiez le tout en script.

Version

Votre cas

Vérifier que tout fonctionne

Après le redémarrage, nvidia-smi doit afficher vos GPU avec la version du pilote. La version de CUDA indiquée en haut à droite est la plus élevée que ce pilote prend en charge, pas celle du toolkit installé, ce qui en trompe plus d'un.

Pour voir la version du module réellement chargé dans le noyau :

cat /proc/driver/nvidia/version

Le toolkit s'installe dans /usr/local/cuda et n'est pas dans le PATH. Pour utiliser le compilateur, ajoutez-le à votre profil et vérifiez :

export PATH=/usr/local/cuda/bin:$PATH
nvcc --version

Mettre à jour et supprimer le pilote

Pour mettre à jour dans la même branche, un simple sudo dnf update suffit. Quand un nouveau noyau arrive, DKMS compile le module pour lui. Mieux vaut vérifier avant de redémarrer que c'est fait, sinon le serveur revient sans GPU :

dkms status

Sur Rocky 8 et 9, passer à une autre branche du pilote oblige à changer de flux de module :

sudo dnf module reset nvidia-driver
sudo dnf module enable nvidia-driver:<flux>
sudo dnf update --allowerasing

Rocky 10 n'a pas de flux de modules. Si vous devez rester sur une branche, verrouillez-la avec dnf versionlock.

Pour supprimer le pilote sur Rocky 8 et 9 :

sudo dnf module remove --all nvidia-driver
sudo dnf module reset nvidia-driver

Et sur Rocky 10 :

sudo dnf remove nvidia-driver\*

Dans les deux cas, seul le pilote part. Le toolkit CUDA reste jusqu'à ce que vous le supprimiez vous-même.

Quand il y a plus d'un serveur

Sur un poste de travail, tout cela se fait en une matinée. Sur une baie de serveurs GPU, cela devient de la maintenance. Chaque mise à jour du noyau oblige à recompiler les modules sur tous les nœuds, CUDA et PyTorch doivent continuer à correspondre au pilote, et un nœud qui démarre sans son GPU reste à l'arrêt jusqu'à ce que quelqu'un s'en aperçoive.

C'est ce que règle RLC Pro AI, l'édition de Rocky Linux de CIQ pour les serveurs d'IA. Elle livre le pilote datacenter, CUDA, cuDNN, NCCL et PyTorch installés et testés avec son propre noyau. Nous sommes partenaire de CIQ : nous la déployons sur vos serveurs et en assurons le support. Les autres éditions sont sur notre page support Rocky Linux.

Questions fréquentes

Ai-je besoin du toolkit CUDA pour utiliser PyTorch ?

Non. Les paquets PyTorch installés avec pip apportent les bibliothèques CUDA dont ils ont besoin, le pilote suffit donc. Le toolkit sert à compiler votre propre code CUDA avec nvcc.

nvidia-smi dit qu'il ne peut pas communiquer avec le pilote NVIDIA. Que s'est-il passé ?

C'est presque toujours un nouveau noyau pour lequel le module n'a pas été compilé. Regardez dkms status, installez les en-têtes du nouveau noyau s'ils manquent et redémarrez.

Cela fonctionne-t-il aussi sur AlmaLinux ?

Oui. NVIDIA documente AlmaLinux 8, 9 et 10 avec les mêmes commandes que Rocky, flux de modules compris sur la 8 et la 9.

Quelle branche du pilote choisir ?

Le flux open-dkms installe la dernière. En production, beaucoup d'équipes verrouillent une branche, par exemple la 580, pour qu'une mise à jour n'apporte pas une version majeure sans prévenir.

SIXE

Vous avez des serveurs GPU sous Rocky ?

Dites-nous combien de serveurs vous avez, avec quels GPU et ce que vous voulez y faire tourner, et nous vous dirons si RLC Pro AI a du sens et à quoi ressemblerait la migration.

Parler à SIXE WhatsApp

Support Rocky Linux, Red Hat, SUSE et Ubuntu · sixe.be