SupermicroSYS-822GS-NB3RT-01-G2

Huit GPU NVIDIA Blackwell Ultra sur une carte HGX B300, deux Xeon 6768P et 2 To de mémoire dans un châssis 8U, dans la configuration que Supermicro a déjà montée et testée.

Demander prix et délaiVoir la configuration
Supermicro SYS-822GS-NB3RT-01-G2Rack 8U · Gold Series G2

La configuration exacte

Fiche technique officielle

Face avant schématique  survolez chaque composant.
Processeur2× Intel Xeon 6768P64 cœurs · 2,4 GHz
GPUNVIDIA HGX B300 8-GPU
Mémoire2 ToDDR5-6400
Stockage1× 960 Go M.2 NVMe
Réseau8-port 800 GbE / XDR800
FormatRack 8U
Garantie
3 ans pièces et main-d'œuvre
Intervention sur site
En option  le jour ouvré suivant, pendant 3 ans
Logiciel
Supermicro Data Center Management Suite, licence par nœud

Pour entraîner de grands modèles : 2,3 To de mémoire GPU reliés par NVLink

C'est la machine d'entraînement et d'affinage des grands modèles, et aussi celle qui sert ces modèles à de nombreux utilisateurs en même temps. Les huit GPU totalisent environ 2,3 To de HBM3e et sont reliés par NVLink à l'intérieur du châssis : un modèle qui ne tient pas dans la mémoire d'un seul GPU se répartit entre tous sans passer par le réseau, et les huit ports 800 GbE, qui fonctionnent aussi en InfiniBand XDR (800 Gb/s), servent à relier plusieurs nœuds en cluster quand un seul ne suffit plus.

Sur les machines RTX PRO 6000, les GPU communiquent en PCIe ; ici, le trafic entre cartes passe par NVLink et NVSwitch, et c'est ce qui compte à l'entraînement, car à chaque étape les huit GPU doivent synchroniser leurs résultats. Pour l'inférence de modèles qui tiennent dans 768 Go, une SYS-422GA-NRT-02-G2 en 4U suffit généralement.

Ce que nous prenons en charge

Nous la livrons avec le système d'exploitation et la pile GPU installés et testés avec votre charge : RHEL ou Ubuntu, les pilotes et le NVIDIA GPU Operator sur Kubernetes ou OpenShift AI, et vLLM ou un autre serveur d'inférence par-dessus. Si les données d'entraînement résident sur Ceph ou sur un autre stockage, nous montons aussi le réseau entre les deux. Ensuite, nous assurons le support, avec les mêmes personnes qui l'ont installée.

Plus de détails sur notre façon de déployer l'inférence d'IA sur Kubernetes et Ceph.

Ce qu'il faut dans votre centre de données

Elle occupe 8U et, selon la fiche officielle, embarque six alimentations Titanium de 6 600 W en redondance 3+3, ce qui demande six prises réparties sur deux circuits indépendants pour que la redondance serve à quelque chose. Huit GPU de cette génération, les deux processeurs et les ventilateurs dépassent largement les 10 kW par châssis, et c'est ce qui détermine combien de machines tiennent dans une baie. Le refroidissement est à air, avec jusqu'à douze ventilateurs haute performance : avant la commande, nous vérifions donc avec vous la puissance par baie, les PDU et le confinement de l'allée froide.

Face au reste de la famille

ModèleCe qu'il embarqueQuand le choisir
AS-8126GS-NB3RT-01-G2HGX B300 8-GPU · 3 ToMême HGX B300 avec AMD, 3 To et réseau de stockage séparé.
AS-5126GS-TNRT-01-G22x RTX PRO 6000 · 1,5 ToDeux GPU aujourd'hui, de la place pour huit et de la mémoire à revendre.
SYS-212GB-FNR-01-G22x RTX PRO 6000 · 512 GoLa plus compacte : 2U pour un service à deux GPU.
SYS-422GA-NRT-01-G24x RTX PRO 6000 · 1 ToQuatre GPU que MIG découpe en seize instances au plus pour plusieurs équipes.
SYS-422GA-NRT-02-G28x RTX PRO 6000 · 1,5 ToLe maximum en PCIe : huit GPU et réseau 400 GbE.
SYS-C542i-11302UPrêt pour RTX 50 · 32 GoTour de développement sans GPU d'origine ; vous choisissez la carte.
ARS-511GD-NB-LCC-01-G2Grace + B300 · 748 GoUn nœud GB300 en tour pour l'équipe qui affine des modèles sans réserver de cluster.

Voir tous les serveurs IA et GPU

Ce que comprend la livraison

En usine

  • Configuration assemblée et testée par Supermicro
  • Garantie de 3 ans pièces et main-d'œuvre

De notre côté

  • Montage en rack
  • Gestion à distance (BMC) et firmware à jour
  • Système d'exploitation et pile logicielle installés
  • Tests avec votre charge avant la mise en production

Si vous en avez besoin

  • Astreinte 24×7 avec SLA
  • Intervention sur site le jour ouvré suivant pendant les 3 ans

Comment nous le mettons en place

Ce qui tourne sur ces serveurs, expliqué en détail 

Inférence IA avec Ceph, OpenStack et KubernetesTous nos services d'IA

Questions sur la SYS-822GS-NB3RT-01-G2

Quelle différence avec l'AS-8126GS-NB3RT-01-G2 ?

Elles embarquent la même carte HGX B300 à 8 GPU. L'AS-8126GS remplace les Xeon par deux AMD EPYC 9575F, porte la mémoire à 3 To et ajoute deux cartes 200 GbE à deux ports chacune, en plus des huit ports 800 GbE, pratiques pour isoler le trafic de stockage. La SYS-822GS est celle qui convient si le reste de votre parc est Intel.

Que faut-il prévoir dans le datacenter ?

Un châssis 8U par serveur, six prises pour ses alimentations de 6 600 W et un refroidissement capable d'absorber plus de 10 kW par machine. Avant le devis, nous vérifions avec vous la puissance par baie, les PDU et la température de la salle, car c'est ce qui retarde le plus souvent une installation de ce type.

Puis-je commencer avec un nœud et grandir ?

Oui. Les huit ports 800 GbE sont là pour ça : relier des nœuds HGX en un cluster où les GPU d'une machine dialoguent avec ceux d'une autre via le réseau. Avec deux ou trois nœuds, un seul commutateur suffit ; au-delà, nous concevons avec vous le réseau et le stockage.

Le SYS-822GS-NB3RT-01-G2 convient-il à votre projet 

Décrivez-nous la charge et le centre de données qui l'accueillera  nous vous répondons avec le prix, le délai confirmé et ce qu'il faut pour le mettre en service.

Demander prix et délaiWhatsApp+34 91 198 02 43