Serveurs IA et GPU Supermicro avec NVIDIA RTX PRO 6000 Blackwell et HGX B300
Les configurations Gold Series de Supermicro pour l'IA, de la tour de développement à la HGX B300 à huit GPU, que nous installons dans votre datacenter avec la pile logicielle prête pour votre charge.
AS-8126GS-NB3RT-01-G2Les 8 modèles
8USYS-822GS-NB3RT-01-G2HGX B300 8-GPU · 2 To8UAS-8126GS-NB3RT-01-G2HGX B300 8-GPU · 3 To
5UAS-5126GS-TNRT-01-G22x RTX PRO 6000 · 1,5 To
2USYS-212GB-FNR-01-G22x RTX PRO 6000 · 512 Go
4USYS-422GA-NRT-01-G24x RTX PRO 6000 · 1 To
4USYS-422GA-NRT-02-G28x RTX PRO 6000 · 1,5 To
TourSYS-C542i-11302UPrêt pour RTX 50 · 32 Go
TourARS-511GD-NB-LCC-01-G2Grace + B300 · 748 GoComparatif
| Modèle | Processeur | GPU | Mémoire | Stockage | Réseau | Format |
|---|---|---|---|---|---|---|
| SYS-822GS-NB3RT-01-G2 | 2× Intel Xeon 6768P (64C/2,4 GHz) | NVIDIA HGX B300 8-GPU | 2 To DDR5-6400 | 1× 960 Go M.2 NVMe | 8-port 800 GbE / XDR800 | Rack 8U |
| AS-8126GS-NB3RT-01-G2 | 2× AMD EPYC 9575F (64C/3,3 GHz) | NVIDIA HGX B300 8-GPU | 3 To DDR5-6400 | 2× 1,9 To M.2 NVMe | 2× 2-port 200 GbE / NDR200 + 8-port 800 GbE / XDR800 | Rack 8U |
| AS-5126GS-TNRT-01-G2 | 2× AMD EPYC 9355 (32C/3,55 GHz) | 2× NVIDIA RTX PRO 6000 Blackwell Server Edition | 1,5 To DDR5-6400 | 1× 960 Go M.2 NVMe | 1× dual 10 GbE RJ45 | Rack 5U |
| SYS-212GB-FNR-01-G2 | 1× Intel Xeon 6731P (32C/2,5 GHz) | 2× NVIDIA RTX PRO 6000 Blackwell Server Edition | 512 Go DDR5-6400 | 1× 960 Go M.2 NVMe + 2× 3,84 To E1.S | 1× dual 10 GbE RJ45 | Rack 2U |
| SYS-422GA-NRT-01-G2 | 2× Intel Xeon 6960P (72C/2,7 GHz) | 4× NVIDIA RTX PRO 6000 Blackwell Server Edition | 1 To DDR5-6400 | 1× 960 Go M.2 NVMe + 2× 3,84 To E1.S | 1× dual 10 GbE RJ45 | Rack 4U |
| SYS-422GA-NRT-02-G2 | 2× Intel Xeon 6960P (72C/2,7 GHz) | 8× NVIDIA RTX PRO 6000 Blackwell Server Edition | 1,5 To DDR5-6400 | 1× 960 Go M.2 NVMe + 2× 3,84 To E1.S | 1× dual 10 GbE RJ45 + 1× 2-port 200 GbE/NDR200 + 2× 1-port 400 GbE | Rack 4U |
| SYS-C542i-11302U | 1× Intel Core Ultra 7 265 (20C/5,3 GHz) | Prêt pour NVIDIA RTX 5070 / 5080 / 5090 (en option) | 32 Go DDR5-5600 | 1 To NVMe | 1 GbE, Thunderbolt 4 / USB4, USB-C 20G en façade, Wi-Fi 7, Bluetooth 5.4 | Tour |
| ARS-511GD-NB-LCC-01-G2 | NVIDIA Grace 72 cœurs Arm Neoverse V2 | NVIDIA Blackwell Ultra (B300) | 748 Go de mémoire cohérente (496 Go LPDDR5X ECC + 252 Go HBM3e ECC) | 2× 1,92 To M.2 NVMe + 2× 960 Go M.2 NVMe | 2× QSFP 400 GbE, NVIDIA ConnectX-8 SuperNIC | Tour |
Choisir un serveur IA selon le modèle que vous allez exécuter
Le premier chiffre à regarder est la mémoire GPU, car le modèle doit y tenir en entier avec une marge pour le cache de contexte. Une règle utile : chaque milliard de paramètres occupe environ 2 Go en 16 bits et 1 Go en 8 bits. Un modèle de 70 milliards a donc besoin d'environ 70 Go rien que pour les poids en 8 bits, et ce besoin grandit avec la longueur des conversations et le nombre d'utilisateurs simultanés. Chaque NVIDIA RTX PRO 6000 Blackwell Server Edition apporte 96 Go.
La SYS-212GB-FNR-01-G2 et l'AS-5126GS-TNRT-01-G2 sont livrées avec deux cartes et 192 Go, la première en 2U pour un service précis, la seconde en 5U avec de la place pour huit ; la SYS-422GA-NRT-01-G2 passe à quatre cartes et 384 Go, et la SYS-422GA-NRT-02-G2 atteint huit cartes et 768 Go, avec un réseau 400 GbE. Au-dessus se trouvent la SYS-822GS-NB3RT-01-G2 et l'AS-8126GS-NB3RT-01-G2, toutes deux avec la HGX B300 : huit GPU et environ 2,3 To de HBM3e au total.
L'autre question est de savoir si vous allez servir des modèles ou les entraîner. Pour l'inférence, les RTX PRO 6000 reliées en PCIe offrent de très bonnes performances et se découpent en instances pour plusieurs équipes. Pour entraîner ou affiner de grands modèles, les GPU échangent des données en permanence, et la HGX B300 s'impose alors, car NVLink relie ses huit GPU bien plus vite que le PCIe.
Et tout ne doit pas finir dans une baie. La SYS-C542i-11302U est une tour sans GPU d'origine qui permet à un développeur de tester des modèles sur son bureau avec une RTX 5090, et l'ARS-511GD-NB-LCC-01-G2, la Super AI Station avec NVIDIA GB300, met 748 Go de mémoire partagée entre CPU et GPU à la disposition d'une équipe qui développe et affine des modèles sans dépendre d'un cluster.
Ce qu'il faut dans votre centre de données
Un serveur à plusieurs GPU de cette génération est ce qui exige le plus d'un datacenter : de nombreuses alimentations de forte puissance par châssis, qui demandent des circuits et des PDU dimensionnés en conséquence, et une chaleur concentrée qui oblige à revoir l'allée froide et la puissance disponible par baie. À titre de référence, selon leurs fiches officielles, une HGX B300 embarque six alimentations de 6 600 W et une SYS-422GA quatre de 3 200 W. Si votre datacenter ne peut pas accueillir une HGX, nous vous proposons la configuration qui y trouve sa place. Avant la commande, nous vérifions avec vous les watts par baie, les circuits et le refroidissement.
Pourquoi l'acheter chez nous
Chez nous, la machine arrive installée, et si un jour elle tombe en panne, vous appelez l'équipe qui l'a mise en service.
Nous la montons en rack, configurons la gestion à distance (BMC) et installons RHEL, SUSE, Ubuntu ou Proxmox, avec ce qui doit tourner dessus déjà installé et testé un cluster Ceph, OpenStack, Kubernetes avec le NVIDIA GPU Operator ou Slurm.
En cas de panne, vous parlez aux personnes qui connaissent la machine pour l'avoir mise en service et, si besoin, une astreinte 24×7 avec SLA contractuel est disponible. C'est le même support indépendant que nous assurons sur des parcs IBM Power, Linux et Ceph.
S'il vous faut une autre mémoire, d'autres disques ou un autre réseau, nous partons du même modèle de base. Avec le configurateur de serveur sur mesure, vous nous indiquez vos besoins et nous vous rappelons en moins de 24 heures avec une proposition.
Nous sommes IBM Business Partner et partenaire de Red Hat, SUSE et Canonical, ce qui compte quand le serveur doit s'intégrer à un environnement avec des systèmes et des licences déjà en place.
Nous travaillons dans toute l'Europe et répondons dans ces trois langues, support compris si votre entreprise a des bureaux à Bruxelles et à Madrid, c'est la même équipe qui intervient sur les deux sites.
Comment nous le mettons en place
Ce qui tourne sur ces serveurs, expliqué en détail
Questions fréquentes
Quel serveur faut-il pour exécuter un LLM en local ?
Cela dépend de la taille du modèle et du nombre de personnes qui vont l'utiliser. Pour tester et développer, une tour comme la SYS-C542i-11302U avec une RTX 5090 suffit ; pour servir un département avec un modèle d'environ 70 milliards de paramètres, une machine à deux RTX PRO 6000 comme la SYS-212GB-FNR-01-G2 ; au-delà, on ajoute des GPU jusqu'aux huit de la SYS-422GA-NRT-02-G2 ou jusqu'à la HGX B300.
RTX PRO 6000 Blackwell ou HGX B300 ?
Les RTX PRO 6000 Blackwell Server Edition passent par le PCIe, s'installent par paires jusqu'à huit par châssis et couvrent la plupart des projets d'inférence. La HGX B300 relie huit GPU Blackwell Ultra par NVLink avec environ 2,3 To de HBM3e au total : c'est l'option pour entraîner de grands modèles ou servir les plus grands à de nombreux utilisateurs, en contrepartie de 8U et d'un datacenter préparé pour elle.
Peut-on ajouter des GPU plus tard ?
Dans les châssis RTX PRO 6000, oui : l'AS-5126GS-TNRT-01-G2 et les SYS-422GA acceptent jusqu'à huit GPU double largeur, et la SYS-212GB-FNR-01-G2 jusqu'à quatre. Nous nous occupons des cartes, du firmware et de la revalidation de la machine. Sur la HGX B300, les huit GPU sont soudés à la carte : ce qu'on étend, c'est le nombre de nœuds.
Le refroidissement liquide est-il nécessaire ?
Dans cette gamme, seule la Super AI Station GB300 en est équipée, avec un circuit fermé à l'intérieur de la machine. Les serveurs rack, HGX B300 comprise, sont refroidis par air selon leurs fiches officielles, ce qui exige tout de même une allée froide qui fonctionne et une vérification de la charge thermique par baie.
Lequel convient à votre projet
Décrivez-nous la charge et le centre de données qui l'accueillera nous vous répondons avec le prix, le délai confirmé et ce qu'il faut pour le mettre en service.
Blog!
Notre mission
SIXE garantit que vos infrastructures basées sur les technologies IBM®, Red Hat®, Canonical® et SUSE® restent stables, sécurisées et optimisées aussi longtemps que vous en avez besoin.
Chez SIXE, nous nous engageons pour la durabilité. C’est pourquoi nous vous aidons à concevoir, mettre en œuvre et maintenir des solutions technologiques durables et efficaces.
