SupermicroAS-5126GS-TNRT-01-G2
Un châssis 5U prévu pour huit GPU, livré avec deux NVIDIA RTX PRO 6000 Blackwell, deux AMD EPYC 9355 et 1,5 To de mémoire, pour démarrer sans devoir changer de machine quand vos besoins grandiront.
Rack 5U · Gold Series G2La configuration exacte
- Garantie
- 3 ans pièces et main-d'œuvre
- Intervention sur site
- En option le jour ouvré suivant, pendant 3 ans
Démarrer avec deux GPU et monter à huit dans le même châssis
Avec deux RTX PRO 6000, vous disposez de 192 Go de mémoire GPU, de quoi servir un modèle d'environ 70 milliards de paramètres en 8 bits à un département, ou affiner un modèle plus petit avec vos données. Le châssis accepte jusqu'à huit GPU double largeur reliés directement aux processeurs, sans commutateur PCIe intermédiaire, et les six alimentations sont déjà montées : passer de deux à quatre ou à huit cartes revient à les insérer et à valider le firmware. Les 1,5 To de DDR5 ont aussi leur intérêt ici, car ils permettent de charger en mémoire les jeux de données de l'affinage sans repasser par le disque à chaque étape.
Le point faible de la configuration standard est le réseau, avec un seul adaptateur 10 GbE qui suffit pour l'administration et pour un pilote, mais devient juste dès que les données résident sur un stockage partagé ou que vous voulez réunir deux nœuds. Et si vous savez déjà qu'il vous faudra huit GPU dès le premier jour, la SYS-422GA-NRT-02-G2 les embarque d'origine, réseau compris.
Ce que nous prenons en charge
Nous l'installons avec Ubuntu ou RHEL, le NVIDIA GPU Operator et vLLM, ou avec Slurm si elle doit servir à lancer à tour de rôle les entraînements de plusieurs personnes. Au moment de l'étendre, nous nous chargeons de commander les GPU compatibles, de mettre à jour le BIOS et le BMC (le contrôleur de gestion à distance) et de revalider la machine avec votre charge. Si la configuration Gold ne correspond pas tout à fait, nous l'assemblons en serveur sur mesure sur le même châssis.
Ce qu'il faut dans votre centre de données
Elle occupe 5U pour 786 mm de profondeur. La fiche officielle indique six alimentations Titanium de 2 700 W en redondance 4+2, dimensionnées pour le châssis rempli de GPU même s'il n'en compte que deux aujourd'hui : mieux vaut donc prévoir dès maintenant les prises et la PDU pour la machine complète. Le refroidissement est à air, avec jusqu'à dix ventilateurs haute performance. Avec deux GPU, la salle s'en aperçoit à peine ; avec huit, la chaleur rejetée à l'arrière change nettement.
Face au reste de la famille
| Modèle | Ce qu'il embarque | Quand le choisir |
|---|---|---|
| SYS-822GS-NB3RT-01-G2 | HGX B300 8-GPU · 2 To | La HGX B300 avec Intel ; le choix si votre standard est Xeon. |
| AS-8126GS-NB3RT-01-G2 | HGX B300 8-GPU · 3 To | Même HGX B300 avec AMD, 3 To et réseau de stockage séparé. |
| SYS-212GB-FNR-01-G2 | 2x RTX PRO 6000 · 512 Go | La plus compacte : 2U pour un service à deux GPU. |
| SYS-422GA-NRT-01-G2 | 4x RTX PRO 6000 · 1 To | Quatre GPU que MIG découpe en seize instances au plus pour plusieurs équipes. |
| SYS-422GA-NRT-02-G2 | 8x RTX PRO 6000 · 1,5 To | Le maximum en PCIe : huit GPU et réseau 400 GbE. |
| SYS-C542i-11302U | Prêt pour RTX 50 · 32 Go | Tour de développement sans GPU d'origine ; vous choisissez la carte. |
| ARS-511GD-NB-LCC-01-G2 | Grace + B300 · 748 Go | Un nœud GB300 en tour pour l'équipe qui affine des modèles sans réserver de cluster. |
Ce que comprend la livraison
En usine
- Configuration assemblée et testée par Supermicro
- Garantie de 3 ans pièces et main-d'œuvre
De notre côté
- Montage en rack
- Gestion à distance (BMC) et firmware à jour
- Système d'exploitation et pile logicielle installés
- Tests avec votre charge avant la mise en production
Si vous en avez besoin
- Astreinte 24×7 avec SLA
- Intervention sur site le jour ouvré suivant pendant les 3 ans
Comment nous le mettons en place
Ce qui tourne sur ces serveurs, expliqué en détail
Questions sur la AS-5126GS-TNRT-01-G2
Combien de GPU puis-je ajouter ?
Le châssis accepte jusqu'à huit GPU double largeur : vous pouvez donc ajouter six RTX PRO 6000 Blackwell Server Edition. La liste de compatibilité de Supermicro inclut aussi la NVIDIA H200 NVL et l'AMD Instinct MI350P, mais mélanger les fabricants dans la même machine complique la pile logicielle et nous le recommandons rarement.
Quel modèle d'IA tient dans 192 Go de GPU ?
Un modèle de 70 milliards de paramètres occupe environ 140 Go en 16 bits, ce qui passe mais laisse peu de place au contexte, et environ 70 Go en 8 bits, la précision que nous utilisons généralement pour le servir. Au-delà de cette taille, ou avec beaucoup d'utilisateurs simultanés, il faut ajouter des GPU.
Le réseau standard suffit-il ?
Pour administrer la machine et pour un pilote, oui. Elle dispose d'un adaptateur 10 GbE à deux ports RJ45, qui devient juste si les modèles et les données sont lus depuis un stockage partagé ou si vous voulez relier deux nœuds. Dans ce cas, nous la montons sur mesure avec une carte plus rapide, ou nous vous proposons la SYS-422GA-NRT-02-G2, qui intègre déjà du 200 et du 400 GbE.
Le AS-5126GS-TNRT-01-G2 convient-il à votre projet
Décrivez-nous la charge et le centre de données qui l'accueillera nous vous répondons avec le prix, le délai confirmé et ce qu'il faut pour le mettre en service.
Blog!
Notre mission
SIXE garantit que vos infrastructures basées sur les technologies IBM®, Red Hat®, Canonical® et SUSE® restent stables, sécurisées et optimisées aussi longtemps que vous en avez besoin.
Chez SIXE, nous nous engageons pour la durabilité. C’est pourquoi nous vous aidons à concevoir, mettre en œuvre et maintenir des solutions technologiques durables et efficaces.
