LenovoThinkSystem SR680a V4
La carte NVIDIA HGX B300 avec huit GPU Blackwell Ultra de 288 Go, deux Intel Xeon 6 et huit ports 800 Gb/s, dans un 8U refroidi par air. C'est le serveur Lenovo pour entraîner et servir de grands modèles sans amener l'eau dans le centre de données.
Rack 8UCe qu'il embarque
La carte HGX est fixe ; ce qui se configure, ce sont les processeurs, la mémoire, les disques et le réseau. Voici ses limites selon le guide de Lenovo. Guide produit Lenovo Press
- Alimentation
- Huit blocs Titanium : 3 200 W en N+1 ou 3 800 W en N+N
- Refroidissement
- Par air : 6 ventilateurs avant et 15 arrière pour les GPU
- Gestion
- XClarity Controller 3, licence Premier incluse
- Systèmes
- RHEL 9.6 et Ubuntu 24.04 LTS
- Garantie
- 3 ans, avec intervention sur site le jour ouvré suivant
Entraîner et servir de très grands modèles
Les huit GPU sont sur la même carte et communiquent par NVLink à 1,8 To/s : un modèle réparti sur l'ensemble perd bien moins de temps en communication qu'en PCIe. C'est ce qu'exigent l'entraînement ou l'affinage de grands modèles, ou le service d'un modèle de plusieurs centaines de milliards de paramètres à beaucoup d'utilisateurs à la fois.
Les huit liens 800 Gb/s avec GPU Direct servent à réunir plusieurs SR680a V4 en cluster. Une machine seule n'en a pas besoin, mais si le projet doit grandir, mieux vaut les avoir dès le départ.
Ce que nous prenons en charge
Nous le livrons avec RHEL 9.6 ou Ubuntu 24.04, les systèmes que Lenovo certifie pour ce modèle, avec les pilotes NVIDIA et NCCL. Pour l'entraînement sur plusieurs nœuds, nous mettons en place Slurm ; pour servir des modèles, Kubernetes avec le GPU Operator et vLLM. Nous préparons aussi le réseau 800 Gb/s et le stockage qui alimente les GPU, car s'il est sous-dimensionné, les huit B300 passent leur temps à attendre les données.
La carte GPU
| GPU | Mémoire | Nombre |
|---|---|---|
| NVIDIA B300 (HGX B300) | 288 Go HBM3e | 8, à 1 100 W chacune |
La carte HGX B300 porte toujours ses huit GPU.
Ce qu'il faut dans votre centre de données
C'est le modèle qui demande le plus de préparation. Il occupe 8U, embarque huit alimentations de 3 200 W, ou de 3 800 W en haute tension, et chaque GPU peut consommer jusqu'à 1 100 W. Il est refroidi par air avec quinze ventilateurs arrière rien que pour les GPU : la baie doit donc disposer de beaucoup de puissance et d'une allée froide capable d'absorber cette chaleur. Avant de valider quoi que ce soit, nous vérifions avec vous la puissance par baie, les PDU, les prises et le refroidissement.
Face au reste de la famille
| Modèle | Ce qu'il embarque | Quand le choisir |
|---|---|---|
| ThinkSystem SR650a V4 | Jusqu'à 4 RTX PRO 6000 · Intel Xeon 6 | L'entrée de gamme : un à quatre GPU en 2U, avec Intel. |
| ThinkSystem SR675 V3 | Jusqu'à 8 GPU PCIe · AMD EPYC | Jusqu'à huit GPU avec AMD, pour plusieurs modèles ou équipes à la fois. |
| ThinkSystem SR680a V3 avec B200 | NVIDIA HGX B200 · 8 GPU | La HGX précédente, elle aussi refroidie par air, quand le délai ou le budget priment. |
| ThinkSystem SR780a V3 | NVIDIA HGX B200 · refroidissement liquide | Les mêmes huit B200 en 5U, si votre centre de données dispose d'un circuit d'eau. |
| ThinkSystem SR665 V3 | 4 RTX PRO 4500 · AMD EPYC | Le point d'entrée de Lenovo pour l'inférence, avec la configuration Hybrid AI 241. |
Ce que comprend la livraison
En usine
- Serveur configuré par Lenovo
- Garantie de 1 ou 3 ans selon le modèle, avec intervention sur site le jour ouvré suivant
De notre côté
- Dimensionnement des GPU, de la mémoire et du réseau à partir de votre modèle
- Montage en baie, XClarity et firmware à jour
- Système d'exploitation, pilotes NVIDIA et pile IA
- Tests avec votre charge avant la mise en production
Si vous en avez besoin
- Astreinte 24×7 avec SLA
- Extension de la garantie Lenovo : intervention en 4 ou 2 heures, ou un ou deux ans de plus
Comment nous le mettons en place
Ce qui tourne sur ces serveurs, expliqué en détail
Support et formation pour votre équipe
Questions sur le ThinkSystem SR680a V4
Quelle différence avec le SR680a V3 avec B200 ?
Les deux sont des 8U refroidis par air avec huit GPU sur carte HGX. Le SR680a V4 monte la B300, avec 288 Go par GPU contre 180 Go, des Intel Xeon 6 au lieu de Xeon de 5e génération et un réseau 800 Gb/s intégré. Le V3 avec B200 est l'option quand le délai ou le budget priment.
Faut-il un refroidissement liquide ?
Non, il est refroidi par air, mais il concentre beaucoup de chaleur : huit GPU de 1 100 W au plus. Si votre centre de données dispose d'un circuit d'eau, le SR780a V3 loge huit B200 en 5U avec refroidissement liquide.
Quels systèmes d'exploitation accepte-t-il ?
Lenovo le certifie avec Red Hat Enterprise Linux 9.6 et Ubuntu 24.04 LTS. Ce sont ceux que nous installons, avec les pilotes NVIDIA et la pile IA dont vous avez besoin.
Votre projet demande-t-il une HGX B300 ?
Dites-nous quel modèle vous voulez entraîner ou servir et de quel centre de données vous disposez : nous vous répondons avec la configuration, ce que la salle doit fournir et le délai confirmé.
Blog!
Notre mission
SIXE garantit que vos infrastructures basées sur les technologies IBM®, Red Hat®, Canonical® et SUSE® restent stables, sécurisées et optimisées aussi longtemps que vous en avez besoin.
Chez SIXE, nous nous engageons pour la durabilité. C’est pourquoi nous vous aidons à concevoir, mettre en œuvre et maintenir des solutions technologiques durables et efficaces.
