Ouvrir le menu principal

MacGeneration

Recherche

Nvidia lance une carte avec 188 Go de RAM pour accélérer les IA conversationnelles

Pierre Dandumont

vendredi 24 mars 2023 à 13:30 • 23

Matériel

Vous avez dû le voir, les IA conversationnelles comme ChatGPT — la version 4 est arrivée récemment — demandent une très grande puissance de calcul lors de l'entraînement initial. Et surtout, le nombre de paramètres (175 milliards pour les modèles GPT-3) nécessite une quantité de mémoire très élevée. Pour ce type d'usage, Nvidia a donc annoncé la H100 NVL, en indiquant que cette génération est jusqu'à 12x plus rapide que la précédente sur les tâches liées à l'IA.

Le GPU Hopper, présent en double dans la carte.

Une sorte de GPU mais sans sortie vidéo

Techniquement, les cartes de la famille H100 sont des GPU, mais pensés uniquement pour du calcul, sans réelles possibilités d'affichage. La nouvelle carte est un véritable monstre : elle prend quatre emplacements (au sens physique du terme, c'est-à-dire la place de quatre cartes classiques) et nécessite deux emplacements PCI-Express, donc deux connecteurs. En effet, cette carte contient littéralement deux cartes PCI-Express reliées par la technologie NVLink 4, qui offre une bande passante de 600 Go/s.

Tous les détails ne sont pas connus, mais les GPU devraient utiliser la majorité des unités — donc 2x 16 896 — pour une puissance maximale de l'ordre de 135 téraflops (2x 67 téraflops). Elle impressionne surtout sur la mémoire : alors que les autres H100 sont bridées au niveau de la mémoire HBM3, cette version NVL propose (presque) le maximum possible.

188 Go de RAM

Les versions disponibles actuellement se limitent à 80 Go sur un bus 5 120 bits, avec une puce désactivée — sur les six possibles — pour augmenter le rendement. La H100 NVL, elle, contient 2x 94 Go de RAM sur un bus 6 144 bits, pour une bande passante de 3,9 To/s par carte. La raison de la perte de 2 Go sur le maximum théorique n'est pas connue, mais la valeur impressionne tout de même. Le lien NVLink 4 autorise l'unification de la mémoire du point de vue du logiciel, ce qui permet au système de voir une carte avec 188 Go de RAM au total, avec une bande passante cumulée de 7,8 To/s.

On peut évidemment en mettre plusieurs par serveurs.

Le TDP des cartes est élevé et configurable, en fonction de la possibilité de refroidissement du serveur : 350 W ou 400 W par carte, donc jusqu'à 800 W au total.

Ce type de cartes vise évidemment un public très particulier, et si le prix n'est pas connu, il est probablement très élevé compte tenu des choix techniques. La version PCI-Express classique, dotée de 80 Go de RAM dans une variante deux fois moins rapide que la HBM3 choisie ici, se négocie par exemple aux alentours de 28 000 $. Notons enfin que les pénuries de GPU attendues à cause de l'essor des IA ne devraient pas se régler avec ce type de cartes, étant donné la cible et les prix attendus…

L

L'essor des IA pourrait créer une nouvelle pénurie de GPU

Rejoignez le Club iGen

Soutenez le travail d'une rédaction indépendante.

Rejoignez la plus grande communauté Apple francophone !

S'abonner

Apple envisage de remplacer le moteur de Siri par celui de ChatGPT ou Claude AI

30/06/2025 à 23:00

• 30


Comment faire face à la déferlante des fausses alertes bancaires et colis frauduleux 📍

30/06/2025 à 20:44

• 0


Pixelmator Pro s’enrichit de certaines fonctions Apple Intelligence

30/06/2025 à 20:09

• 6


L'option Lieux visités d'iOS 26 serait absente en Europe

30/06/2025 à 19:49

• 125


MacBook : jusqu’où Apple ira-t-elle pour casser les prix ?

30/06/2025 à 19:40

• 11


Un MacBook avec une puce A18 Pro repéré dans du code d’Apple

30/06/2025 à 17:36

• 31


Proton Pass ne se limite plus aux mots de passe

30/06/2025 à 15:04

• 17


Le MacBook Air M2 de retour à 749 € et 30 € de cash back !

30/06/2025 à 13:27

• 11


« F1 » : un démarrage en trombe au box-office et déjà un goût de victoire pour Apple

30/06/2025 à 13:15

• 34


Evoluent jette l'éponge pour les pilotes Mac de ses souris ergonomiques

30/06/2025 à 11:43

• 24


Extensions Safari : Apple lève une barrière majeure pour les développeurs

30/06/2025 à 11:13

• 6


Vision Pro, Vision Air et lunettes connectées : Ming-Chi Kuo dévoile le programme d’Apple jusqu’en 2029

30/06/2025 à 08:48

• 11


Apple lancerait en 2026 un MacBook avec un processeur d'iPhone

30/06/2025 à 08:12

• 111


Et si Apple sortait un anneau connecté, pour relancer ses wearables ? La semaine Apple

29/06/2025 à 21:00

• 24


Comment les aspirateurs robots Matter prennent leurs quartiers dans la Maison d’Apple

29/06/2025 à 18:38

• 11


Le grand tapis de souris Logitech en promotion à 6,99 € au lieu de 22 €

29/06/2025 à 08:22

• 17