NVIDIA H200
Capacité de mémoire et bande passante massives
Le H200 dispose de 141 Go de mémoire HBM3e avec une bande passante de 4,8 To/s, soit près du double de la capacité du H100 avec 1,4 fois plus de bande passante de mémoire. Cela permet de traiter des modèles et des ensembles de données plus volumineux sans goulots d'étranglement de la mémoire.
Performance d'IA supérieure
Offre 32 pétaFLOPS de performances d'IA avec une mise en réseau 2X plus rapide que la génération précédente, ce qui la rend idéale pour l'IA générative la plus exigeante, les grands modèles de langage et les charges de travail d'apprentissage profond.
Puissance de calcul améliorée
Avec jusqu'à 30 % de cœurs CUDA en plus et une technologie Tensor Core améliorée, le H200 offre une augmentation substantielle des performances par rapport au H100, permettant des temps d'entraînement plus rapides et un développement de modèles d'IA plus efficace dans diverses applications.
Cas d'utilisation
Inférence de grands modèles
Exécutez des modèles volumineux avec une latence prévisible. Optimisez le débit, la taille des lots et les performances par watt.
Applications d'IA génératives pour le texte, l'image et l'audio.
Adaptation de l'infrastructure ML à mesure que votre clientèle s'agrandit.
