NVIDIA H100
Performance d'entraînement d'IA révolutionnaire
Dispose de cœurs Tensor de quatrième génération et d'un moteur de transformation avec une précision FP8 qui fournit une formation jusqu'à 4X plus rapide que la génération précédente pour les modèles GPT-3 (175B), accélérant considérablement le développement de grands modèles de langage et les flux de travail d'apprentissage profond.
Puissance de traitement parallèle massive
Le H100 dispose d'un nombre impressionnant de 640 cœurs Tensor et de 128 cœurs de traçage de rayon, ce qui facilite le traitement des données à grande vitesse, complété par 14 592 cœurs CUDA pour atteindre un incroyable 26 teraFLOPS sur des procédures de précision complète, ce qui le rend idéal pour les tâches de calcul les plus exigeantes.
Interconnexion avancée à haute vitesse
NVLink de quatrième génération offre 900 gigaoctets par seconde (Go/s) d'interconnexion GPU à GPU, permettant une mise à l'échelle multi-GPU transparente et un calcul distribué pour les charges de travail d'IA au niveau de l'entreprise et les applications de calcul haute performance.
Cas d'utilisation
Inférence de grands modèles
Exécutez des modèles volumineux avec une latence prévisible. Optimisez le débit, la taille des lots et les performances par watt.
Applications d'IA génératives pour le texte, l'image et l'audio.
Adaptation de l'infrastructure ML à mesure que votre clientèle s'agrandit.
