NVIDIA H200
Gran capacidad de memoria y ancho de banda
La H200 cuenta con 141 GB de memoria HBM3e con un ancho de banda de 4,8 TB/s, casi el doble de la capacidad de la H100 con 1,4 veces más ancho de banda de memoria. Esto permite procesar modelos y conjuntos de datos más grandes sin cuellos de botella en la memoria.
Rendimiento superior de IA
Ofrece 32 petaFLOPS de rendimiento de IA con una red 2 veces más rápida que la generación anterior, lo que la hace ideal para las cargas de trabajo de IA generativa, grandes modelos de lenguaje y aprendizaje profundo más exigentes.
Potencia de cálculo mejorada
Con hasta un 30 % más de núcleos CUDA y una tecnología Tensor Core mejorada, la H200 ofrece un aumento sustancial del rendimiento en comparación con la H100, lo que permite tiempos de entrenamiento más rápidos y un desarrollo más eficiente de modelos de IA en diversas aplicaciones.
Casos de uso
Inferencia de modelos grandes
Ejecute modelos masivos con una latencia predecible. Optimice el rendimiento, el tamaño de los lotes y el rendimiento por vatio.
Aplicaciones de IA generativas para texto, imágenes y audio.
Escalar la infraestructura de aprendizaje automático a medida que crece su base de clientes.
