Introducción a la revolucionaria GPU NVIDIA Blackwell
En la reciente GTC, NVIDIA presentó Blackwell, su innovadora GPU diseñada específicamente para la Inteligencia Artificial, que no solo es la más grande del mundo, sino que también supera en rendimiento a su predecesora, la NVIDIA H100. Esta nueva tarjeta gráfica es el primer diseño multichip (MCM) de NVIDIA y está acompañada de una CPU Arm Grace para formar una potente plataforma.
Las características impresionantes de NVIDIA Blackwell
La GPU NVIDIA Blackwell está conformada por 208.000 millones de transistores, lo que representa un aumento sustancial en comparación con los 128.000 millones del chip NVIDIA Hopper. Además, cuenta con cuatro veces más memoria integrada, otorgándole hasta 192 GB de memoria HBM3e y un ancho de banda de 8 TB/s. Todo esto gracias a la litografía 4NP de 4nm de TSMC.
En su interior, Blackwell incluye un total de 20.480 CUDA Cores, chips de memoria HBM3e de 8 capas y un sorprendente pico de TDP de 700W. Esto la coloca al mismo nivel de consumo energético que las GPU NVIDIA H100 y H200.
Esta nueva GPU logra un rendimiento en IA de 20 petaFLOPS, lo que la hace 5 veces más rápida que el modelo NVIDIA H100, hasta ahora el chip tope de gama para trabajos de inteligencia artificial. Al combinar dos chips Blackwell completos con una CPU Grace, se crea el poderoso superchip NVIDIA HB200, el cual integra una CPU con 72 núcleos Arm Neoverse V2 y una interconexión NVLink-C2C de 900 GB/s.
| Rendimiento NVIDIA Blackwell vs. NVIDIA Hopper | Velocidad |
|---|---|
| 20 PFLOPS FP8 | 2.5x más rápido |
| 20 PFLOPS FP6 | 2.5x más rápido |
| 40 PFLOPS FP4 | 5.0x más rápido |
| 740B Parameters | 6.0x más rápido |
| 34T Parameters/sec | 5.0x más rápido |
| 7.2 TB/s NVLINK | 4.0x más rápido |
El chip gráfico más avanzado del mundo
Como resultado de todas estas innovaciones, NVIDIA Blackwell ha sido reconocida como el chip gráfico más potente del mundo en el campo de la inteligencia artificial. Esta arquitectura utiliza los Transformer Engine de 2ª Generación, que admiten el doble de tamaños de computación y modelos con nuevas funciones de inferencia de IA en coma flotante de 4 bits. La 5ª Generación de la interconexión NVIDIA NVLink permite un rendimiento bidireccional de 1,8 TB/s por GPU, lo que garantiza una comunicación de alta velocidad entre hasta 576 GPU para aplicaciones más completas de LLM.
Además, NVIDIA Blackwell cuenta con mantenimiento preventivo impulsado por IA para garantizar fiabilidad, disponibilidad y facilidad de mantenimiento. Este sistema utiliza algoritmos inteligentes para detectar problemas potenciales y mantener los sistemas funcionando sin interrupciones durante semanas o incluso meses, reduciendo así los costes operativos.
El superchip NVIDIA HB200 es un componente esencial del NVIDIA GB200 NVL72, un sistema multinodo a escala de bastidor con refrigeración líquida para las cargas de trabajo más exigentes. Combina 36 superchips Grace Blackwell, interconectados mediante NVLink de quinta generación, con acceso a 384 GB de memoria HBM3e y unidades de procesamiento de datos NVIDIA BlueField-3 para la aceleración de redes en la nube, almacenamiento componible y seguridad de confianza cero. Gracias a sus capacidades, el GB200 NVL72 logra hasta 30 veces más rendimiento que las GPU NVIDIA H100 en tareas de inferencia LLM y reduce hasta 25 veces el coste y consumo de energía.
