Las CPU Nvidia Grace y Nvidia H100 se revelaron en Nvidia GTC 2022. Nvidia anunció hoy su arquitectura de GPU Hopper de próxima generación y su GPU Hopper H100, así como un nuevo chip de centro de datos que combina la GPU con una CPU de alto rendimiento, denominado “ Grace CPU Superchip” (no debe confundirse con el otro chip de Nvidia). superchip gracia).
CPU Nvidia Grace: especificaciones, precio y fecha de lanzamiento
El Nvidia GPU Superchip es el primer intento de la compañía de crear una CPU especializada para centros de datos. El chip basado en Arm contará con la asombrosa cifra de 144 núcleos y 1 terabyte por segundo de ancho de banda de memoria, según información filtrada por Intel. En realidad, combina dos CPU Grace conectadas a través de la interconexión NVLink de Nvidia, que es comparable a la arquitectura M1 Ultra de Apple.
Se espera que la nueva CPU, que contará con una rápida memoria LPDDR5X, se entregue en la primera mitad de 2023 y ofrecerá el doble de rendimiento que los servidores convencionales. Nvidia predice que el chip alcanzará 740 puntos en el punto de referencia SPECrate®2017_int_base, lo que lo colocará cara a cara con los procesadores de centro de datos AMD e Intel de gama alta (aunque algunos de ellos obtienen puntuaciones más altas, pero a costa de un menor rendimiento por vatio). ).
“Ha surgido un nuevo tipo de centro de datos: fábricas de inteligencia artificial que procesan y refinan montañas de datos para producir inteligencia. Grace CPU Superchip ofrece el mayor rendimiento, ancho de banda de memoria y plataformas de software NVIDIA en un solo chip y brillará como la CPU de la infraestructura de IA del mundo”.
-Jensen Huang, fundador y director ejecutivo de Nvidia
Este nuevo chip, en muchos sentidos, es la progresión natural del superchip y la CPU Grace Hopper anunciados el año pasado. El Superchip Grace Hopper Combina una CPU y una GPU en un único diseño de sistema en un chip. Este sistema, que también debutará en la primera mitad de 2023, incluirá una GPU de memoria de 600 GB para modelos grandes y Nvidia afirma que el ancho de banda de la memoria será 30 veces mayor que la GPU de un servidor básico. Estos procesadores, según Nvidia, están destinados a aplicaciones informáticas de alto rendimiento y IA de “escala gigantesca”.
Grace CPU Superchip es un SoC basado en Arm v9 que se puede utilizar para crear CPU o servidores independientes con hasta ocho GPU basadas en Hopper.
La compañía indica que está trabajando con “clientes líderes en HPC, supercomputación, hiperescala y nube”, lo que implica que estos sistemas eventualmente estarán disponibles en un proveedor de nube cercano.
Aún no se ha compartido información sobre el precio.
GPU Nvidia H100: especificaciones, precio y fecha de lanzamiento
Nvidia está lanzando una serie de tecnologías nuevas y mejoradas con Hopper, pero el énfasis de la arquitectura en los modelos de transformadores, que se han convertido en la técnica de aprendizaje automático preferida para muchas aplicaciones y que impulsan modelos como GPT-3 y asBERT, puede ser la más esencial. .
El nuevo Transformer Engine del chip H100 promete acelerar el entrenamiento de modelos hasta seis veces, y debido a que esta nueva arquitectura también incluye el nuevo sistema NVLink Switch de Nvidia para vincular numerosos nodos, los clústeres de servidores masivos impulsados por estos chips podrán ampliarse para soportar redes enormes con menos gastos generales.
“Los modelos de IA más grandes pueden requerir meses para entrenarse en las plataformas informáticas actuales. Eso es demasiado lento para las empresas. La inteligencia artificial, la informática de alto rendimiento y el análisis de datos están ganando complejidad y algunos modelos, como los de lenguajes grandes, alcanzan billones de parámetros. La arquitectura NVIDIA Hopper está construida desde cero para acelerar estas cargas de trabajo de IA de próxima generación con una potencia informática masiva y una memoria rápida para manejar redes y conjuntos de datos en crecimiento”.
-Dave Salvator
Los Tensor Cores de los clientes, que pueden combinar precisión de 8 bits y media precisión de 16 bits según sea necesario sin dejar de ser precisos, se utilizan en el nuevo Motor transformador.
Aún no se ha compartido información sobre el precio.
