Este significativo salto en rendimiento y productividad permite a los clientes elegir entre un software abierto basado en la comunidad y una red Ethernet estándar del sector para escalar sus sistemas.
"Intel Gaudi 3 destaca como la alternativa GenAI que presenta una combinación convincente de rendimiento de precio, escalabilidad del sistema y ventaja en tiempo-valor”, asegura Justin Hotard, vicepresidente ejecutivo de Intel y director general de la división de Centros de Datos e Inteligencia Artificial.
Este procesador fabricado en un proceso de 5 nanómetros ofrece avances significativos frente a su predecesor, y está diseñado para permitir la activación de todos los motores en paralelo (motor de multiplicación de matrices, núcleos procesadores de tensor y tarjetas de interfaz de red), lo que permite la aceleración necesaria para una computación de deep learning rápida.
Intel Gaudi 3 está diseñado especialmente para cómputo GenAI de alto desempeño y eficiencia con un motor informático heterogéneo compuesto por 64 TPC personalizadas y programables para IA y ocho MME, cada una de las cuales es capaz de realizar 64.000 operaciones paralelas. Además, admite múltiples tipos de datos, incluidos FP8 y BF16.
Asimismo, el acelerador cuenta con 128GB de capacidad de memoria HBMe2, 3,7TB de ancho de banda de memoria y 96MB de memoria estática de acceso aleatorio (SRAM) incorporada.
Además, cada acelerador Gaudi 3 integra 24 puertos Ethernet de 200GB y permite un escalado eficiente para admitir grandes clústeres informáticos y eliminan la dependencia de proveedores de tejidos de red propietarios, siendo capaz de escalar desde un solo nodo hasta miles.
Disponibilidad
El Intel Gaudi 3 estará disponible para los fabricantes durante el segundo trimestre de 2024 y ya cuenta con algunos clientes, entre los que destacan Dell, HPE, Lenovo y Supermicro.
Si (
No(
