Microsoft Azure amplía la disponibilidad de los modelos OpenAI GPT-4 y GPT-35-Turbo a más regiones
microsoft ayer Anunciado la disponibilidad ampliada del servicio Azure OpenAI. Con esta expansión, los clientes del este de Australia, el este de Canadá, el este de Estados Unidos 2, el este de Japón y el sur del Reino Unido podrán acceder a los populares modelos OpenAI GPT-4 y GPT-35-Turbo. Antes de esta expansión, el servicio Azure OpenAI estaba disponible en el este de Estados Unidos, el centro de Francia, el centro sur de Estados Unidos y Europa occidental. Durante la reciente convocatoria de resultados, Microsoft anunció que Azure OpenAI Service ahora presta servicios a más de 11.000 clientes y atrae un promedio de 100 nuevos clientes diariamente.
Microsoft también anunció hoy la disponibilidad general de la serie de máquinas virtuales (VM) Azure ND H100 v5, que incluyen las últimas GPU NVIDIA H100 Tensor Core y redes NVIDIA Quantum-2 InfiniBand. Esta nueva serie de máquinas virtuales está diseñada específicamente para cargas de trabajo de IA y ahora está disponible en las regiones de Azure del este de los Estados Unidos y del centro sur de los Estados Unidos. Aunque las máquinas virtuales están generalmente disponibles, los clientes deben registrar su interés en acceder a las nuevas máquinas virtuales.
Las máquinas virtuales ND H100 v5 incluyen las siguientes características:
- Equipadas con ocho GPU NVIDIA H100 Tensor Core, estas máquinas virtuales prometen un rendimiento del modelo de IA significativamente más rápido que las generaciones anteriores.
- Los procesadores escalables Intel Xeon de cuarta generación como base de estas máquinas virtuales, garantizan una velocidad de procesamiento óptima.
- NVIDIA Quantum-2 ConnectX-7 InfiniBand con 400 Gb/s por GPU y 3,2 Tb/s por VM de ancho de banda entre nodos garantiza un rendimiento perfecto en todas las GPU, igualando las capacidades de las supercomputadoras de mayor rendimiento a nivel mundial.
- Con PCIe Gen5 que proporciona un ancho de banda de 64 GB/s por GPU, Azure logra importantes ventajas de rendimiento entre CPU y GPU.
- La memoria DDR5 es el núcleo de estas máquinas virtuales y ofrece mayores velocidades de transferencia de datos y eficiencia, lo que las hace ideales para cargas de trabajo con conjuntos de datos más grandes.
- Con hasta seis veces más velocidad en las operaciones de multiplicación de matrices cuando se utiliza el nuevo tipo de datos de punto flotante FP8 de 8 bits en comparación con el FP16 de generaciones anteriores.
- Con hasta dos veces más velocidad en modelos de lenguaje grandes como la inferencia de modelos de extremo a extremo BLOOM 175B, lo que demuestra su potencial para optimizar aún más las aplicaciones de IA.
