Todas las Noticias en Pel√≠culas, Avances de Pel√≠culas y Rese√Īas.

Microsoft Azure amplía la disponibilidad de los modelos OpenAI GPT-4 y GPT-35-Turbo a más regiones

Microsoft Azure amplía la disponibilidad de los modelos OpenAI GPT-4 y GPT-35-Turbo a más regiones

microsoft ayer Anunciado la disponibilidad ampliada del servicio Azure OpenAI. Con esta expansión, los clientes del este de Australia, el este de Canadá, el este de Estados Unidos 2, el este de Japón y el sur del Reino Unido podrán acceder a los populares modelos OpenAI GPT-4 y GPT-35-Turbo. Antes de esta expansión, el servicio Azure OpenAI estaba disponible en el este de Estados Unidos, el centro de Francia, el centro sur de Estados Unidos y Europa occidental. Durante la reciente convocatoria de resultados, Microsoft anunció que Azure OpenAI Service ahora presta servicios a más de 11.000 clientes y atrae un promedio de 100 nuevos clientes diariamente.

Microsoft tambi√©n anunci√≥ hoy la disponibilidad general de la serie de m√°quinas virtuales (VM) Azure ND H100 v5, que incluyen las √ļltimas GPU NVIDIA H100 Tensor Core y redes NVIDIA Quantum-2 InfiniBand. Esta nueva serie de m√°quinas virtuales est√° dise√Īada espec√≠ficamente para cargas de trabajo de IA y ahora est√° disponible en las regiones de Azure del este de los Estados Unidos y del centro sur de los Estados Unidos. Aunque las m√°quinas virtuales est√°n generalmente disponibles, los clientes deben registrar su inter√©s en acceder a las nuevas m√°quinas virtuales.

Las máquinas virtuales ND H100 v5 incluyen las siguientes características:

  • Equipadas con ocho GPU NVIDIA H100 Tensor Core, estas m√°quinas virtuales prometen un rendimiento del modelo de IA significativamente m√°s r√°pido que las generaciones anteriores.
  • Los procesadores escalables Intel Xeon de cuarta generaci√≥n como base de estas m√°quinas virtuales, garantizan una velocidad de procesamiento √≥ptima.
  • NVIDIA Quantum-2 ConnectX-7 InfiniBand con 400 Gb/s por GPU y 3,2 Tb/s por VM de ancho de banda entre nodos garantiza un rendimiento perfecto en todas las GPU, igualando las capacidades de las supercomputadoras de mayor rendimiento a nivel mundial.
  • Con PCIe Gen5 que proporciona un ancho de banda de 64 GB/s por GPU, Azure logra importantes ventajas de rendimiento entre CPU y GPU.
  • La memoria DDR5 es el n√ļcleo de estas m√°quinas virtuales y ofrece mayores velocidades de transferencia de datos y eficiencia, lo que las hace ideales para cargas de trabajo con conjuntos de datos m√°s grandes.
  • Con hasta seis veces m√°s velocidad en las operaciones de multiplicaci√≥n de matrices cuando se utiliza el nuevo tipo de datos de punto flotante FP8 de 8 bits en comparaci√≥n con el FP16 de generaciones anteriores.
  • Con hasta dos veces m√°s velocidad en modelos de lenguaje grandes como la inferencia de modelos de extremo a extremo BLOOM 175B, lo que demuestra su potencial para optimizar a√ļn m√°s las aplicaciones de IA.
Recomendado:  La Conferencia Hospital Management Asia 2023 regresa para abrazar el cambio para una atenci√≥n m√©dica m√°s eficiente