En el lanzamiento de Python 2.0, las contribuciones de Intel utilizando Extensión Intel® para PyTorch Biblioteca de redes neuronales profundas oneAPI (unDNN) y el soporte adicional para CPU Intel® permiten a los desarrolladores optimizar el rendimiento de inferencia y entrenamiento para inteligencia artificial (IA).
(Foto: Corporación Intel)
LEA TAMBIÉN: Intel adopta un modelo de fundición interna
Como parte de la pila de compilación de PyTorch 2.0, la optimización del backend de la CPU TorchInductor realizada por Intel Extension para PyTorch y PyTorch ATen CPU logró un rendimiento de inferencia FP32 hasta 1,7 veces más rápido cuando se comparó con TorchBench, HuggingFace y timm.1 Esta actualización aporta mejoras notables en el rendimiento de los gráficos. compilación en el modo ansioso de PyTorch.
Otras optimizaciones incluyen:
- Se mejoró el paso de mensajes entre nodos de redes neuronales adyacentes para admitir la red neuronal de gráficos en PyTorch Geométrico (PyG) para mejorar la inferencia y el entrenamiento de rendimiento en CPU Intel.
- Nuevo backend de cuantificación x86: una combinación de FBGEMM (Facebook General Matrix-Matrix Multiplication) y unDNN backends: reemplaza a FBGEMM como el backend de cuantificación predeterminado para plataformas de CPU x86 para permitir un mejor rendimiento de inferencia int8 de un extremo a otro.
- Uso extendido de oneDNN con API de gráficos oneDNN maximizar la generación eficiente de código en hardware de IA identificando automáticamente las particiones de gráficos que se acelerarán mediante la fusión. Se admiten los tipos de datos BFloat16 y Float32 y solo se pueden optimizar las cargas de trabajo de inferencia; BF16 solo está optimizado en máquinas con soporte AVX512_BF16 ISA.
Más: Lea el blog de anuncio completo “Celebre PyTorch* 2.0 con nuevas funciones de rendimiento para desarrolladores de IA“.
ARTÍCULO RELACIONADO: Intel incluye placas base en el aumento de precios para el cuarto trimestre de 2022
ⓒ 2023 . .
