Aumento de DL

Nombre comercial de Intel

Deep Learning Boost ( DL Boost ) de Intel es un nombre comercial para las funciones de arquitectura de conjunto de instrucciones (ISA) en x86-64 diseñadas para mejorar el rendimiento en tareas de aprendizaje profundo, como entrenamiento e inferencia. ^[1]

Características

DL Boost consta de dos conjuntos de funciones:

• AVX-512 VNNI , 4VNNIW o AVX-VNNI : acumulación múltiple rápida principalmente para redes neuronales convolucionales .
• AVX-512 BF16: números de punto flotante bfloat16 de menor precisión para un cálculo generalmente más rápido. Las operaciones proporcionadas incluyen conversión a/desde float32 y producto escalar .

Las funciones de DL Boost se introdujeron en la arquitectura Cascade Lake .

Una prueba comparativa basada en TensorFlow ejecutada en Google Cloud Platform Compute Engine muestra un rendimiento mejorado y un costo reducido en comparación con las CPU y GPU anteriores, especialmente para tamaños de lotes pequeños. ^[2]

Notas

1. Descripción general del producto "Intel Deep Learning Boost" [1], pág. 3
2. Samantha Gurriero, "Optimización del aprendizaje automático: ¿cuál es el mejor hardware en GCP?", Datatonic , [2]

Enlaces externos

• Impulso al aprendizaje profundo en Intel
• Andres Rodrigues et al., "Inferencia y entrenamiento de aprendizaje profundo de precisión numérica inferior", documento técnico de Intel [3]
• Intel y ML (2017), de la División de Relaciones con Desarrolladores de Intel