AMD e Intel unifican optimizaciones de PyTorch para inferencia en CPU

Intel y AMD integrarán sus optimizaciones de PyTorch en una librería unificada mediante oneDNN. AMD se une a la Fundación UXL como miembro directivo, contribuyendo $20,000 anuales. Esta unificación fue recomendada por el Grupo Asesor del Ecosistema x86 (EAG).

AMD afirma que la decisión de unificar estos esfuerzos bajo oneDNN fue recomendada por el Grupo Asesor del Ecosistema x86 (EAG), una iniciativa conjunta que existe principalmente entre Intel y AMD y que se estableció en 2024. Las dos compañías han colaborado a través del EAG previamente, como con las extensiones ACE para x86 que aprendimos a principios de este año. El *backend* oneDNN se utiliza para la inferencia en CPU y está diseñado para acelerar esa carga de trabajo para los últimos chips de Intel (y ahora AMD) en *frameworks* como PyTorch. Cuando oneDNN se añadió a PyTorch como *backend* a finales de 2023, mostró una mejora de 1.24x con el tipo de datos Float32 y de 2.21x para el tipo de datos BFloat16. Desde el GitHub de oneDNN, la librería "detecta características de hardware en tiempo de ejecución" para generar *kernels* optimizados para la plataforma, además de proporcionar tipos de datos de baja precisión. También cuenta con instrucciones optimizadas para operaciones comunes de IA y aprendizaje automático, como la multiplicación de matrices y la convolución. Para los desarrolladores, este cambio simplifica el trabajo con PyTorch en diferentes sistemas, asegurando que

BITGITAL SHOP · Guayaquil, Ecuador · WhatsApp +593 96 369 1871