AMD se acerca a alcanzar el objetivo de eficiencia energética 30 veces más rápido un año antes: los servidores de IA de vanguardia muestran una eficiencia energética excepcional

Logro de una eficiencia impresionante 

AMD ha dado pasos significativos en eficiencia energética, acercándose a su ambicioso objetivo 30x25 — una mejora de eficiencia energética de 30 veces para 2025 — un año entero antes de lo previsto. Usando sus últimos procesadores EPYC 9005 de la serie "Turin" y las GPU Instinct MI300X, AMD demostró una mejora de 28.3 veces en eficiencia de rendimiento en comparación con una configuración de 2020. 

Para realizar esta comparación, AMD probó un sistema compuesto por dos procesadores EPYC 9575F de 64 núcleos, ocho aceleradores Instinct MI300X y 2,304 GB de memoria DDR5 en el modelo de inferencia Llama3.1-70B. Aunque no se revelaron las especificaciones del sistema de 2020, probablemente usaba los procesadores EPYC 7002 y los aceleradores Instinct MI100 de AMD. Los avances arquitectónicos y las optimizaciones de software han impulsado las mejoras dramáticas, con mejoras en la capacidad de hardware como el soporte para FP8, subsistemas de memoria y la potencia computacional general. 

Innovaciones futuras y metas de sostenibilidad 

El impulso tecnológico de AMD continúa con la reciente introducción del acelerador Instinct MI325X, que cuenta con 288 GB de memoria HBM3E y una mayor capacidad de cómputo en FP8 y FP16. El próximo MI355X, basado en la arquitectura CDNA 4, está diseñado para aumentar el rendimiento pico a 9.2 PetaFLOPS usando FP4. 

Según Sam Naffziger, vicepresidente senior de AMD, la estrategia de co-diseño de hardware y software asegura que la empresa siga en el camino correcto para superar su objetivo de eficiencia 30x. Los avances de AMD subrayan su compromiso con la sostenibilidad y el rendimiento en IA y HPC, estableciendo un alto estándar para la industria. 

Este logro resalta el liderazgo de AMD en la computación eficiente en términos de energía, abriendo el camino para una innovación más ecológica en IA.