Nvidia lidera nuevamente en los benchmarks de MLPerf: IA generativa a la vanguardia

Las tarjetas gráficas de Nvidia han vuelto a obtener los mejores resultados en uno de los benchmarks más prestigiosos para medir el rendimiento de los chips de IA, MLPerf. Esta vez, el enfoque principal estuvo en las aplicaciones de IA generativa, como los grandes modelos de lenguaje (LLM), en particular Llama de Meta. En las pruebas, los sistemas construidos por empresas como SuperMicro, Hewlett Packard Enterprise y Lenovo dominaron casi por completo, ocupando el primer lugar en la mayoría de las categorías.

​Nuevos escenarios de prueba para IA generativa

MLPerf actualizó sus pruebas añadiendo varios nuevos escenarios, especialmente para trabajar con grandes modelos de lenguaje. Una de las nuevas pruebas mide la velocidad de generación de tokens basada en Llama 3.1, mientras que otra evalúa el tiempo de respuesta de los chatbots basados en Llama 2. Además, se añadió una prueba para medir la velocidad de las redes neuronales gráficas, que se utilizan cada vez más en la IA generativa, por ejemplo, para predecir la estructura de proteínas.

Aunque la competencia fue limitada, AMD también mostró buenos resultados en dos pruebas con Llama 2. Sin embargo, en general, Nvidia demostró la mayor potencia en las pruebas, especialmente en la división cerrada, donde los requisitos de configuración eran los más estrictos.