Alibaba Cloud Reduce la Carga de GPU para Servicios de IA en Casi Cinco Veces
55s
2
14:45, 22.10.2025
Alibaba Cloud concluyó que los servicios de IA a menudo utilizan los recursos de manera irracional. Muchos modelos de IA consumen energía de manera desigual, lo que aumenta la carga de la GPU. Esta distribución ineficiente de la energía dificulta la escalabilidad y aumenta los gastos asociados con la infraestructura de IA.
Aegaeon: Redistribución de Recursos
En respuesta al desafío observado, Alibaba Cloud presentó el sistema Aegaeon, que redistribuye dinámicamente los recursos, resolviendo así el problema. Gracias al sistema, los módulos gráficos ahora pueden cambiar entre modelos en tiempo real, incluso durante la generación de respuestas.
Por qué Aegaeon es Ventajoso
El nuevo sistema permite que una sola GPU atienda hasta siete modelos simultáneamente, lo que es mucho más productivo en comparación con los dos o tres modelos anteriores. Con el uso de Aegaeon, los retrasos en el cambio entre tareas se redujeron en un 97%. El sistema ya se está utilizando en el mercado Bailian de Alibaba Cloud. Y esto representa un paso importante hacia una infraestructura de IA más barata y sostenible.
¿Te ha resultado útil este artículo?
Sí
No
Ofertas populares de VPS
-10%
Linux
€ 16.45 /mes
Facturado cada 12 meses
-16.2%
Linux
€ 67 /mes
Facturado cada 12 meses
-5.3%
Windows
€ 11.62 /mes
Facturado cada 12 meses
-9.7%
Windows
€ 139.49 /mes
Facturado cada 12 meses
-9.3%
Windows
€ 54.49 /mes
Facturado cada 12 meses
-9.5%
Windows
€ 74.49 /mes
Facturado cada 12 meses
-10%
Linux
€ 115.5 /mes
Facturado cada 12 meses
-10%
Linux
€ 134.99 /mes
Facturado cada 12 meses
-10%
Linux
€ 6.1 /mes
Facturado cada 12 meses
-10%
Linux
€ 8.8 /mes
Facturado cada 12 meses
