Alibaba Cloud Reduce la Carga de GPU para Servicios de IA en Casi Cinco Veces

watch 55s
views 2

14:45, 22.10.2025

Contenido del artículo
arrow

  • Aegaeon: Redistribución de Recursos
  • Por qué Aegaeon es Ventajoso

Alibaba Cloud concluyó que los servicios de IA a menudo utilizan los recursos de manera irracional. Muchos modelos de IA consumen energía de manera desigual, lo que aumenta la carga de la GPU. Esta distribución ineficiente de la energía dificulta la escalabilidad y aumenta los gastos asociados con la infraestructura de IA.

Aegaeon: Redistribución de Recursos

En respuesta al desafío observado, Alibaba Cloud presentó el sistema Aegaeon, que redistribuye dinámicamente los recursos, resolviendo así el problema. Gracias al sistema, los módulos gráficos ahora pueden cambiar entre modelos en tiempo real, incluso durante la generación de respuestas.

Por qué Aegaeon es Ventajoso

El nuevo sistema permite que una sola GPU atienda hasta siete modelos simultáneamente, lo que es mucho más productivo en comparación con los dos o tres modelos anteriores. Con el uso de Aegaeon, los retrasos en el cambio entre tareas se redujeron en un 97%. El sistema ya se está utilizando en el mercado Bailian de Alibaba Cloud. Y esto representa un paso importante hacia una infraestructura de IA más barata y sostenible.

Compartir

¿Te ha resultado útil este artículo?

Ofertas populares de VPS

-29.4%

CPU
CPU
4 Xeon Cores
RAM
RAM
2 GB
Space
Space
30 GB SSD
Bandwidth
Bandwidth
2 TB
KVM-SSD 2048 Metered Linux

17 /mes

/mes

Facturado cada 12 meses

-10%

CPU
CPU
6 Epyc Cores
RAM
RAM
8 GB
Space
Space
100 GB NVMe
Bandwidth
Bandwidth
Unlimited
Keitaro KVM 8192
OS
CentOS
Software
Software
Keitaro

28.99 /mes

/mes

Facturado cada 12 meses

-10.2%

CPU
CPU
6 Xeon Cores
RAM
RAM
16 GB
Space
Space
150 GB SSD
Bandwidth
Bandwidth
100 Mbps
DDoS Protected SSD-KVM 16384 Linux

123 /mes

/mes

Facturado cada 6 meses

-7.1%

CPU
CPU
4 Xeon Cores
RAM
RAM
4 GB
Space
Space
100 GB HDD
Bandwidth
Bandwidth
Unlimited
wKVM-HDD 4096 Windows

21 /mes

/mes

Facturado cada 12 meses

-9.3%

CPU
CPU
6 Epyc Cores
RAM
RAM
16 GB
Space
Space
150 GB NVMe
Bandwidth
Bandwidth
Unlimited
wKVM-NVMe 16384 Windows

54.49 /mes

/mes

Facturado cada 12 meses

-10.1%

CPU
CPU
3 Xeon Cores
RAM
RAM
1 GB
Space
Space
40 GB HDD
Bandwidth
Bandwidth
300 Gb
KVM-HDD HK 1024 Linux

4.97 /mes

/mes

Facturado cada 12 meses

-9.9%

CPU
CPU
4 Xeon Cores
RAM
RAM
2 GB
Space
Space
60 GB HDD
Bandwidth
Bandwidth
300 Gb
KVM-HDD HK 2048 Linux

6.26 /mes

/mes

Facturado cada 12 meses

-10%

CPU
CPU
2 Epyc Cores
RAM
RAM
1 GB
Space
Space
10 GB NVMe
Bandwidth
Bandwidth
Unlimited
KVM-NVMe 1024 Linux

7.1 /mes

/mes

Facturado cada 12 meses

-10%

CPU
CPU
2 Xeon Cores
RAM
RAM
512 MB
Space
Space
10 GB SSD
Bandwidth
Bandwidth
Unlimited
KVM-SSD 512 Linux

5.2 /mes

/mes

Facturado cada 12 meses

-10%

CPU
CPU
6 Epyc Cores
RAM
RAM
8 GB
Space
Space
100 GB NVMe
Bandwidth
Bandwidth
Unlimited
aiKVM-NVMe 8192 Linux

26.88 /mes

/mes

Facturado cada 12 meses

Otros artículos sobre este tema

cookie

¿Acepta las cookies y la política de privacidad?

Utilizamos cookies para asegurar que damos la mejor experiencia en nuestro sitio web. Si continúa sin cambiar la configuración, asumiremos que acepta recibir todas las cookies del sitio web HostZealot.