Superordenador de IA de NVIDIA capaz de ejecutar modelos de 200B parámetros

NVIDIA ha presentado el superordenador más pequeño para tareas de IA. Project Digits está orientado principalmente a científicos de datos, investigadores de IA y usuarios de todo el mundo que deseen probar Grace Blackwell. 

GB10 Grace Blackwell Superchip

La peculiaridad del proyecto está en GB10 Grace Blackwell Superchip que tiene un rendimiento petaflot para trabajar con enormes modelos de IA, creación de prototipos, y otras grandes tareas.

El GB10 Superchip se basa en la arquitectura Grace Blackwell y ofrece unas características de rendimiento exclusivas de 1 petaflop con precisión FP4. El diseño del chip es fruto de la colaboración entre MediaTek y NVIDIA, que han logrado resultados excepcionales y han creado un producto con conectividad, eficiencia energética y rendimiento exclusivos. Este potente rendimiento del Superchip puede obtenerse con el uso de la toma de corriente estándar.

Project DIGITS cuenta con 4 TB de almacenamiento NVMe y 128 GB de memoria coherente. Para lograr un mayor progreso en los enfoques innovadores, el superordenador puede ejecutar casi 200.000 millones de modelos de parámetros. Para duplicar el número de modelos en ejecución, es posible utilizar 2 superordenadores enlazados.

Los usuarios del Proyecto DIGITS también tienen acceso a una enorme biblioteca de software de IA que incluye marcos y varios modelos, herramientas de orquestación, creación de prototipos y también kits de desarrollo. Entre los marcos de trabajo más comunes se encuentran Jupyter y PyTorch.

Según la información actual, Project DIGITS estará disponible a finales de primavera y su precio parte de los 3.000 dólares.