Spectral-AI de Nvidia: Aceleración MoE Extrema
Spectral-AI es el nuevo proyecto de Nvidia que utiliza núcleos RT para acelerar drásticamente la inferencia MoE en GPUs, alcanzando velocidades nunca antes vistas.
Etiquetado:
moe
1 Artículo
1