Deep learning y modelos de entrenamiento con más de 100 mil millones de parámetros

Comparto por si es de interés de alguno.
Saludos!

https://www.microsoft.com/en-us/research/blog/zero-deepspeed-new-system-optimizations-enable-training-models-with-over-100-billion-parameters/?OCID=msr_blog_zerodeep_tw