Imprese e partnership Strumenti per sviluppatori Infrastruttura e hardware

Fault tolerant distributed training on Amazon EKS using NVRx

AWS Machine Learning Aravind Neelakantan Lingua dell'articolo originale: Inglese

Riassunto della pubblicazione. Le condizioni di AWS Machine Learning non consentono la riproduzione integrale dell'articolo: leggi il testo completo sul sito originale.

Riassunto della fonte (Inglese)

Integrate NVIDIA Resiliency Extension (NVRx) into PyTorch FSDP training on Amazon EKS to overlap checkpoint I/O with training and recover from GPU faults in seconds. This post covers async checkpointing, in-process restart, and ft_launcher in-job restart, with H100 benchmarks at 2 to 8 nodes showing 99%+ training efficiency and second-scale recovery.

Leggi l'articolo completo

aws.amazon.com

Leggi su AWS Machine Learning (nuova scheda)

Argomenti

Condividi

X (nuova scheda) LinkedIn (nuova scheda) Facebook (nuova scheda) Email

Articoli correlati