How Deepgram optimized voice AI at scale with AWS Trainium

AWS Machine Learning Pierre Lienhart Lingua dell'articolo originale: Inglese

Riassunto della pubblicazione. Le condizioni di AWS Machine Learning non consentono la riproduzione integrale dell'articolo: leggi il testo completo sul sito originale.

Riassunto della fonte (Inglese)

Deepgram worked with the AWS Forward Deployed Engineering team to port its Nova-3 speech-to-text model to AWS Trainium2 for offline batch inference. This post covers porting to the AWS Neuron stack, kernel-level tuning, a data-parallel Rust runtime, and the throughput and cost results on batch transcription.

Leggi l'articolo completo

aws.amazon.com

Leggi su AWS Machine Learning (nuova scheda)