AI’s hidden storage bill: What inference leaves behind

MIT Technology Review Tim Rausch Langue de l'article original : Anglais

Résumé de la publication. Les conditions de MIT Technology Review ne permettent pas de reproduire l'article en intégralité : retrouvez le texte complet sur le site d'origine.

Résumé de la source (Anglais)

Ask most executives to picture the cost of AI and they’ll likely see GPUs—racks of accelerators with gigawatts of power—and a waitlist for silicon. But that picture leaves something out: Data storage costs. What happens to data after a model responds? Much of the back-end data that’s generated—from billions of daily prompts, images, and videos—needs…

Lire l'article complet

www.technologyreview.com

Voir sur MIT Technology Review (nouvel onglet)

Thèmes