Aller au contenu
Hugging Face Blog·· 2 hsélectionAI Score62

Ai2 remplace son ordonnanceur par priorité par des budgets GPU et un fair-share hiérarchique

Impactful scheduling for GPU clusters

AI Introduction

L'équipe AI Infrastructure d'Ai2 a remplacé un ordonnanceur par priorité par un système combinant budgets de temps GPU.

Raison de la recommandation

L'équipe d'infrastructure d'Ai2 détaille le passage d'un ordonnanceur par priorité à un système de budgets GPU et de fair-share hiérarchique, avec les métriques obtenues après déploiement.

Source :Hugging Face Blog · huggingface.co