Orientations techniques
Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.
268 sélections30 derniers jours 50 entréesTotal : 951 entrées
L'auteur a remplacé la carte de contrôle de sa Prusa Mk2.5 par une DUET 3 Mini 5+ et a constaté des z-banding sur les impressions.
Motif de la recommandation :L'auteur relie un défaut d'impression à la régulation thermique du plateau et détaille comment identifier puis corriger le mode de contrôle.
Plus de 300 applications fournissent via l'API d'OpenAI des fonctions d'IA telles que la recherche, la conversation et la complétion de texte basées sur GPT-3.
Hugging Face et les équipes PyTorch et Google TPU présentent l'intégration de PyTorch/XLA dans la bibliothèque Transformers.
Motif de la recommandation :L'article détaille l'intégration de PyTorch/XLA dans les Trainer Hugging Face et fournit un exemple complet d'entraînement de bert-large-uncased sur Cloud TPU.
Le blog Hugging Face détaille l'intégration expérimentale de ZeRO de DeepSpeed et FairScale dans le Trainer de transformers à partir de la v4.2.0.
Motif de la recommandation :L'article compare les gains de ZeRO via DeepSpeed et FairScale sur t5-large et t5-3b, avec des chiffres de temps et de batch size directement réutilisables.
OpenAI a accepté d'accorder à Microsoft une licence de GPT-3 pour ses propres produits et services.
CNC Kitchen compare cinq méthodes pour ajouter des filetages métalliques à des pièces imprimées en 3D en PETG.
Motif de la recommandation :Des essais de couple et d'arrachement comparent cinq méthodes de filetage sur pièces imprimées en PETG, avec calculs de résistance à l'appui.
OpenAI annonce standardiser son framework d'apprentissage profond sur PyTorch.
Microsoft investit 1 milliard de dollars dans OpenAI pour soutenir la construction d'une intelligence artificielle générale (AGI) aux bénéfices économiques largement distribués. Les deux entreprises s'associent pour développer sur Microsoft Azure une plateforme matérielle et logicielle évolutive vers l'AGI, et développeront conjointement de nouvelles technologies de supercalcul Azure AI. Microsoft devient le fournisseur cloud exclusif d'OpenAI.