GPT-3 alimente la nouvelle génération d'applications
Plus de 300 applications fournissent via l'API d'OpenAI des fonctions d'IA telles que la recherche, la conversation et la complétion de texte basées sur GPT-3.
Orientations techniques
Déploiement et ingénierie Dernières actualités
Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.
246 sélections30 derniers jours 38 entréesTotal : 891 entrées
mise à jour
Archives de la sélection · page 13
OpenAI NewssélectionAI Score6262
Hugging Face BlogsélectionAI Score6060 Hugging Face sur PyTorch/XLA TPU : entraîner des Transformers sur Cloud TPU
Hugging Face et les équipes PyTorch et Google TPU présentent l'intégration de PyTorch/XLA dans la bibliothèque Transformers.
Motif de la recommandation :L'article détaille l'intégration de PyTorch/XLA dans les Trainer Hugging Face et fournit un exemple complet d'entraînement de bert-large-uncased sur Cloud TPU.
Hugging Face BlogsélectionAI Score6262 Comment entraîner plus vite et plus gros avec ZeRO via DeepSpeed et FairScale
Le blog Hugging Face détaille l'intégration expérimentale de ZeRO de DeepSpeed et FairScale dans le Trainer de transformers à partir de la v4.2.0.
Motif de la recommandation :L'article compare les gains de ZeRO via DeepSpeed et FairScale sur t5-large et t5-3b, avec des chiffres de temps et de batch size directement réutilisables.
OpenAI NewssélectionAI Score7070 OpenAI accorde une licence de la technologie GPT-3 à Microsoft
OpenAI a accepté d'accorder à Microsoft une licence de GPT-3 pour ses propres produits et services.
OpenAI NewssélectionAI Score6262 OpenAI standardise son framework d'apprentissage profond sur PyTorch
OpenAI annonce standardiser son framework d'apprentissage profond sur PyTorch.
OpenAI NewssélectionAI Score8585 Microsoft investit 1 milliard de dollars dans OpenAI et devient son fournisseur cloud exclusif
Microsoft investit 1 milliard de dollars dans OpenAI pour soutenir la construction d'une intelligence artificielle générale (AGI) aux bénéfices économiques largement distribués. Les deux entreprises s'associent pour développer sur Microsoft Azure une plateforme matérielle et logicielle évolutive vers l'AGI, et développeront conjointement de nouvelles technologies de supercalcul Azure AI. Microsoft devient le fournisseur cloud exclusif d'OpenAI.