Héberger modèles et datasets sur Hugging Face Spaces avec Streamlit
Hugging Face explique comment héberger modèles et datasets et servir des applications Streamlit dans Hugging Face Spaces.
#Déploiement/ingénierie
Hugging Face BlogAI Score2222 Hugging Face BlogAI Score2222 Utiliser Gradio pour présenter vos projets dans Spaces
Hugging Face intègre Gradio au Hub pour permettre de démontrer un modèle en quelques lignes de code via l'Inference API.
Hugging Face BlogsélectionAI Score6262 Hugging Face lance Optimum, une boîte à outils d'optimisation pour les Transformers à grande échelle
Hugging Face annonce la sortie d'Optimum, une bibliothèque open source dédiée à l'optimisation des performances des Transformers en production. Elle vise à abstraire la complexité de l'accélération matérielle, en commençant par la quantification des modèles pour les CPU Intel Xeon via Intel Neural Compressor. Optimum s'appuie sur un programme de partenaires matériels et prévoit de publier des configurations et artefacts de modèles optimisés sur le Hugging Face Model Hub.
Motif de la recommandation :Hugging Face présente Optimum, une bibliothèque open source qui simplifie la quantification et l'accélération des Transformers sur du matériel dédié, avec Intel comme premier partenaire.
Hugging Face BlogAI Score2222 Hugging Face et Graphcore s'associent pour des Transformers optimisés pour l'IPU
Hugging Face et Graphcore annoncent un partenariat intégrant les systèmes IPU de Graphcore au Hardware Partner Program de Hugging Face.
OpenAI NewssélectionAI Score7070 OpenAI publie Triton 1.0, un langage de programmation GPU open source pour les réseaux de neurones
OpenAI publie Triton 1.0, un langage de programmation open source de type Python qui permet aux chercheurs sans expérience CUDA d'écrire du code GPU très efficace.
Motif de la recommandation :Triton 1.0 permet aux chercheurs sans expérience CUDA d'écrire du code GPU efficace, ce qui abaisse le seuil de programmation GPU.
Hugging Face BlogAI Score3838 Déployer facilement les modèles Hugging Face avec Amazon SageMaker
Hugging Face et Amazon publient les Hugging Face Inference DLCs.
Hugging Face BlogsélectionAI Score6060 Gradio 2.0 : utiliser et combiner les modèles Hugging Face en une ligne de code
Gradio 2.0 permet de charger et d'utiliser presque n'importe quel modèle Hugging Face avec une interface graphique en une seule ligne de code.
Motif de la recommandation :Gradio 2.0 permet de charger et combiner des modèles Hugging Face en une ligne, avec un exemple de traduction et résumé en trois lignes.
Hugging Face BlogAI Score2222 BERT inférence sur CPU : comment passer à l'échelle (partie 1)
Hugging Face publie la première partie d'une série sur l'optimisation matérielle de l'inférence BERT sur CPU.
Hugging Face BlogsélectionAI Score6262 Hugging Face lance la bibliothèque Accelerate pour l'entraînement PyTorch distribué
Hugging Face présente Accelerate, une bibliothèque qui permet d'exécuter un script d'entraînement PyTorch brut sur n'importe quel type de dispositif distribué (multi-GPU sur un ou plusieurs nœuds, TPU) et avec ou sans précision mixte, en ajoutant cinq lignes de code. Elle fournit une API unifiée qui abstrait le code répétitif et une commande de lancement pour exécuter les scripts sur différentes configurations. Les plans futurs incluent le support de fairscale, deepseed, ainsi que du parallélisme de données et de modèle spécifique à AWS SageMaker. L'installation se fait via pip install accelerate.
Motif de la recommandation :L'article détaille les cinq lignes à ajouter à un script PyTorch pour exécuter l'entraînement distribué et la précision mixte, avec le lanceur CLI et la configuration.
CNC KitchensélectionAI Score6060 Conversion d'une Prusa MK2.5S vers une carte DUET 3 Mini 5+
L'auteur remplace la carte Rambo Mini défectueuse de sa Prusa MK2.5S par une DUET 3 Mini 5+.
Motif de la recommandation :L'auteur détaille le remplacement de la carte d'une Prusa MK2.5S par une DUET 3 Mini 5+, du câblage à la configuration RepRapFirmware, avec les fichiers de configuration partagés.
Hugging Face BlogAI Score2222 Formation distribuée : fine-tuner BART/T5 pour le résumé avec 🤗 Transformers et Amazon SageMaker
Hugging Face et Amazon SageMaker proposent des Deep Learning Containers optimisés pour 🤗 Transformers.
Hugging Face BlogAI Score2222 Comprendre l'attention block sparse de BigBird
BigBird, un modèle de type RoBERTa, est désormais disponible dans 🤗Transformers avec une attention block sparse qui gère des séquences jusqu'à 4096 tokens à un coût computationnel bien inférieur à celui de BERT. Cette attention approximative combine trois mécanismes — attention glissante sur les tokens voisins, tokens globaux attentifs à tous les autres, et tokens aléatoires — pour capturer les dépendances longue portée sans la complexité quadratique O(n²) de l'attention complète de BERT. BigBird a atteint l'état de l'art sur des tâches à longues séquences comme le résumé de longs documents et le question-answering à long contexte.
CNC KitchensélectionAI Score6565 Bang-Bang ou PID pour le contrôle de température du plateau ?
L'auteur a remplacé la carte de contrôle de sa Prusa Mk2.5 par une DUET 3 Mini 5+ et a constaté des z-banding sur les impressions.
Motif de la recommandation :L'auteur relie un défaut d'impression à la régulation thermique du plateau et détaille comment identifier puis corriger le mode de contrôle.
OpenAI NewssélectionAI Score6262 GPT-3 alimente la nouvelle génération d'applications
Plus de 300 applications fournissent via l'API d'OpenAI des fonctions d'IA telles que la recherche, la conversation et la complétion de texte basées sur GPT-3.
Hugging Face BlogAI Score5050 Hugging Face et Amazon SageMaker annoncent un partenariat stratégique
Hugging Face et Amazon annoncent un partenariat stratégique faisant d'AWS le fournisseur cloud préféré de Hugging Face.
Hugging Face BlogAI Score1717 Mon parcours vers un pipeline Transformers serverless sur Google Cloud
Un membre de la communauté Hugging Face déploie un pipeline d'analyse de sentiment Transformers en serverless sur Google Cloud Run.
Hugging Face BlogAI Score2222 Fine-tuner Wav2Vec2 pour l'ASR en anglais avec 🤗 Transformers
Hugging Face détaille le fine-tuning de Wav2Vec2, modèle de reconnaissance automatique de la parole pré-entraîné sur plus de 50 000 heures d'audio non étiqueté.
Hugging Face BlogAI Score2222 Hugging Face : considérations simples pour construire des réseaux de neurones
Hugging Face publie un guide pratique sur la construction et le débogage de réseaux de neurones.
Hugging Face BlogAI Score4040 RAG avec Huggingface Transformers et Ray : accélération 2x de la récupération de documents
Huggingface Transformers a intégré Ray dans le mécanisme de récupération de documents contextuels du modèle RAG.
Hugging Face BlogsélectionAI Score6060 Hugging Face sur PyTorch/XLA TPU : entraîner des Transformers sur Cloud TPU
Hugging Face et les équipes PyTorch et Google TPU présentent l'intégration de PyTorch/XLA dans la bibliothèque Transformers.
Motif de la recommandation :L'article détaille l'intégration de PyTorch/XLA dans les Trainer Hugging Face et fournit un exemple complet d'entraînement de bert-large-uncased sur Cloud TPU.
OpenAI NewsAI Score5858 OpenAI étend les clusters Kubernetes à 7 500 nœuds pour l'entraînement de grands modèles
OpenAI a étendu ses clusters Kubernetes à 7 500 nœuds, fournissant une infrastructure évolutive pour les grands modèles comme GPT-3.
Hugging Face BlogsélectionAI Score6262 Comment entraîner plus vite et plus gros avec ZeRO via DeepSpeed et FairScale
Le blog Hugging Face détaille l'intégration expérimentale de ZeRO de DeepSpeed et FairScale dans le Trainer de transformers à partir de la v4.2.0.
Motif de la recommandation :L'article compare les gains de ZeRO via DeepSpeed et FairScale sur t5-large et t5-3b, avec des chiffres de temps et de batch size directement réutilisables.
Hugging Face BlogAI Score2222 Hugging Face comment accélérer l'inférence Transformer 100x pour les clients de l'API
Hugging Face a accéléré l'inférence Transformer d'un facteur 100 pour les abonnés de son Accelerated Inference API.
Hugging Face BlogAI Score2222 Exploiter les checkpoints de modèles de langage pré-entraînés pour les modèles encodeur-décodeur
Le notebook Hugging Face détaille comment initialiser à chaud (warm-start) des modèles encodeur-décodeur à partir de checkpoints pré-entraînés de type BERT ou GPT2.
Hugging Face BlogAI Score3636 Portage du système de traduction fairseq wmt19 vers transformers
Le système de traduction fairseq wmt19 de Facebook FAIR a été porté vers la bibliothèque transformers de Hugging Face.
OpenAI NewssélectionAI Score7070 OpenAI accorde une licence de la technologie GPT-3 à Microsoft
OpenAI a accepté d'accorder à Microsoft une licence de GPT-3 pour ses propres produits et services.
Hugging Face BlogAI Score5252 Hugging Face publie pytorch_block_sparse pour des modèles de langage plus petits et plus rapides
Hugging Face publie l'extension pytorch_block_sparse.
Hugging Face BlogAI Score5252 Le Reformer comment entraîner sur un demi-million de tokens avec moins de 8 Go de RAM
Le blog Hugging Face détaille les quatre optimisations mémoire du Reformer, un modèle Transformer capable de traiter jusqu'à un demi-million de tokens en une seule passe.
CNC KitchensélectionAI Score7171 Helicoils, inserts filetés et écrous noyés dans les impressions 3D : résistance et évaluation
CNC Kitchen compare cinq méthodes pour ajouter des filetages métalliques à des pièces imprimées en 3D en PETG.
Motif de la recommandation :Des essais de couple et d'arrachement comparent cinq méthodes de filetage sur pièces imprimées en PETG, avec calculs de résistance à l'appui.
Hugging Face BlogAI Score4242 Comment générer du texte : utiliser différentes méthodes de décodage pour la génération de langage avec Transformers
Le blog Hugging Face détaille les méthodes de décodage pour la génération de langage autorégressive avec la bibliothèque transformers.
OpenAI NewssélectionAI Score6262 OpenAI standardise son framework d'apprentissage profond sur PyTorch
OpenAI annonce standardiser son framework d'apprentissage profond sur PyTorch.
OpenAI NewssélectionAI Score8585 Microsoft investit 1 milliard de dollars dans OpenAI et devient son fournisseur cloud exclusif
Microsoft investit 1 milliard de dollars dans OpenAI pour soutenir la construction d'une intelligence artificielle générale (AGI) aux bénéfices économiques largement distribués. Les deux entreprises s'associent pour développer sur Microsoft Azure une plateforme matérielle et logicielle évolutive vers l'AGI, et développeront conjointement de nouvelles technologies de supercalcul Azure AI. Microsoft devient le fournisseur cloud exclusif d'OpenAI.
OpenAI NewsAI Score5555 OpenAI et Microsoft : la plupart des expériences à grande échelle d'OpenAI seront exécutées sur Azure
OpenAI annonce travailler avec Microsoft pour commencer à exécuter la plupart de ses expériences à grande échelle sur Azure.
OpenAI NewsAI Score66 OpenAI : l'infrastructure pour le deep learning
Le deep learning étant une science empirique, la qualité de l'infrastructure d'une équipe multiplie ses progrès. L'écosystème open source actuel permet à quiconque de construire une excellente infrastructure de deep learning.