Snorkel AI x Hugging Face : débloquer les foundation models pour les entreprises
Snorkel AI s'associe à Hugging Face pour intégrer les Inference Endpoints à sa plateforme Snorkel Flow。
#Déploiement/ingénierie
Hugging Face BlogAI Score2222
Hugging Face BlogsélectionAI Score6767 StackLLaMA : guide pratique pour entraîner LLaMA avec RLHF
Hugging Face publie StackLLaMA, un modèle LLaMA 7B entraîné avec RLHF pour répondre aux questions de Stack Exchange。
Motif de la recommandation :Le guide détaille tout le pipeline RLHF de StackLLaMA, du jeu de données à l'entraînement PPO, avec des configurations LoRA et des commandes réutilisables.
Hugging Face BlogAI Score3838 BLOOMZ sur Habana Gaudi2 : inférence rapide pour les grands modèles de langage
Habana Gaudi2 exécute l'inférence de BLOOMZ, un modèle de 176 milliards de paramètres。
Hugging Face BlogAI Score2222 Hugging Face et Flower : fine-tuning fédéré de distilBERT sur IMDB
Hugging Face et Flower permettent de fédérer le fine-tuning d'un Transformer pré-entraîné (distilBERT) sur un jeu de données IMDB pour la classification de sentiments。
Hugging Face BlogAI Score2222 Informer : prévision probabiliste multivariée de séries temporelles avec 🤗 Transformers
Le modèle Informer (AAAI21 best paper) est désormais disponible dans 🤗 Transformers pour la prévision probabiliste multivariée de séries temporelles. Il remplace l'attention classique par la ProbSparse attention en O(T log T) et ajoute une opération de distillation réduisant la mémoire à O(N·T log T), contre O(T²D) et O(NT²) pour le Transformer vanilla. Le modèle prend en charge les émissions indépendantes (diagonales) pour les familles de distributions implémentées, et fonctionne aussi pour le Time Series Transformer vanilla.
Hugging Face BlogsélectionAI Score7272 Hugging Face intègre trl et peft pour un fine-tuning RLHF de LLM 20B sur un GPU 24GB
Hugging Face annonce l'intégration officielle de trl avec peft。
Motif de la recommandation :Présente une méthode concrète pour exécuter un fine-tuning RLHF de modèle 20B sur un seul GPU 24GB, avec les étapes et les bibliothèques utilisées.
Hugging Face BlogsélectionAI Score6060 Utiliser le machine learning pour aider les survivants du séisme en Turquie
Après les séismes de magnitude 7,7 et 7,6 survenus le 6 février 2023 dans le sud-est de la Turquie。
Motif de la recommandation :L'auteur détaille la chaîne complète OCR, NER et classification d'intentions déployée après le séisme en Turquie, une méthode réutilisable pour des applications d'urgence.
Hugging Face BlogAI Score1212 Hugging Face comment accélérer le développement de l'assistant de rédaction Witty Works
Hugging Face a accompagné Witty Works, via son Expert Acceleration Program。
Hugging Face BlogAI Score1212 Fetch s'appuie sur Hugging Face et AWS pour consolider ses outils IA et réduire de 30 % son temps de développement
Fetch, société de récompenses shopping, a reconstruit sa plateforme IA avec Hugging Face sur AWS。
Hugging Face BlogAI Score5050 Hugging Face et AWS s'associent pour rendre l'IA plus accessible
Hugging Face et AWS ont élargi leur partenariat stratégique de long terme pour démocratiser l'apprentissage automatique。
Hugging Face BlogAI Score2222 Pourquoi nous passons aux Hugging Face Inference Endpoints, et pourquoi vous devriez peut-être faire de même
Hugging Face a lancé Inference Endpoints, un service managé permettant de déployer presque n'importe quel modèle du Hub sur AWS ou Azure。
Hugging Face BlogsélectionAI Score6262 Hugging Face lance la bibliothèque PEFT pour un fine-tuning économe en paramètres
Hugging Face annonce la bibliothèque PEFT, qui regroupe des techniques de fine-tuning économe en paramètres intégrées à Transformers et Accelerate. Elle prend en charge LoRA。
Motif de la recommandation :La bibliothèque PEFT de Hugging Face permet de fine-tuner des LLM avec une fraction des paramètres, ce qui réduit fortement les coûts de calcul et de stockage.
Hugging Face BlogAI Score2828 Accélérer les Transformers PyTorch avec Intel Sapphire Rapids — partie 2 : inférence
Hugging Face détaille l'inférence des Transformers PyTorch sur les CPU Intel Xeon Sapphire Rapids via Optimum Intel。
Hugging Face BlogAI Score2222 Génération d'assets 2D : l'IA pour le développement de jeux #4
Hugging Face consacre le quatrième volet de sa série « AI for Game Development » à la génération d'assets 2D avec Stable Diffusion。
Hugging Face BlogsélectionAI Score6262 Hugging Face Optimum intègre ONNX Runtime pour accélérer l'entraînement des modèles
Hugging Face annonce que sa bibliothèque Optimum intègre ONNX Runtime Training。
Motif de la recommandation :L'original détaille l'intégration d'ONNX Runtime dans Optimum et les gains d'entraînement mesurés, ce qui aide à évaluer l'impact sur les coûts de fine-tuning.
Hugging Face BlogAI Score3030 Similarité d'images avec Hugging Face Datasets et Transformers
Construire un système de similarité d'images avec les bibliothèques 🤗 Datasets et Transformers en calculant des embeddings via un modèle ViT (nateraw/vit-base-beans) et une similarité cosinus. Le système utilise 100 échantillons du dataset Beans comme candidats, et peut être étendu à d'autres modèles vision comme Swin Transformer, ConvNeXT ou RegNet.
Hugging Face BlogAI Score2828 Accélérer les Transformers PyTorch avec Intel Sapphire Rapids – partie 1
Intel a lancé sa 4e génération de Xeon, Sapphire Rapids。
Hugging Face BlogAI Score3636 Habana Gaudi2 vs Nvidia A100 80GB : entraînement et inférence plus rapides
Habana Gaudi2 est environ deux fois plus rapide que le Nvidia A100 80GB en entraînement et en inférence。
Hugging Face BlogAI Score3434 Hugging Face arrive dans la communauté Elixir : de GPT2 à Stable Diffusion
La communauté Elixir accueille plusieurs modèles de réseaux de neurones, de GPT2 à Stable Diffusion。
Hugging Face BlogAI Score4848 Hugging Face explique le RLHF étape par étape
Hugging Face détaille le fonctionnement du Reinforcement Learning from Human Feedback (RLHF)。
Hugging Face BlogAI Score2828 Deep Learning avec les protéines : du transfert learning aux modèles de langage protéiques
Hugging Face publie un article pédagogique « Deep Learning with Proteins » destiné aux biologistes et aux spécialistes du ML。
Hugging Face BlogAI Score4242 Hugging Face : prévision probabiliste de séries temporelles avec Transformers
Hugging Face présente le Time Series Transformer, un modèle probabiliste de prévision de séries temporelles intégré à la bibliothèque 🤗 Transformers. Ce modèle encodeur-décodeur。
Hugging Face BlogAI Score1212 Hugging Face : quatre directeurs du Machine Learning livrent leurs analyses sur l'impact de l'IA
Hugging Face publie le quatrième volet de sa série « Director of Machine Learning Insights »。
Hugging Face BlogAI Score2222 Accélérer le Document AI : cas d'usage et modèles open source
Hugging Face détaille comment les entreprises peuvent construire des solutions Document AI avec des modèles open source。
Hugging Face BlogAI Score2222 Analyse de sentiment sur données chiffrées avec chiffrement homomorphe et Concrete-ML
Hugging Face détaille une méthode d'analyse de sentiment sur données chiffrées via la bibliothèque Concrete-ML et le chiffrement homomorphe (FHE)。
Hugging Face BlogAI Score3636 Hugging Face dévoile une nouvelle tarification : fin du tier payant de l'Inference API, lancement d'Inference Endpoints
Hugging Face met fin au tier payant de l'Inference API, qui reste gratuit pour tous。
Hugging Face BlogAI Score5858 Hugging Face intègre Contrastive Search dans Transformers pour la génération de texte
Hugging Face annonce l'intégration de Contrastive Search dans la bibliothèque transformers。
Hugging Face BlogAI Score4242 Hugging Face Optimum Intel 集成 OpenVINO 加速 Transformer 模型推理
Hugging Face 将 Intel OpenVINO 集成到 Optimum Intel, 用户现可在多种 Intel 处理器上使用 OpenVINO Runtime 对 Transformers 模型进行推理。
Hugging Face BlogAI Score3030 De PyTorch DDP à Accelerate en passant par Trainer : maîtriser facilement l'entraînement distribué
Hugging Face publie un tutoriel montrant comment passer de PyTorch DDP natif à Accelerate puis au Trainer pour l'entraînement distribué。
Hugging Face BlogAI Score4040 Hugging Face Inference Endpoints : guide de prise en main
Hugging Face lance Inference Endpoints, un service qui déploie des modèles du hub vers une infrastructure managée sur le cloud en quelques clics. Le service propose trois niveaux d'accès — Public, Protected et Private — le mode Private passant par AWS PrivateLink et un VPC Endpoint pour restreindre l'accès au compte AWS. L'exemple déploie un modèle Swin de classification d'images fine-tuné avec AutoTrain sur food101, sur une instance GPU unique hébergée sur AWS en eu-west-1, avec autoscaling et conteneur personnalisé en option.
Hugging Face BlogsélectionAI Score6262 Comment Accelerate de Hugging Face exécute de très grands modèles grâce à PyTorch
Hugging Face explique comment Accelerate s'appuie sur le device meta de PyTorch。
Motif de la recommandation :L'article détaille le mécanisme de chargement par sharding et de répartition sur plusieurs appareils, une méthode directement transférable pour exécuter de grands modèles sur du matériel limité.
Hugging Face BlogAI Score2828 Tutoriel Hugging Face : entraîner son premier Decision Transformer
Hugging Face publie un tutoriel pour entraîner de zéro un Decision Transformer offline dans l'environnement Gym HalfCheetah。
Hugging Face BlogAI Score5050 Comment entraîner un modèle de langage avec Megatron-LM
Hugging Face détaille l'entraînement d'un modèle GPT2 avec Megatron-LM de NVIDIA sur GPU。
Hugging Face BlogAI Score2222 Visualiser des protéines sur Hugging Face Spaces avec 3Dmol.js
Hugging Face explique comment intégrer la visualisation 3D de protéines dans un Space Gradio via 3Dmol.js et le bloc HTML。
Hugging Face BlogAI Score2828 Pré-entraîner BERT avec Hugging Face Transformers et Habana Gaudi
Ce tutoriel explique comment pré-entraîner BERT-base depuis zéro avec les bibliothèques Hugging Face Transformers。
Hugging Face BlogAI Score2020 Déployer 🤗 ViT sur Vertex AI
Hugging Face montre comment déployer un modèle ViT B/16 de 🤗 Transformers sur Vertex AI。
Hugging Face BlogAI Score2222 Hugging Face Optimum Graphcore : guide de fine-tuning des Vision Transformers sur IPU
Hugging Face publie un guide pas à pas pour fine-tuner des modèles Transformer pré-entraînés sur les IPU de Graphcore via la bibliothèque Optimum. L'exemple entraîne un modèle ViT pré-entraîné sur ImageNet-21k sur le jeu de données ChestX-ray14, en s'appuyant sur les checkpoints et fichiers de configuration IPU déjà disponibles dans Optimum Graphcore. Les IPU sont présentés comme particulièrement adaptés aux ViT grâce au parallélisme de données et de modèle, au pipeline et à l'architecture MIMD avec IPU-Fabric.
Hugging Face BlogsélectionAI Score7878 Hugging Face intègre la quantification 8 bits LLM.int8() dans transformers
Hugging Face intègre LLM.int8() dans transformers et accelerate。
Motif de la recommandation :L'article détaille l'intégration de LLM.int8() dans transformers et accelerate, avec les pièges de chargement et les compromis de vitesse.
Hugging Face BlogAI Score3030 Hugging Face lance Skops, une bibliothèque pour héberger des modèles scikit-learn
Hugging Face présente Skops, une bibliothèque qui permet d'héberger des modèles scikit-learn sur le Hugging Face Hub。
Hugging Face BlogAI Score2222 La philosophie TensorFlow de Hugging Face
Hugging Face détaille sa philosophie d'intégration de TensorFlow dans la bibliothèque transformers。