Hugging Face annonce la bibliothèque PEFT, qui regroupe des techniques de fine-tuning économe en paramètres intégrées à Transformers et Accelerate. Elle prend en charge LoRA.
Motif de la recommandation :La bibliothèque PEFT de Hugging Face permet de fine-tuner des LLM avec une fraction des paramètres, ce qui réduit fortement les coûts de calcul et de stockage.
Hugging Face annonce l'intégration du modèle SpeechT5 de Microsoft Research Asia dans la bibliothèque open source Transformers. Ce modèle unique gère la synthèse vocale.
Motif de la recommandation :Le billet détaille l'intégration de SpeechT5 dans Transformers et fournit des exemples de code pour la synthèse vocale, la conversion de voix et la reconnaissance automatique de la parole.
Hugging Face lance AI vs. AI, un système open source de compétition multi-agents en deep reinforcement learning hébergé sur Spaces.
Hugging Face consacre le cinquième volet de sa série « AI for Game Development » à l'usage de ChatGPT pour écrire l'histoire d'un jeu de ferme. Le modèle reproduit d'abord des récits existants proches de Stardew Valley, puis s'améliore par allers-retours successifs, mais montre des limites : répétition sur les contenus longs, risques juridiques, éthiques et commerciaux en cas d'usage direct des sorties. L'auteur recommande de réserver ChatGPT au brainstorming et à la rédaction d'ébauches, la rédaction finale restant manuelle.
Hugging Face détaille l'inférence des Transformers PyTorch sur les CPU Intel Xeon Sapphire Rapids via Optimum Intel.
Hugging Face consacre un article aux modèles conjoints vision-langage, qui traitent images et texte via un encodeur d'images.
Hugging Face consacre le quatrième volet de sa série « AI for Game Development » à la génération d'assets 2D avec Stable Diffusion.
Hugging Face présente l'intégration du fine-tuning LoRA dans la bibliothèque diffusers.
Motif de la recommandation :Le texte détaille l'intégration de LoRA dans diffusers avec un script exécutable et des besoins matériels précis, utile pour reproduire le fine-tuning.
Hugging Face annonce que sa bibliothèque Optimum intègre ONNX Runtime Training.
Motif de la recommandation :L'original détaille l'intégration d'ONNX Runtime dans Optimum et les gains d'entraînement mesurés, ce qui aide à évaluer l'impact sur les coûts de fine-tuning.
Hugging Face a publié une analyse des techniques derrière ChatGPT — RLHF, IFT, CoT.
La génération d'assets 3D par texte (text-to-3D) n'est pas encore exploitable en production pour le développement de jeux.
Mask2Former et OneFormer, deux réseaux de neurones de pointe pour la segmentation d'images.
PaddlePaddle, la plateforme de deep learning open source de Baidu lancée en 2016.
Construire un système de similarité d'images avec les bibliothèques 🤗 Datasets et Transformers en calculant des embeddings via un modèle ViT (nateraw/vit-base-beans) et une similarité cosinus. Le système utilise 100 échantillons du dataset Beans comme candidats, et peut être étendu à d'autres modèles vision comme Swin Transformer, ConvNeXT ou RegNet.
Hugging Face publie une introduction au machine learning sur graphes couvrant les fondamentaux.
Intel a lancé sa 4e génération de Xeon, Sapphire Rapids.
Hugging Face publie un tutoriel montrant comment créer un jeu de ferme fonctionnel en 5 jours avec des outils IA.
CLIPSeg, un modèle de segmentation d'images zero-shot publié par Timo Lüddecke et Alexander Ecker.
Hugging Face annonce la sortie d'un outil de création de Model Cards avec interface graphique.
Hugging Face publie un guide complet sur l'utilisation de la bibliothèque open source 🤗 Datasets pour télécharger et préparer des datasets audio en une seule ligne de code Python via la fonction load_dataset. Le Hub héberge 77 datasets de reconnaissance vocale et 28 datasets de classification audio, avec un aperçu permettant d'écouter les échantillons directement. Le mode streaming et le chargement de GigaSpeech (configurations de xs à xl, de 10 à 10 000 heures) illustrent la simplicité de l'API.
Hugging Face publie le deuxième numéro de sa newsletter Éthique et Société consacré aux biais en machine learning.
Habana Gaudi2 est environ deux fois plus rapide que le Nvidia A100 80GB en entraînement et en inférence.
Hugging Face détaille le fonctionnement du Reinforcement Learning from Human Feedback (RLHF).
La communauté Elixir accueille plusieurs modèles de réseaux de neurones, de GPT2 à Stable Diffusion.
Hugging Face publie un article pédagogique « Deep Learning with Proteins » destiné aux biologistes et aux spécialistes du ML.
Hugging Face présente le Time Series Transformer, un modèle probabiliste de prévision de séries temporelles intégré à la bibliothèque 🤗 Transformers. Ce modèle encodeur-décodeur.
Grâce aux ingénieurs d'Apple, il est désormais possible d'exécuter Stable Diffusion sur Apple Silicon via Core ML. Le dépôt Apple fournit des scripts de conversion et du code d'inférence basés sur Diffusers, et les poids convertis des modèles Stable Diffusion v1.4, v1.5, v2 base et v2.1 base sont disponibles sur le Hugging Face Hub. Core ML prend en charge le CPU, le GPU et le Neural Engine, avec des variantes d'attention original et split_einsum ainsi que des formats packages pour Python et compilés pour Swift. Sur un MacBook Pro M1 Max avec macOS Ventura 13.1 Beta 4, la génération d'une image avec Stable Diffusion v1.4 a pris 18 secondes.
Motif de la recommandation :Le guide détaille les variantes de modèles Core ML et les commandes Python et Swift pour exécuter Stable Diffusion localement sur Apple Silicon.
Hugging Face intègre VQ-Diffusion, un modèle de diffusion latent conditionnel développé par l'Université des sciences et technologies de Chine et Microsoft.
Hugging Face ouvre les candidatures pour son programme de stage 2023.
Hugging Face organise le 30 novembre un événement communautaire en direct consacré aux modèles de diffusion.
Hugging Face publie le quatrième volet de sa série « Director of Machine Learning Insights ».
Hugging Face détaille comment les entreprises peuvent construire des solutions Document AI avec des modèles open source.
Hugging Face détaille une méthode d'analyse de sentiment sur données chiffrées via la bibliothèque Concrete-ML et le chiffrement homomorphe (FHE).
Hugging Face a intégré Spaces à arXivLabs via un onglet Demos permettant d'accéder aux démos open source des articles. Depuis son lancement en octobre 2021.
Hugging Face met fin au tier payant de l'Inference API, qui reste gratuit pour tous.
Hugging Face annonce l'intégration de Contrastive Search dans la bibliothèque transformers.
Hugging Face détaille comment entraîner Stable Diffusion avec la technique Dreambooth via le script de Diffusers.
Motif de la recommandation :L'article partage des réglages testés pour entraîner Stable Diffusion avec Dreambooth, notamment learning rate, étapes et prior preservation, ce qui aide à éviter le surapprentissage.
Hugging Face publie un guide pas à pas pour fine-tuner Whisper sur n'importe quel jeu de données ASR multilingue avec Transformers.
Motif de la recommandation :Un guide pas à pas pour fine-tuner Whisper sur une langue peu dotée, avec code exécutable et résultats WER mesurés.
Hugging Face ajoute à la bibliothèque 🤗 Evaluate des métriques et mesures de biais.
Hugging Face publie un tutoriel montrant comment passer de PyTorch DDP natif à Accelerate puis au Trainer pour l'entraînement distribué.