Du contenu pratique directement utilisable : astuces de prompting, mise en place de workflows, usage des outils et retours d'expérience sur les pièges.
453 sélections30 derniers jours 219 entréesTotal : 1 800 entrées
mise à jour
Archives de la sélection · page 19
18 septembrelun.361–380 entrées · Au total 453 entrées
Motif de la recommandation :Décompose le principe, l'entraînement et les limites du 3D Gaussian Splatting, avec des repères concrets sur le VRAM et les visionneuses existantes.
Motif de la recommandation :Le guide détaille les trois obstacles du fine-tuning de Llama 2 70B sous FSDP et les solutions concrètes apportées par Transformers et Accelerate.
Hugging Face présente l'implémentation de la méthode Direct Preference Optimization (DPO) dans la bibliothèque TRL et montre comment fine-tuner le modèle Llama 2 7B sur le jeu de données de préférences Stack Exchange. DPO remplace l'étape de modélisation de récompense et l'optimisation RL de RLHF par un objectif de vraisemblance directe optimisé via une simple perte d'entropie croisée binaire, en s'appuyant sur une correspondance analytique entre la fonction de récompense et la politique RL optimale. Le tutoriel détaille le pipeline complet : SFT avec QLoRA sur Llama 2 7B, préparation des données de préférence au format prompt/chosen/rejected, puis entraînement avec DPOTrainer en configurant le paramètre beta (0,1 à 0,5). Le code source des scripts d'entraînement est disponible dans le répertoire examples/stack_llama_2 et le modèle entraîné est publié sur le Hub Hugging Face.
Motif de la recommandation :Le tutoriel détaille l'implémentation de DPO dans TRL et le fine-tuning de Llama 2, avec le code et les métriques de suivi.
Motif de la recommandation :L'article détaille le goulot d'étranglement mémoire de la génération autoregressive et propose une méthode de décodage assisté avec des gains de latence mesurés.
Motif de la recommandation :L'article détaille le fine-tuning de StarCoder avec ChatML et DeepSpeed ZeRO-3, une méthode transférable pour transformer un modèle de code en assistant conversationnel.
Le blog Hugging Face explique comment exécuter le modèle open source de génération d'images texte-image IF de DeepFloyd sur un Google Colab gratuit avec la bibliothèque diffusers. IF fonctionne directement dans l'espace pixel et utilise T5-XXL comme encodeur de texte, ce qui lui permet de générer des détails haute fréquence comme les visages et les mains ainsi que du texte dans les images, mais ses composants totalisent plus de 10 milliards de paramètres, avec T5-XXL à 20 Go et le UNet de l'étape 1 à 17,2 Go en float32. Le tutoriel montre comment charger T5 en quantification 8 bits via bitsandbytes, charger modulairement chaque composant avec device_map, libérer la mémoire GPU entre les étapes, et enchaîner les trois étapes de génération, de variation d'image et d'inpainting. L'auteur précise que cette configuration échange de la vitesse contre de la mémoire et n'est pas recommandée en production, où un A100 de 40 Go est préférable.
Motif de la recommandation :Détaille comment exécuter le modèle de génération d'images IF sur un Colab gratuit via quantification 8 bits et chargement modulaire, avec des étapes directement réutilisables.
CNC Kitchen a acheté une Prusa i3 MK4 le jour de sa sortie et l'a utilisée près de 200 heures pour comparer ses forces et faiblesses face aux Bambu Lab X1 et P1P. La MK4 est proposée à 800 dollars en kit et 1099 dollars assemblée, avec un hotend tout métal 300°C, un lit chauffant 120°C, un volume de 250x210x210 mm et environ 90% de pièces nouvelles par rapport à la MK3, dont le Nextruder à réducteur planétaire 10:1 et une sonde de charge pour le nivellement du lit. L'auteur note que plusieurs fonctions matérielles comme l'écran tactile et l'input shaping ne sont pas encore activées par le firmware, que la MK4 reste plus lente que les machines Bambu Lab et que la P1P est même moins chère qu'un kit MK4, tout en soulignant la fiabilité, le support logiciel et l'écosystème open source de Prusa. Une mise à jour ajoutée après coup indique que l'input shaping est arrivé avec le firmware 5.1.0 en novembre 2023, l'écran tactile avec le firmware 6.0.0 en avril 2024, la MK4S en août 2024 et la CORE One CoreXY en novembre 2024.
Motif de la recommandation :Le guide détaille tout le pipeline RLHF de StackLLaMA, du jeu de données à l'entraînement PPO, avec des configurations LoRA et des commandes réutilisables.
CNC Kitchen a testé une buse CHT à haut débit installée sur un hotend tiers pour BambuLab X1 et P1P. Sur un test d'extrusion en mode vase avec du Voxel PLA à 220 °C.
Motif de la recommandation :Des tests de débit et d'adhérence couche par couche quantifient le gain d'une buse CHT sur BambuLab X1 et P1P, avec les limites observées.
Deux implémentations communautaires de la méthode Arc Overhangs de Steven McCulloch sont apparues pour PrusaSlicer. La première est intégrée à SuperPleccer.
Motif de la recommandation :L'auteur détaille la chaîne complète OCR, NER et classification d'intentions déployée après le séisme en Turquie, une méthode réutilisable pour des applications d'urgence.
Motif de la recommandation :Présente le fonctionnement de Q-Former et des exemples de code exécutables pour la légende d'images, le VQA et le dialogue multimodal.
Motif de la recommandation :Des essais mécaniques sur dix coloris de PLA d'un même fabricant quantifient l'écart de résistance et de ductilité selon le pigment.
Motif de la recommandation :Le texte détaille l'intégration de LoRA dans diffusers avec un script exécutable et des besoins matériels précis, utile pour reproduire le fine-tuning.
Motif de la recommandation :Un test indépendant compare buse haute vitesse à 2 $ et buse Bondtech CHT sur le débit maximal et la qualité d'impression, avec les compromis de conception et le contexte du brevet.
Motif de la recommandation :L'article détaille le fonctionnement des arcs auto-portants et leurs limites de vitesse, utile pour évaluer une alternative aux supports.
Grâce aux ingénieurs d'Apple, il est désormais possible d'exécuter Stable Diffusion sur Apple Silicon via Core ML. Le dépôt Apple fournit des scripts de conversion et du code d'inférence basés sur Diffusers, et les poids convertis des modèles Stable Diffusion v1.4, v1.5, v2 base et v2.1 base sont disponibles sur le Hugging Face Hub. Core ML prend en charge le CPU, le GPU et le Neural Engine, avec des variantes d'attention original et split_einsum ainsi que des formats packages pour Python et compilés pour Swift. Sur un MacBook Pro M1 Max avec macOS Ventura 13.1 Beta 4, la génération d'une image avec Stable Diffusion v1.4 a pris 18 secondes.
Motif de la recommandation :Le guide détaille les variantes de modèles Core ML et les commandes Python et Swift pour exécuter Stable Diffusion localement sur Apple Silicon.
Motif de la recommandation :L'article détaille le workflow de découpe conique avec deux scripts Python et les limites de la méthode sur les surplombs entrants.
Motif de la recommandation :Un guide pas à pas du tranchage conique avec les scripts ZHAW, incluant les vitesses lentes nécessaires et les pièges de positionnement.