Aller au contenu

Orientations techniques

Données et entraînement Dernières actualités

Les dessous de l'entraînement : construction de jeux de données, données synthétiques, méthodes de pré-entraînement et de post-entraînement, puissance de calcul et coûts d'entraînement.

421 sélections30 derniers jours 196 entréesTotal : 1 416 entrées

mise à jour

Archives de la sélection · page 20

26 septembrelun.381–400 entrées
  1. Hugging Face Blog62

    SetFit : un apprentissage efficace en few-shot sans prompts

    Hugging Face, avec Intel Labs et le UKP Lab, présente SetFit, un framework d'apprentissage en few-shot pour les Sentence Transformers. Sur le jeu de données CR.

    Motif de la recommandation :L'article présente la méthode d'entraînement en deux étapes de SetFit et les résultats comparatifs sur RAFT, permettant de comprendre pourquoi un petit modèle peut atteindre les performances de T-Few.

10 septembresam.
4 juinsam.
7 maisam.
5 févriersam.
22 janviersam.
8 décembremer.
29 octobreven.
  1. OpenAI News70

    OpenAI entraîne un système pour résoudre des problèmes mathématiques formulés en langage naturel

    OpenAI a entraîné un système qui résout des problèmes mathématiques de niveau primaire avec une précision près du double de celle d'un modèle GPT-3 fine-tuné. Sur un test issu de son jeu de données, le système a obtenu 55 %, contre 60 % pour un petit échantillon d'enfants de 9 à 12 ans, soit environ 90 % du nombre de problèmes résolus par ces enfants.

    Motif de la recommandation :Un système entraîné par OpenAI résout des problèmes mathématiques de niveau primaire avec une précision près du double de celle d'un GPT-3 fine-tuné, et atteint 55 % contre 60 % pour des enfants de 9 à 12 ans.

25 octobrelun.
1 octobreven.
  1. CNC Kitchen62

    Guide des inserts thermiques pour l'impression 3D : températures, perçages et règles de conception

    CNC Kitchen publie un guide complet sur l'installation et la conception d'inserts thermiques en laiton pour pièces imprimées en 3D. Le texte indique une température du fer à souder d'environ 10 à 20 °C au-dessus de celle d'impression, soit environ 225 °C pour le PLA, 245 °C pour le PETG et 265 °C pour l'ABS, et recommande de fondre l'insert sur seulement 90 % de la profondeur avant de le presser avec un outil. Il détaille aussi les règles de conception (diamètre de perçage adapté, trou borgne environ 1 mm plus profond que l'insert, trous droits, épaisseur de paroi minimale) et l'usage d'inserts dans les impressions résine, où ils doivent être collés à la cyanoacrylate épaisse dans des trous étagés.

    Motif de la recommandation :Le guide rassemble températures par matériau, diamètres de perçage et règles de conception pour les inserts thermiques, directement réutilisables en impression 3D.

23 septembrejeu.
8 septembremer.
28 aoûtsam.
10 juilletsam.
26 juinsam.
12 juinsam.
  1. CNC Kitchen75

    Évaluation du Prusament PC Blend : performances mécaniques et sensibilité à l'humidité

    CNC Kitchen a testé le Prusament PC Blend de Prusa sur une Original Prusa MK3S sans caisson.

    Motif de la recommandation :L'essai compare les performances mécaniques et la résistance à l'humidité du PC Blend de Prusament, avec des données chiffrées sur la résistance à la traction et la ténacité.

29 maisam.
15 maisam.
9 févriermar.
  1. Hugging Face Blog60

    Hugging Face sur PyTorch/XLA TPU : entraîner des Transformers sur Cloud TPU

    Hugging Face et les équipes PyTorch et Google TPU présentent l'intégration de PyTorch/XLA dans la bibliothèque Transformers.

    Motif de la recommandation :L'article détaille l'intégration de PyTorch/XLA dans les Trainer Hugging Face et fournit un exemple complet d'entraînement de bert-large-uncased sur Cloud TPU.

19 janviermar.
  1. Hugging Face Blog62

    Comment entraîner plus vite et plus gros avec ZeRO via DeepSpeed et FairScale

    Le blog Hugging Face détaille l'intégration expérimentale de ZeRO de DeepSpeed et FairScale dans le Trainer de transformers à partir de la v4.2.0.

    Motif de la recommandation :L'article compare les gains de ZeRO via DeepSpeed et FairScale sur t5-large et t5-3b, avec des chiffres de temps et de batch size directement réutilisables.