Aller au contenu
5 octobremer.
26 septembrelun.
  1. Hugging Face Blog62

    SetFit : un apprentissage efficace en few-shot sans prompts

    Hugging Face, avec Intel Labs et le UKP Lab, présente SetFit, un framework d'apprentissage en few-shot pour les Sentence Transformers. Sur le jeu de données CR.

    Motif de la recommandation :L'article présente la méthode d'entraînement en deux étapes de SetFit et les résultats comparatifs sur RAFT, permettant de comprendre pourquoi un petit modèle peut atteindre les performances de T-Few.

10 septembresam.
8 septembrejeu.
24 aoûtmer.
20 aoûtsam.
  1. CNC Kitchen62

    L'impression 3D FDM peut-elle coller les couches avec de l'acétone ? Résultats de test réels

    CNC Kitchen a testé si l'application d'acétone couche par couche pendant l'impression FDM pouvait améliorer l'adhérence inter-couches. Les résultats montrent que la résistance des échantillons ABS collés à l'acétone n'atteint que 6 MPa, soit environ 15 % de la résistance de référence de 41 MPa, et le crochet de test n'a supporté que 6 kg, identique à l'échantillon non collé. Les échantillons PVB collés à l'alcool isopropylique n'ont pas non plus atteint la résistance de référence, et tous les échantillons collés ont rompu au niveau du joint. L'auteur estime que cette méthode est actuellement fastidieuse à mettre en œuvre et présente des risques d'inflammabilité, et publie ce résultat négatif pour éviter que d'autres ne suivent la même voie.

18 aoûtjeu.
  1. Hugging Face Blog22

    Hugging Face Optimum Graphcore : guide de fine-tuning des Vision Transformers sur IPU

    Hugging Face publie un guide pas à pas pour fine-tuner des modèles Transformer pré-entraînés sur les IPU de Graphcore via la bibliothèque Optimum. L'exemple entraîne un modèle ViT pré-entraîné sur ImageNet-21k sur le jeu de données ChestX-ray14, en s'appuyant sur les checkpoints et fichiers de configuration IPU déjà disponibles dans Optimum Graphcore. Les IPU sont présentés comme particulièrement adaptés aux ViT grâce au parallélisme de données et de modèle, au pipeline et à l'architecture MIMD avec IPU-Fabric.

10 aoûtmer.
5 aoûtven.
2 aoûtmar.
22 juilletven.
13 juilletmer.
30 juinjeu.
23 juinjeu.
  1. OpenAI News78

    OpenAI apprend à Minecraft via Video PreTraining

    OpenAI a entraîné un réseau de neurones à jouer à Minecraft par Video PreTraining (VPT) sur un vaste ensemble de vidéos non étiquetées de parties humaines.

    Motif de la recommandation :Présente une méthode d'entraînement par pré-entraînement vidéo et une tâche de fabrication d'outils en diamant, utile pour comprendre les capacités des agents sur ordinateur.

13 juinlun.
  1. OpenAI News62

    OpenAI entraîne des modèles de rédaction de critiques pour aider les humains à repérer les défauts des résumés

    OpenAI indique avoir entraîné des modèles de rédaction de critiques chargés de décrire les défauts dans les résumés. Les évaluateurs humains repèrent beaucoup plus souvent ces défauts lorsqu'on leur montre les critiques du modèle. Les modèles plus grands sont meilleurs pour s'autocritiquer, et l'augmentation d'échelle améliore davantage la rédaction de critiques que la rédaction de résumés. Cela ouvre une piste pour que des systèmes d'IA assistent la supervision humaine d'autres systèmes d'IA sur des tâches difficiles.

    Motif de la recommandation :Un modèle de rédaction de critiques aide les évaluateurs humains à repérer davantage de défauts dans les résumés, et l'échelle améliore davantage la critique que la rédaction.

9 juinjeu.
7 juinmar.
  1. Hugging Face Blog62

    Le modèle de diffusion annoté : implémentation pas à pas du DDPM en PyTorch

    Hugging Face publie un article de blog qui détaille les modèles de diffusion probabilistes de débruitage (DDPM) et les implémente pas à pas en PyTorch.

    Motif de la recommandation :Implémentation pas à pas du DDPM en PyTorch, avec code exécutable et explications mathématiques, utile pour comprendre les modèles de diffusion.

4 juinsam.
23 mailun.
  1. Hugging Face Blog30

    TAPEX : pré-entraînement efficace de tables sans données réelles

    Microsoft présente TAPEX, une méthode de pré-entraînement de tables qui apprend un exécuteur SQL neuronal sur un corpus synthétique généré en échantillonnant des requêtes SQL exécutables et leurs résultats, sans recourir à des données réelles. Intégré à Transformers 4.19.0, TAPEX atteint de nouveaux résultats SOTA sur quatre benchmarks : 89,6 % sur WikiSQL (+2,3 %), 84,2 % sur TabFact (+3,2 %), 74,5 % sur SQA (+3,5 %) et 57,5 % sur WikiTableQuestions (+4,8 %).

20 maiven.
18 maimer.
4 maimer.
28 marslun.
23 marsmer.
22 marsmar.
17 marsjeu.
3 marsjeu.
2 marsmer.
2 févriermer.
  1. OpenAI News78

    OpenAI construit un prouveur de théorèmes neuronal pour Lean qui résout des problèmes d'olympiades de mathématiques formelles

    OpenAI a construit un prouveur de théorèmes neuronal pour Lean, capable de résoudre divers problèmes d'olympiades de mathématiques difficiles de niveau lycée.

    Motif de la recommandation :Un prouveur de théorèmes neuronal entraîné sur Lean résout des problèmes d'olympiades de niveau lycée, ce qui permet d'observer l'application de la démonstration automatique en mathématiques formelles.

25 janviermar.
8 janviersam.
  1. CNC Kitchen62

    Les buses à haut débit mélangent-elles le filament bicolore ?

    CNC Kitchen a testé si les buses à haut débit mélangent le filament bicolore, en imprimant une figurine Mini Stefan avec une buse DIY à fil de cuivre.

    Motif de la recommandation :L'auteur teste lui-même trois buses à haut débit avec du filament bicolore et constate que l'écoulement laminaire empêche tout mélange, ce qui aide à choisir une buse.

18 décembresam.
15 décembremer.
30 novembremar.
29 octobreven.
  1. OpenAI News70

    OpenAI entraîne un système pour résoudre des problèmes mathématiques formulés en langage naturel

    OpenAI a entraîné un système qui résout des problèmes mathématiques de niveau primaire avec une précision près du double de celle d'un modèle GPT-3 fine-tuné. Sur un test issu de son jeu de données, le système a obtenu 55 %, contre 60 % pour un petit échantillon d'enfants de 9 à 12 ans, soit environ 90 % du nombre de problèmes résolus par ces enfants.

    Motif de la recommandation :Un système entraîné par OpenAI résout des problèmes mathématiques de niveau primaire avec une précision près du double de celle d'un GPT-3 fine-tuné, et atteint 55 % contre 60 % pour des enfants de 9 à 12 ans.

25 octobrelun.
13 octobremer.