Les dessous de l'entraînement : construction de jeux de données, données synthétiques, méthodes de pré-entraînement et de post-entraînement, puissance de calcul et coûts d'entraînement.
421 sélections30 derniers jours 196 entréesTotal : 1 416 entrées
Motif de la recommandation :Des dizaines d'essais de traction quantifient la relation entre le diamètre du trou et la résistance à l'arrachement des inserts thermiques, fournissant une plage de conception directement réutilisable.
NVIDIA détaille un pipeline en six étapes pour transformer un modèle d'embedding généraliste (Llama-Nemotron-Embed-1B-v2) en modèle spécialisé à un domaine.
Motif de la recommandation :Présente un pipeline complet de fine-tuning d'embedding pour RAG, avec commandes, hyperparamètres et résultats mesurés sur un GPU unique.
Motif de la recommandation :L'analyse quantifie la croissance de l'écosystème open source et le basculement de la Chine, offrant un contexte chiffré sur la répartition des usages.
Mistral AI a annoncé Forge, un système destiné aux entreprises pour construire des modèles d'IA de niveau frontière ancrés dans leurs connaissances propriétaires. Forge prend en charge le pré-entraînement, le post-entraînement et l'apprentissage par renforcement sur des documents internes, des bases de code et des données opérationnelles, avec des architectures denses et MoE ainsi que des entrées multimodales. Mistral AI indique avoir déjà collaboré avec ASML, DSO National Laboratories Singapore, Ericsson, l'Agence spatiale européenne, HTX Singapore et Reply. Le système est conçu pour les agents de codage comme Mistral Vibe, qui peuvent l'utiliser pour affiner des modèles, trouver des hyperparamètres optimaux et générer des données synthétiques.
Motif de la recommandation :Mistral AI présente Forge, un système permettant aux entreprises d'entraîner des modèles sur leurs données internes, avec prise en charge des architectures denses et MoE et des agents autonomes.
Motif de la recommandation :Google Research détaille une méthode d'extraction de données de vérité terrain et un modèle LSTM pour prévoir les crues éclair urbaines 24 h à l'avance.
Google Research présente Groundsource, une méthodologie qui utilise Gemini pour transformer des articles de presse non structurés en données historiques exploitables. Le premier jeu de données open access porte sur les crues soudaines urbaines et contient 2,6 millions d'événements couvrant plus de 150 pays depuis 2000. Lors de vérifications manuelles, 60 % des événements extraits étaient exacts en lieu et date, et 82 % suffisamment précis pour une analyse pratique. Groundsource a capturé entre 85 % et 100 % des événements de crue sévère enregistrés par GDACS entre 2020 et 2026. Ces données permettent des prévisions de crues soudaines urbaines jusqu'à 24 heures à l'avance, désormais déployées dans Google Flood Hub.
Motif de la recommandation :L'article détaille une méthode d'extraction de données historiques à partir d'articles de presse avec Gemini et fournit des chiffres de validation concrets.
Motif de la recommandation :L'étude détaille le déploiement réel d'AMIE en soins primaires, avec des chiffres de sécurité et de précision diagnostique qui éclairent les limites d'un agent conversationnel médical.
Google Research présente WAXAL, un corpus vocal ouvert couvrant 27 langues d'Afrique subsaharienne parlées par plus de 100 millions de locuteurs dans plus de 26 pays. La publication inclut environ 1 846 heures d'audio transcrit pour la reconnaissance automatique de la parole (ASR) et plus de 565 heures d'enregistrements haute fidélité pour la synthèse vocale (TTS), sous licence CC-BY-4.0. Le projet, mené depuis 2021 avec des universités et organisations communautaires africaines, vise à soutenir la recherche et le développement de technologies vocales inclusives.
Motif de la recommandation :L'article détaille la composition et les licences d'un corpus vocal multilingue, utile pour évaluer la couverture des langues à faibles ressources.
Motif de la recommandation :L'article détaille la recette complète d'un entraînement text-to-image en 24h sur 32 H200 pour environ 1500 dollars, avec code open source.
Motif de la recommandation :L'article détaille un pipeline de génération de données synthétiques pour l'apprentissage du tracé d'itinéraires sur cartes, avec des résultats chiffrés sur MapBench.
Google DeepMind publie deux articles détaillant l'utilisation du mode Gemini Deep Think pour résoudre des problèmes de recherche professionnels en mathématiques.
Motif de la recommandation :L'article détaille l'agent de recherche mathématique Aletheia et les recettes de collaboration humain-IA, avec des cas concrets en mathématiques, physique et informatique.
Un laboratoire autonome combinant GPT-5 d'OpenAI avec l'automatisation cloud de Ginkgo Bioworks a réduit de 40 % le coût de la synthèse de protéines sans cellules grâce à une expérimentation en boucle fermée.
Motif de la recommandation :Un laboratoire autonome combinant GPT-5 et l'automatisation cloud de Ginkgo Bioworks réduit de 40 % le coût de la synthèse de protéines sans cellules.
Google Research décrit dans Science Advances une version de NeuralGCM entraînée directement sur des observations satellitaires de précipitations de la NASA couvrant 2001 à 2018.
Motif de la recommandation :L'article détaille comment NeuralGCM apprend la paramétrisation des précipitations à partir d'observations satellitaires, avec des écarts chiffrés face aux modèles opérationnels.
Motif de la recommandation :Le lecteur peut situer les quatre axes d'évaluation de la factualité et les écarts de performance entre les principaux modèles.
Motif de la recommandation :L'article présente l'architecture Titans et le cadre MIRAS, avec des résultats sur des contextes dépassant 2 millions de tokens et des tests en génomique et séries temporelles.
Motif de la recommandation :L'article montre comment AlphaFold a permis d'obtenir des structures enzymatiques inaccessibles expérimentalement et d'orienter la modification d'une enzyme clé de la photosynthèse.
OpenAI annonce l'acquisition de Neptune afin de mieux observer le comportement des modèles et de renforcer les outils utilisés par les chercheurs pour suivre les expériences et surveiller l'entraînement.
Motif de la recommandation :L'acquisition vise à renforcer le suivi des expériences et la surveillance de l'entraînement, un point d'observation de l'outillage des laboratoires de modèles.
Motif de la recommandation :L'article détaille comment AlphaFold a permis de cartographier la structure de l'apoB100, une avancée qui ouvre des pistes thérapeutiques contre les maladies cardiovasculaires.