L'actualité des modèles, frameworks et dépôts open source : ouverture des poids, succès fulgurants des projets communautaires, rapport de force entre open source et modèles fermés.
927 sélections30 derniers jours 489 entréesTotal : 2 509 entrées
Motif de la recommandation :Le CERT-FR détaille les versions affectées et les correctifs de deux failles XSS critiques de Roundcube, dont l'exploitation par simple ouverture d'un courriel est documentée.
Motif de la recommandation :L'annonce détaille l'acquisition de XetHub par Hugging Face et les gains attendus pour le stockage des dépôts de modèles et de jeux de données.
Motif de la recommandation :Mistral AI expose en détail la personnalisation de modèles, les Agents en alpha et le SDK 1.0, ce qui permet de juger des changements concrets pour les développeurs.
Google élargit la famille Gemma avec trois ajouts : Gemma 2 2B, la version 2,6 milliards de paramètres de Gemma 2 adaptée à une exécution sur appareil.
Motif de la recommandation :L'article détaille les trois ajouts de Google à la famille Gemma et fournit des exemples de code pour l'inférence locale et la génération assistée.
Mistral AI publie Mistral Large 2, un modèle de 123 milliards de paramètres doté d'une fenêtre de contexte de 128k et conçu pour l'inférence sur un seul nœud. Il est distribué sous licence de recherche Mistral, une licence commerciale étant requise pour l'auto-déploiement en usage commercial, et accessible via la Plateforme sous le nom mistral-large-2407 ainsi que sur Hugging Face. Le modèle affiche 84,0 % sur MMLU et couvre plus de 80 langages de programmation, avec des appels de fonctions parallèles et séquentiels renforcés.
Motif de la recommandation :Mistral Large 2 détaille fenêtre de contexte, licence et performances comparées, utile pour évaluer le compromis coût et capacité en déploiement.
Motif de la recommandation :Détaille les exigences mémoire, les intégrations et les recettes de quantification de Llama 3.1, utile pour planifier le déploiement et le fine-tuning.
Motif de la recommandation :Mistral NeMo est un modèle 12B à fenêtre de 128k, sous licence Apache 2.0, avec un tokenizer Tekken plus efficace et une quantification FP8, ce qui permet d'évaluer les compromis entre taille, contexte et coût d'inférence.
Motif de la recommandation :Codestral Mamba adopte l'architecture Mamba avec une inférence en temps linéaire et un contexte testé jusqu'à 256k tokens, un point de repère pour évaluer les alternatives aux Transformer sur le code.
Motif de la recommandation :Mathstral 7B atteint 56,6 % sur MATH et 63,47 % sur MMLU, avec des gains supplémentaires via majority voting et reward model, ce qui éclaire les compromis performance/vitesse pour les modèles spécialisés.
Motif de la recommandation :L'article détaille la recette d'entraînement en deux étapes et l'algorithme SC-TIR qui ont permis de résoudre 29 problèmes sur 50, une méthode transférable pour le fine-tuning d'un modèle de raisonnement mathématique.
Motif de la recommandation :L'original expose le format de sauvegarde partagé entre Transformers et KerasHub, ce qui permet de charger directement plus de 300 000 modèles fine-tunés dans KerasHub.
Motif de la recommandation :L'original expose la conception d'un Code Agent et sa performance sur GAIA, avec des détails sur l'interpréteur sécurisé et l'orchestration multi-agents.
Motif de la recommandation :Le bulletin détaille les versions touchées, les conditions d'exploitation confirmées et la mesure de contournement proposée par Qualys.
Motif de la recommandation :L'article détaille les choix techniques de Gemma 2 et son intégration dans l'écosystème Hugging Face, utile pour évaluer les compromis de déploiement.
Motif de la recommandation :L'article détaille l'implémentation de RLOO dans TRL, avec des comparaisons de mémoire et de vitesse face à PPO, utile pour choisir une méthode d'entraînement RLHF.
Stable Diffusion 3 Medium (2B paramètres) de Stability AI est disponible sur le Hugging Face Hub et utilisable avec Diffusers. Le modèle repose sur une architecture MMDiT avec trois encodeurs de texte (CLIP L/14, OpenCLIP bigG/14, T5-v1.1-XXL) et un autoencodeur 16 canaux, entraîné avec un objectif de rectified flow matching. L'intégration Diffusers inclut des optimisations mémoire (offloading CPU, suppression de l'encodeur T5, quantification 8 bits via bitsandbytes) permettant de réduire la consommation de 18,7 Go à 4,3 Go, ainsi que des scripts de fine-tuning DreamBooth et LoRA.
Motif de la recommandation :Le billet détaille l'intégration de SD3 Medium dans Diffusers, avec optimisations mémoire et scripts de fine-tuning LoRA directement réutilisables.
Motif de la recommandation :Mistral ouvre trois voies de personnalisation, du SDK open source au fine-tuning serverless, ce qui permet de situer le coût et l'effort requis selon son infrastructure.
Motif de la recommandation :Codestral est un modèle de code open-weight de 22B avec une fenêtre de contexte de 32k, ce qui permet d'évaluer ses performances et son intégration dans les outils de développement.
Motif de la recommandation :Mistral introduit une licence non commerciale et publie Codestral sous ce régime, ce qui éclaire le lecteur sur les conditions d'usage de ses modèles.
Motif de la recommandation :Falcon 2 11B est publié en version LLM et VLM, avec les détails d'entraînement et les résultats d'évaluation pour situer ses performances.