Falcon-Edge : une série de modèles de langage 1,58 bit puissants, universels et fine-tunables
Falcon-Edge est une série de modèles de langage 1,58 bit présentés comme puissants, universels et fine-tunables.
Orientations techniques
L'actualité des modèles, frameworks et dépôts open source : ouverture des poids, succès fulgurants des projets communautaires, rapport de force entre open source et modèles fermés.
927 sélections30 derniers jours 489 entréesTotal : 2 508 entrées
Falcon-Edge est une série de modèles de langage 1,58 bit présentés comme puissants, universels et fine-tunables.
NVIDIA annonce à la GTC 2025 de nouveaux modèles ouverts et jeux de données destinés aux développeurs d'IA incarnée.
Mistral AI annonce Mistral Small 3.1, présenté comme surpassant Gemma 3 et GPT-4o Mini avec une vitesse d'inférence de 150 tokens par seconde.
Motif de la recommandation :Mistral Small 3.1 précise les performances, la fenêtre de contexte et les points de disponibilité, ce qui permet de juger de son intérêt pour des déploiements légers.
LeRobot va à l'auto-école : le plus grand jeu de données open source de conduite autonome.
Hugging Face publie SigLIP 2, présenté comme un encodeur vision-langage multilingue amélioré.
Le blog Hugging Face publie Mini-R1, un tutoriel sur l'apprentissage par renforcement destiné à reproduire le moment eurêka de DeepSeek R1.
Mistral AI publie Mistral Small 3, un modèle de 24 milliards de paramètres sous licence Apache 2.0.
Motif de la recommandation :Un modèle 24B sous Apache 2.0 qui rivalise avec des modèles trois fois plus grands et se déploie sur un seul GPU, avec les cas d'usage ciblés.
Hugging Face publie Open-R1, une reproduction entièrement ouverte de DeepSeek-R1. Le contenu détaillé n'est pas disponible, seul le titre est fourni.
Hugging Face présente smolagents, une bibliothèque d'agents dont les actions sont écrites en code.
Hugging Face présente ModernBERT, un nouveau modèle destiné à remplacer BERT. Le billet de blog est publié sur le site de Hugging Face.
Hugging Face Blog annonce l'arrivée de la famille de modèles ouverts Falcon 3.
Mistral AI annonce Pixtral Large, un modèle multimodal open-weights de 124B construit sur Mistral Large 2.
Motif de la recommandation :L'annonce détaille les performances de Pixtral Large sur plusieurs benchmarks et sa disponibilité sous licence ouverte, ce qui permet de situer le modèle face à GPT-4o et Gemini-1.5 Pro.
Hugging Face publie Transformers.js v3, qui ajoute le support WebGPU (jusqu'à 100x plus rapide que WASM).
Motif de la recommandation :L'annonce détaille le support WebGPU, les nouveaux formats de quantification et la compatibilité multi-runtimes, ce qui aide à évaluer l'exécution de modèles dans le navigateur.
Hugging Face annonce la version stable de Gradio 5.
Motif de la recommandation :L'annonce détaille les améliorations de performance, de design et de streaming de Gradio 5, utile pour juger de son adoption en production.
Hugging Face et Intel Labs présentent le décodage spéculatif dynamique, une méthode qui accélère la génération de texte jusqu'à 2.
Motif de la recommandation :L'article présente la méthode de décodage spéculatif dynamique d'Intel Labs et Hugging Face, avec des gains de vitesse allant jusqu'à 2,7x et son intégration par défaut dans Transformers 4.45.0.
Hugging Face explique comment fine-tuner un modèle Llama3 8B existant en quantification extrême 1.58 bit via l'architecture BitNet.
Motif de la recommandation :L'article détaille des astuces concrètes pour fine-tuner un modèle existant en 1.58 bit, avec code et benchmarks, ce qui permet de reproduire la méthode.
Mistral AI annonce un palier gratuit sur la Plateforme.
Motif de la recommandation :L'annonce détaille les nouveaux tarifs par modèle et le palier gratuit de la Plateforme, ce qui permet d'évaluer le coût d'usage des API Mistral.
Mistral AI annonce Pixtral 12B, un modèle multimodal natif entraîné sur des données d'images et de texte entrelacées.
Motif de la recommandation :Présente l'architecture et les performances de Pixtral 12B, avec des comparaisons face aux modèles ouverts et fermés de même échelle.
Hugging Face a publié la première release candidate d'Accelerate 1.0.0, une bibliothèque d'entraînement distribué utilisée par transformers.
Motif de la recommandation :L'annonce détaille les changements cassants et les nouvelles intégrations de la version 1.0.0, ce qui aide les utilisateurs à évaluer la migration.
Le Technology Innovation Institute (TII) d'Abu Dhabi publie Falcon Mamba 7B, présenté comme le premier grand modèle 7B sans attention.
Motif de la recommandation :L'article détaille l'architecture sans attention, les benchmarks comparatifs et le support dans l'écosystème Hugging Face, utile pour évaluer les compromis des SSM.