Hugging Face lance HUGS, microservices d'inférence optimisés pour les modèles ouverts
Hugging Face annonce le lancement de Hugging Face Generative AI Services (HUGS).
Hugging Face annonce le lancement de Hugging Face Generative AI Services (HUGS).
OpenAI et le Lenfest Institute lancent le programme AI Collaborative and Fellowship. Le contenu de l'article ne fournit pas d'autres détails vérifiables sur ce programme.
Hugging Face intègre Guardian de Protect AI comme scanner tiers pour détecter les exploits dans les modèles partagés sur le Hub. Tous les dépôts de modèles publics sont analysés automatiquement dès l'envoi des fichiers, sans action requise des utilisateurs, et les résultats s'affichent dans une interface remaniée avec un bouton Pickle dédié. Guardian détecte notamment les exécutions de code arbitraire via pickle et les couches Lambda de Keras, alors que des centaines de millions de fichiers ont déjà été scannés sur plus d'un million de dépôts.
Keras prend en charge Llama 3.2 dès le jour de sa sortie, permettant de charger directement les checkpoints Hugging Face au format safetensors.
L'équipe Hugging Face Transformers a corrigé un bug d'accumulation de gradient signalé par Unsloth et @bnjmn_marie.
AMD dévoile son CPU serveur EPYC de 5e génération (Turin), basé sur l'architecture Zen5.
Hugging Face annonce la version stable de Gradio 5.
Motif de la recommandation :L'annonce détaille les améliorations de performance, de design et de streaming de Gradio 5, utile pour juger de son adoption en production.
Hugging Face et Intel Labs présentent le décodage spéculatif dynamique, une méthode qui accélère la génération de texte jusqu'à 2.
Motif de la recommandation :L'article présente la méthode de décodage spéculatif dynamique d'Intel Labs et Hugging Face, avec des gains de vitesse allant jusqu'à 2,7x et son intégration par défaut dans Transformers 4.45.0.
En 2024, sur 1 500 entreprises d'IA actives dans le monde, 751 sont basées en Chine et 103 s'exportent déjà à l'étranger.
Hugging Face présente BenCzechMark, première suite d'évaluation complète des LLM en tchèque.
Hugging Face détaille les fonctionnalités de sa page Daily Papers.
Mistral AI annonce un palier gratuit sur la Plateforme.
Motif de la recommandation :L'annonce détaille les nouveaux tarifs par modèle et le palier gratuit de la Plateforme, ce qui permet d'évaluer le coût d'usage des API Mistral.
Hugging Face intègre TruffleHog à son pipeline de scan automatisé.
ggml est une bibliothèque de machine learning écrite en C et C++ dédiée à l'inférence Transformer.
Le Technology Innovation Institute (TII) d'Abu Dhabi publie Falcon Mamba 7B, présenté comme le premier grand modèle 7B sans attention.
Motif de la recommandation :L'article détaille l'architecture sans attention, les benchmarks comparatifs et le support dans l'écosystème Hugging Face, utile pour évaluer les compromis des SSM.
Le CERT-FR publie l'alerte CERTFR-2024-ALE-010 sur des vulnérabilités critiques de Roundcube Webmail.
Motif de la recommandation :Le CERT-FR détaille les versions affectées et les correctifs de deux failles XSS critiques de Roundcube, dont l'exploitation par simple ouverture d'un courriel est documentée.
Mistral AI annonce la possibilité de personnaliser n'importe lequel de ses modèles phares et spécialisés sur La Plateforme.
Motif de la recommandation :Mistral AI expose en détail la personnalisation de modèles, les Agents en alpha et le SDK 1.0, ce qui permet de juger des changements concrets pour les développeurs.
Meta publie la famille Llama 3.1 en trois tailles (8B, 70B, 405B), chacune en version base et instruct.
Motif de la recommandation :Détaille les exigences mémoire, les intégrations et les recettes de quantification de Llama 3.1, utile pour planifier le déploiement et le fine-tuning.
Hugging Face et KerasHub annoncent une intégration : Transformers et KerasHub partagent désormais un format de sauvegarde de modèles.
Motif de la recommandation :L'original expose le format de sauvegarde partagé entre Transformers et KerasHub, ce qui permet de charger directement plus de 300 000 modèles fine-tunés dans KerasHub.
OpenAI annonce un partenariat de contenu stratégique avec TIME, s'appuyant sur 101 ans d'archives du magazine pour améliorer les réponses et fournir des liens vers les articles de Time.com.
XLSCOUT a dévoilé ParaEmbed 2.0, un modèle d'embedding propriétaire destiné aux brevets et à la propriété intellectuelle.
Hugging Face consacre le sixième numéro de sa newsletter Ethics and Society à la qualité des données.
Stable Diffusion 3 Medium (2B paramètres) de Stability AI est disponible sur le Hugging Face Hub et utilisable avec Diffusers. Le modèle repose sur une architecture MMDiT avec trois encodeurs de texte (CLIP L/14, OpenCLIP bigG/14, T5-v1.1-XXL) et un autoencodeur 16 canaux, entraîné avec un objectif de rectified flow matching. L'intégration Diffusers inclut des optimisations mémoire (offloading CPU, suppression de l'encodeur T5, quantification 8 bits via bitsandbytes) permettant de réduire la consommation de 18,7 Go à 4,3 Go, ainsi que des scripts de fine-tuning DreamBooth et LoRA.
Motif de la recommandation :Le billet détaille l'intégration de SD3 Medium dans Diffusers, avec optimisations mémoire et scripts de fine-tuning LoRA directement réutilisables.
Hugging Face entreprend une refonte de la documentation de Transformers.
Mistral AI annonce la personnalisation de modèles sur la Plateforme, avec trois points d'entrée.
Motif de la recommandation :Mistral ouvre trois voies de personnalisation, du SDK open source au fine-tuning serverless, ce qui permet de situer le coût et l'effort requis selon son infrastructure.
Hugging Face a intégré le support de la génération assistée (Assisted Generation) pour Intel Gaudi dans Optimum Habana.
Mistral AI annonce la Mistral AI non-production license (MNPL).
Motif de la recommandation :Mistral introduit une licence non commerciale et publie Codestral sous ce régime, ce qui éclaire le lecteur sur les conditions d'usage de ses modèles.
Hugging Face et Microsoft approfondissent leur collaboration stratégique avec l'ajout de Llama 3.
Hugging Face et Dell lancent Dell Enterprise Hub, une expérience sur Hugging Face permettant d'entraîner et de déployer des modèles ouverts en local sur les plateformes Dell.
Hugging Face annonce l'intégration de première classe des GPU AMD Instinct MI300 dans sa plateforme.
Hugging Face et LangChain lancent langchain_huggingface.
Hugging Face dévoile l'Open Arabic LLM Leaderboard (OALL), un classement dédié à l'évaluation des LLM arabes.
Hugging Face publie Transformers Agents 2.0, qui introduit deux nouveaux agents capables d'itérer à partir d'observations passées pour résoudre des tâches complexes.
Motif de la recommandation :Le cadre d'agents open source expose la séparation entre moteur LLM et type d'agent, ainsi que les résultats comparés de Llama-3-70B et GPT-4 sur GAIA.
Hugging Face lance un leaderboard ouvert dédié à l'évaluation des LLM en hébreu.
Hugging Face présente l'Open CoT Leaderboard, un classement qui mesure le gain de précision apporté par le chain-of-thought (Δ = précision avec CoT – précision sans CoT) plutôt que la précision absolue des LLM. Il évalue les tâches LogiQA, LSAT et AGIEval/logikon-bench, en rendant les modèles plus robustes à la contamination des données d'entraînement. Deux stratégies de génération de traces de raisonnement sont implémentées : Classic (« Let's think step by step ») et Reflect.
Hugging Face publie JAT (Jack of All Trades), un agent Transformer unique entraîné sur un dataset de centaines de milliers de trajectoires d'experts couvrant Atari.
Motif de la recommandation :L'article détaille l'architecture et les résultats d'un agent Transformer unique couvrant jeux vidéo, robotique et navigation, avec dataset et modèles ouverts.
Hugging Face lance Deploy on Google Cloud, une intégration du Hub permettant de déployer des milliers de modèles ouverts sur Google Cloud via Vertex AI ou GKE.
Hugging Face annonce un partenariat avec Wiz Research visant à renforcer la sécurité de sa plateforme et de l'écosystème AI/ML.
Hugging Face annonce Deploy on Cloudflare Workers AI.
Zelma s'appuie sur GPT-4 pour rendre les données éducatives accessibles. Le projet exploite le modèle d'OpenAI afin de lever les barrières d'accès à ces données.