Aller au contenu
12 novembrejeu.
28 octobremer.
20 octobremar.
16 octobreven.
  1. Hugging Face Blog88

    Meta publie Muse Spark Open, modèle MoE multimodal open-weight de 816B paramètres

    Meta publie Muse Spark Open, un modèle open-weight de la série Muse, avec environ 816 milliards de paramètres au total et environ 42 milliards activés par token.

    Motif de la recommandation :Meta ouvre les poids d'un modèle MoE de 816B paramètres couvrant texte, image, audio et vidéo, avec les recettes de déploiement et de fine-tuning associées.

  2. AWS Machine Learning Blog62

    Le modèle open-weight Muse Spark Open de Meta est disponible dans Amazon SageMaker JumpStart

    Le modèle open-weight Muse Spark Open de Meta, optimisé pour le codage, est désormais disponible dans Amazon SageMaker JumpStart.

    Motif de la recommandation :Le billet détaille les deux variantes de quantification, les instances compatibles et le déploiement pas à pas, ce qui aide à évaluer le coût et la mise en service.

13 octobremar.
12 octobrelun.
  1. NVIDIA Blog62

    NVIDIA ouvre l'architecture Vera Rubin à l'OCP pour aider à déployer des AI factories à l'échelle mondiale

    Lors du sommet mondial de l'Open Compute Project, NVIDIA a annoncé de nouveaux partenariats et contributions visant à créer une base commune pour l'infrastructure d'IA de nouvelle génération. NVIDIA a contribué les conceptions clés de rack et de plateau de calcul Vera Rubin à l'OCP via l'architecture ouverte NVIDIA MGX, offrant aux assembleurs une base commune pour développer l'infrastructure des AI factories de nouvelle génération. La spécification MGX 1.2 étend l'architecture ouverte avec un refroidissement liquide à connexion aveugle à l'échelle du rack, une infrastructure d'interconnexion interopérable et une barre omnibus refroidie par liquide de 5 000 A, et prend en charge des déploiements en rack jusqu'à 250 kW. NVIDIA a également lancé de nouveaux composants logiciels open source pour la plateforme DSX AI Factory, dont NVIDIA Config Manager, NVIDIA Cluster Readiness Engine, NVIDIA Rack Management Service et Cluster API Provider for NVIDIA Infrastructure Controller. Par ailleurs, NVIDIA, AMD, Google et Meta ont publié la spécification Open Data Center Specification v0.7, tandis que Google, Meta, Microsoft et NVIDIA ont publié la spécification OCP Grid Resilience. Meta a annoncé l'adoption des commutateurs Ethernet Spectrum-6 102,4 Tb/s de NVIDIA, et Google a annoncé la prise en charge de Falcon Transport sur les futurs SuperNIC ConnectX-10 et DPU BlueField de NVIDIA.

    Motif de la recommandation :L'annonce détaille les contributions matérielles et logicielles ouvertes de NVIDIA pour les AI factories, avec des spécifications concrètes et des partenariats vérifiables.

10 aoûtlun.
8 juinlun.
  1. Hugging Face Blog76

    Hugging Face place OpenEnv sous gouvernance communautaire pour le RL agentique open source

    OpenEnv, outil de création d'environnements d'exécution agentiques, est désormais coordonné par un comité incluant Meta-PyTorch.

    Motif de la recommandation :OpenEnv passe sous gouvernance communautaire et se recentre sur une couche d'interopérabilité pour les environnements RL agentiques, ce qui éclaire les choix d'outillage des équipes qui entraînent des agents.

12 févrierjeu.
  1. Hugging Face Blog60

    OpenEnv en pratique : évaluer les agents utilisant des outils dans des environnements réels

    Hugging Face et Meta présentent OpenEnv, un framework open source qui évalue les agents IA contre de vrais systèmes plutôt que des simulations.

    Motif de la recommandation :L'article détaille le framework OpenEnv et le benchmark Calendar Gym, avec des chiffres concrets sur les limites des agents et des cas d'erreur d'appel d'outils réutilisables.

21 octobrelun.
19 aoûtlun.
23 juilletmar.
24 maiven.
18 avriljeu.
  1. Hugging Face Blog88

    Meta publie Llama 3, la nouvelle génération de LLM open source

    Meta publie Llama 3, la nouvelle génération de sa famille de LLM open source, disponible sur Hugging Face en versions 8B et 70B.

    Motif de la recommandation :L'article détaille les spécifications de Llama 3, les intégrations dans l'écosystème Hugging Face et les méthodes de déploiement, ce qui permet de comprendre les capacités du modèle et les options d'utilisation.

29 févrierjeu.
19 janvierven.
7 novembremar.
28 septembrejeu.
26 septembremar.
  1. Hugging Face Blog32

    Llama 2 sur Amazon SageMaker : un benchmark

    Hugging Face a publié un benchmark de plus de 60 configurations de déploiement de Llama 2 sur Amazon SageMaker avec le Hugging Face LLM Inference Container. Les tests couvrent les tailles 7B, 13B et 70B sur des instances g5.2xlarge, g5.12xlarge, g5.48xlarge (NVIDIA A10G) et p4d.24xlarge (NVIDIA A100 40GB), avec 1, 5, 10 et 20 requêtes simultanées, en comparant notamment la quantification GPTQ 4-bit. Les recommandations distinguent le déploiement le plus économique, le meilleur débit et la meilleure latence ; le code, les données brutes et le tableur sont publiés sur GitHub.

13 septembremer.
25 aoûtven.
  1. Hugging Face Blog88

    Code Llama : Llama 2 apprend à coder

    Hugging Face annonce l'intégration de Code Llama, une famille de modèles ouverts dérivés de Llama 2 spécialisés sur le code.

    Motif de la recommandation :Présente les trois tailles de Code Llama, la fenêtre de contexte étendue et l'intégration complète dans l'écosystème Hugging Face.

8 aoûtmar.
  1. Hugging Face Blog62

    Fine-tuner Llama 2 avec DPO dans la bibliothèque TRL

    Hugging Face présente l'implémentation de la méthode Direct Preference Optimization (DPO) dans la bibliothèque TRL et montre comment fine-tuner le modèle Llama 2 7B sur le jeu de données de préférences Stack Exchange. DPO remplace l'étape de modélisation de récompense et l'optimisation RL de RLHF par un objectif de vraisemblance directe optimisé via une simple perte d'entropie croisée binaire, en s'appuyant sur une correspondance analytique entre la fonction de récompense et la politique RL optimale. Le tutoriel détaille le pipeline complet : SFT avec QLoRA sur Llama 2 7B, préparation des données de préférence au format prompt/chosen/rejected, puis entraînement avec DPOTrainer en configurant le paramètre beta (0,1 à 0,5). Le code source des scripts d'entraînement est disponible dans le répertoire examples/stack_llama_2 et le modèle entraîné est publié sur le Hub Hugging Face.

    Motif de la recommandation :Le tutoriel détaille l'implémentation de DPO dans TRL et le fine-tuning de Llama 2, avec le code et les métriques de suivi.

4 aoûtven.
18 juilletmar.
  1. Hugging Face Blog88

    Llama 2 est disponible sur Hugging Face

    Meta publie Llama 2, une famille de grands modèles de langage open access de 7B à 70B paramètres.

    Motif de la recommandation :Présente l'intégration complète de Llama 2 dans Hugging Face, avec les modèles, l'inférence et le fine-tuning, utile pour évaluer les options de déploiement.

17 juilletlun.
19 juinlun.
5 avrilmer.