DXC Technology comment construire un substrat IA multi-modèles sur Amazon Bedrock
DXC Technology a bâti sur Amazon Bedrock le substrat multi-modèles de DXC OASIS.
DXC Technology a bâti sur Amazon Bedrock le substrat multi-modèles de DXC OASIS.
Vinod Chugani a publié sur KDnuggets un plan d'étude en quatre étapes pour devenir ingénieur en vision par ordinateur.
Property Finder a découvert que 96,8 % des étiquettes de son jeu d'évaluation provenaient directement des prédictions d'un modèle existant plutôt que d'une vérification humaine.
Amazon SageMaker JumpStart a intégré plus de 100 nouveaux modèles provenant de 30 fournisseurs entre janvier et septembre 2026.
Meta publie Muse Spark Open, un modèle open-weight de la série Muse, avec environ 816 milliards de paramètres au total et environ 42 milliards activés par token.
Motif de la recommandation :Meta ouvre les poids d'un modèle MoE de 816B paramètres couvrant texte, image, audio et vidéo, avec les recettes de déploiement et de fine-tuning associées.
Le modèle open-weight Muse Spark Open de Meta, optimisé pour le codage, est désormais disponible dans Amazon SageMaker JumpStart.
Motif de la recommandation :Le billet détaille les deux variantes de quantification, les instances compatibles et le déploiement pas à pas, ce qui aide à évaluer le coût et la mise en service.
NVIDIA annonce que les ordinateurs portables RTX Spark seront disponibles le vendredi 16 octobre.
Motif de la recommandation :L'original détaille les logiciels et modèles prêts au lancement de RTX Spark, utile pour évaluer le passage des agents locaux du cloud au poste de travail.
Lors du sommet mondial de l'Open Compute Project, NVIDIA a annoncé de nouveaux partenariats et contributions visant à créer une base commune pour l'infrastructure d'IA de nouvelle génération. NVIDIA a contribué les conceptions clés de rack et de plateau de calcul Vera Rubin à l'OCP via l'architecture ouverte NVIDIA MGX, offrant aux assembleurs une base commune pour développer l'infrastructure des AI factories de nouvelle génération. La spécification MGX 1.2 étend l'architecture ouverte avec un refroidissement liquide à connexion aveugle à l'échelle du rack, une infrastructure d'interconnexion interopérable et une barre omnibus refroidie par liquide de 5 000 A, et prend en charge des déploiements en rack jusqu'à 250 kW. NVIDIA a également lancé de nouveaux composants logiciels open source pour la plateforme DSX AI Factory, dont NVIDIA Config Manager, NVIDIA Cluster Readiness Engine, NVIDIA Rack Management Service et Cluster API Provider for NVIDIA Infrastructure Controller. Par ailleurs, NVIDIA, AMD, Google et Meta ont publié la spécification Open Data Center Specification v0.7, tandis que Google, Meta, Microsoft et NVIDIA ont publié la spécification OCP Grid Resilience. Meta a annoncé l'adoption des commutateurs Ethernet Spectrum-6 102,4 Tb/s de NVIDIA, et Google a annoncé la prise en charge de Falcon Transport sur les futurs SuperNIC ConnectX-10 et DPU BlueField de NVIDIA.
Motif de la recommandation :L'annonce détaille les contributions matérielles et logicielles ouvertes de NVIDIA pour les AI factories, avec des spécifications concrètes et des partenariats vérifiables.
Meta a publié Muse Glimmer, un modèle multimodal de 30B paramètres sous licence Apache 2.0.
Motif de la recommandation :Meta publie un modèle multimodal de 30B sous Apache 2.0 avec support day-0 dans transformers, llama.cpp et vLLM, ce qui permet d'évaluer son usage local pour le codage et l'analyse de documents.
OpenEnv, outil de création d'environnements d'exécution agentiques, est désormais coordonné par un comité incluant Meta-PyTorch.
Motif de la recommandation :OpenEnv passe sous gouvernance communautaire et se recentre sur une couche d'interopérabilité pour les environnements RL agentiques, ce qui éclaire les choix d'outillage des équipes qui entraînent des agents.
Hugging Face et Meta présentent OpenEnv, un framework open source qui évalue les agents IA contre de vrais systèmes plutôt que des simulations.
Motif de la recommandation :L'article détaille le framework OpenEnv et le benchmark Calendar Gym, avec des chiffres concrets sur les limites des agents et des cas d'erreur d'appel d'outils réutilisables.
Keras prend en charge Llama 3.2 dès le jour de sa sortie, permettant de charger directement les checkpoints Hugging Face au format safetensors.
Meta Llama 3.1 405B, le plus grand modèle ouvert de Meta sorti en juillet 2024, peut être déployé sur Vertex AI via un nœud Google Cloud A3 équipé de 8 GPU NVIDIA H100.
Meta publie la famille Llama 3.1 en trois tailles (8B, 70B, 405B), chacune en version base et instruct.
Motif de la recommandation :Détaille les exigences mémoire, les intégrations et les recettes de quantification de Llama 3.1, utile pour planifier le déploiement et le fine-tuning.
Meta présente CyberSecEval 2, un cadre d'évaluation qui mesure la propension des LLM à générer du code non sécurisé.
Meta publie Llama 3, la nouvelle génération de sa famille de LLM open source, disponible sur Hugging Face en versions 8B et 70B.
Motif de la recommandation :L'article détaille les spécifications de Llama 3, les intégrations dans l'écosystème Hugging Face et les méthodes de déploiement, ce qui permet de comprendre les capacités du modèle et les options d'utilisation.
Hugging Face détaille un pipeline de génération de texte pour les modèles Llama 2 (7b.
Hugging Face détaille le fine-tuning de Wav2Vec2-BERT (checkpoint facebook/w2v-bert-2.0.
Hugging Face compare RoBERTa-large (355M paramètres), Llama-2-7b et Mistral-7B-v0.1 sur la classification de tweets de catastrophes.
Hugging Face permet désormais de déployer Llama 2 pour la génération de texte sur AWS Inferentia2 via optimum-neuron.
Hugging Face publie un tutoriel permettant à des non-ingénieurs d'entraîner et déployer un chatbot LLaMA 2 sans écrire une seule ligne de code.
Hugging Face a publié un benchmark de plus de 60 configurations de déploiement de Llama 2 sur Amazon SageMaker avec le Hugging Face LLM Inference Container. Les tests couvrent les tailles 7B, 13B et 70B sur des instances g5.2xlarge, g5.12xlarge, g5.48xlarge (NVIDIA A10G) et p4d.24xlarge (NVIDIA A100 40GB), avec 1, 5, 10 et 20 requêtes simultanées, en comparant notamment la quantification GPTQ 4-bit. Les recommandations distinguent le déploiement le plus économique, le meilleur débit et la meilleure latence ; le code, les données brutes et le tableur sont publiés sur GitHub.
Hugging Face explique comment fine-tuner Llama 2 70B avec PyTorch FSDP sur 2 nœuds de 8 GPU A100 80GB.
Motif de la recommandation :Le guide détaille les trois obstacles du fine-tuning de Llama 2 70B sous FSDP et les solutions concrètes apportées par Transformers et Accelerate.
Hugging Face annonce l'intégration de Code Llama, une famille de modèles ouverts dérivés de Llama 2 spécialisés sur le code.
Motif de la recommandation :Présente les trois tailles de Code Llama, la fenêtre de contexte étendue et l'intégration complète dans l'écosystème Hugging Face.
Hugging Face présente l'implémentation de la méthode Direct Preference Optimization (DPO) dans la bibliothèque TRL et montre comment fine-tuner le modèle Llama 2 7B sur le jeu de données de préférences Stack Exchange. DPO remplace l'étape de modélisation de récompense et l'optimisation RL de RLHF par un objectif de vraisemblance directe optimisé via une simple perte d'entropie croisée binaire, en s'appuyant sur une correspondance analytique entre la fonction de récompense et la politique RL optimale. Le tutoriel détaille le pipeline complet : SFT avec QLoRA sur Llama 2 7B, préparation des données de préférence au format prompt/chosen/rejected, puis entraînement avec DPOTrainer en configurant le paramètre beta (0,1 à 0,5). Le code source des scripts d'entraînement est disponible dans le répertoire examples/stack_llama_2 et le modèle entraîné est publié sur le Hub Hugging Face.
Motif de la recommandation :Le tutoriel détaille l'implémentation de DPO dans TRL et le fine-tuning de Llama 2, avec le code et les métriques de suivi.
Hugging Face explique comment déployer MusicGen, le modèle de génération musicale texte-vers-audio.
Meta publie Llama 2, une famille de grands modèles de langage open access de 7B à 70B paramètres.
Motif de la recommandation :Présente l'intégration complète de Llama 2 dans Hugging Face, avec les modèles, l'inférence et le fine-tuning, utile pour évaluer les options de déploiement.
Hugging Face présente son écosystème open source pour la génération de texte et les LLM.
Le blog Hugging Face explique comment le fine-tuning des couches Adapter de MMS atteint un taux d'erreur de mots très faible après seulement 10 à 20 minutes d'entraînement.
Hugging Face publie StackLLaMA, un modèle LLaMA 7B entraîné avec RLHF pour répondre aux questions de Stack Exchange.
Motif de la recommandation :Le guide détaille tout le pipeline RLHF de StackLLaMA, du jeu de données à l'entraînement PPO, avec des configurations LoRA et des commandes réutilisables.