Aller au contenu

Orientations techniques

Déploiement et ingénierie Dernières actualités

Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.

535 sélections30 derniers jours 173 entréesTotal : 2 617 entrées

mise à jour

Archives de la sélection · page 9

20 octobremar.161–180 entrées
  1. Hugging Face Blog60

    Hugging Face publie AnyLanguageModel 1.0, avec prise en charge des modèles locaux et hébergés sur les plateformes Apple

    Hugging Face a publié AnyLanguageModel 1.0, une API compatible avec le framework Foundation Models d'Apple qui permet de remplacer le modèle utilisé en changeant simplement l'import. La version 1.0 prend en charge l'appel d'outils et la génération guidée pour tous les fournisseurs, ainsi que les images d'entrée, et couvre les modèles locaux via llama.cpp, MLX et Core ML, ainsi que les fournisseurs hébergés comme OpenAI, Anthropic, Gemini, Ollama et Hugging Face Inference Providers. L'article cite également les modèles open-weight les plus téléchargés sur le Hub, dont Gemma 4 E2B et LFM2.5 2.6B, qui tiennent sur un iPhone, et Qwen3.8 27B en MLX, qui nécessite un Mac avec au moins 32 Go de mémoire.

    Motif de la recommandation :L'article détaille les changements de l'API unifiée et la liste des fournisseurs pris en charge, utile pour évaluer le coût de migration des applications Swift existantes.

  2. The Hacker News72

    Go publie une mise à jour d'urgence bloquant huit clés d'AC pour des raisons de sécurité non divulguées

    Go 1.27.3 et Go 1.26.10, publiés le 20 octobre, font que le vérificateur de certificats de Go rejette toute chaîne de certificats passant par l'une des huit clés d'autorité de certification intermédiaire. Les programmes compilés avec cette nouvelle version refuseront les connexions aux sites et services dont les certificats ont été émis sous ces clés. L'équipe Go indique que ces clés appartiennent à une autorité de certification qu'elle n'a pas nommée.

  3. Hugging Face Blog78

    PyTorch 2.15 apporte FP8 et un décodage LLM plus rapide sur le backend MPS des Mac

    PyTorch 2.15 ajoute le support FP8 sur MPS et accélère le décodage des modèles de langage sur Mac. Sur un M3 Ultra avec torch.compile.

    Motif de la recommandation :L'équipe PyTorch de Hugging Face détaille les changements du backend MPS dans PyTorch 2.15, avec des chiffres de débit et de mémoire qui aident à évaluer l'exécution locale de modèles sur Mac.

  4. 3D Printing Industry60

    JOME Engineering imprime en 3D une hélice marine à partir d'un scan, réduisant les délais d'environ 60 %

    JOME Engineering a fabriqué à Dubaï une hélice marine de remplacement de 26 kg en acier inoxydable SS316L par fabrication additive à l'arc filaire (WAAM).

    Motif de la recommandation :Le cas montre comment un scan 3D associé au WAAM permet de refabriquer une pièce marine sans plan, avec un délai réduit d'environ 60 %.

  5. 3DPrint.com58

    EPlus3D revendique 50 000 commandes de composants de refroidissement liquide pour serveurs IA

    EPlus3D affirme avoir reçu 50 000 commandes de composants de refroidissement liquide pour serveurs IA.

    Motif de la recommandation :EPlus3D affirme avoir 50 000 commandes de composants de refroidissement liquide pour serveurs IA, un exemple concret de la façon dont la fabrication additive chinoise se tourne vers le matériel IA.

  6. ActuIA (fr)78

    Claroty reproduit avec Claude Sonnet 4.6 des exploits de failles Danfoss en 28 minutes pour environ 6 dollars

    Team82, l'équipe de recherche de Claroty, a reproduit avec Claude Sonnet 4.6, utilisé dans Cursor en mode de raisonnement medium.

    Motif de la recommandation :Le rapport chiffre en minutes et en dollars la reproduction d'exploits de failles déjà corrigées, et documente précisément les limites rencontrées par l'agent.

  7. Adafruit Blog58

    Des logiciels Mac classiques reconstruits en applications macOS natives

    Une collection de programmes Mac 68000 des années 1980 et 90 a été reconstruite en applications macOS natives. Le développeur a utilisé Claude Opus 5.5 pour rétro-ingénierer chaque programme vers une approximation de son langage source d'origine, puis a porté la logique de jeu en Swift ou C avec SDL, en conservant les sons et illustrations d'origine. Flight Simulator 1.02 a été le plus difficile, écrit surtout en assembleur 68k optimisé à la main et tenant sur les Macintosh 128k et 512k, il embarque son propre interpréteur de bytecode. Les applications nécessitent macOS 14 Sonoma ou ultérieur, les versions Universal tournent sur Apple silicon et Intel, les autres sur Apple silicon uniquement, et tout est signé et notarisé par Apple. Ces ports sont des projets de préservation non officiels, les ayants droit pouvant écrire à roy@roytinker.com pour un retrait.

    Motif de la recommandation :Un ensemble de 68000 programmes Mac des années 1980-90 reconstruits en apps macOS natives, avec Claude Opus 5.5 pour la rétro-ingénierie et un portage en Swift ou C avec SDL.

  8. Hugging Face Blog72

    Hugging Face présente TorchNeuron, un backend natif PyTorch pour AWS Trainium

    Hugging Face présente TorchNeuron, un plugin PyTorch qui fait de Neuron un périphérique natif sur AWS Trainium.

    Motif de la recommandation :L'original détaille le nouveau backend natif de PyTorch sur Trainium et les changements d'API dans Transformers, TRL et Diffusers, ce qui permet de juger du coût de migration depuis Optimum Neuron.

  9. AWS Machine Learning Blog62

    AWS explique comment le transfert bidirectionnel de KV cache dans vLLM améliore le TTFT des charges agentiques multi-tours

    AWS présente le transfert bidirectionnel de KV cache dans vLLM, qui permet au nœud prefill de réutiliser le KV conservé par le nœud decode lors des tours suivants.

    Motif de la recommandation :L'article détaille l'architecture du transfert bidirectionnel de KV cache dans vLLM et fournit des données de référence reproductibles sur la réduction du TTFT.

  10. AWS Machine Learning Blog68

    AWS présente le transfert KV push dans vLLM pour améliorer le TTFT et le TPOT de l'inférence désagrégée

    AWS a contribué à vLLM un connecteur NIXL en mode push qui déplace la coordination et la préparation du transfert KV après le prefill hors du chemin critique.

    Motif de la recommandation :L'article détaille le mécanisme de transfert KV push dans vLLM et fournit des données de benchmark reproductibles, utile pour évaluer l'impact sur le TTFT et le TPOT.

19 octobrelun.
  1. 3D Printing Industry58

    Des clones open source de SolidWorks et AutoCAD développés par vibecoding voient le jour

    SolidCraft, un modeleur 3D paramétrique, et CADCraft, un outil de dessin 2D de type AutoCAD.

    Motif de la recommandation :Deux clones open source de SolidWorks et AutoCAD, écrits en Rust et développés avec des agents de codage, exposent leurs propres outils via MCP et publient leurs limites actuelles.

  2. BleepingComputer58

    Microsoft : les mises à jour Windows Server d'octobre perturbent la connexion à Exchange et l'acheminement du courrier

    Microsoft a confirmé que les mises à jour de sécurité Windows Server d'octobre 2026 provoquent des problèmes de connexion à OWA et d'envoi de courrier sur certains systèmes Exchange Server.

    Motif de la recommandation :La cause est identifiée comme la limite par défaut des appels Endpoint Lookup, avec une clé de registre fournie pour contourner le problème.

18 octobredim.
  1. Hackster.io55

    CuprumFlow Graphics lance deux cartes de pilotage d'écrans haute résolution pour microcontrôleurs

    CuprumFlow Graphics présente deux cartes de 50×26 mm destinées à piloter des écrans haute résolution sans système d'exploitation.

    Motif de la recommandation :Présente les deux cartes CuprumFlow Graphics, leurs résolutions et le transpileur C vers FPGA, pour évaluer l'ajout d'un affichage haute résolution sur microcontrôleur.

17 octobresam.
  1. The Decoder82

    La Chine prévoit de renforcer le contrôle des exportations sur les modèles à poids ouverts et 23 technologies IA clés

    Les ministères chinois du Commerce et des Sciences ont publié un projet de mise à jour de la liste des technologies d'exportation interdites ou restreintes.

    Motif de la recommandation :Le projet chinois de contrôle des exportations fixe des seuils chiffrés pour les modèles ouverts et des procédures accélérées, ce qui éclaire les choix de déploiement des entreprises.

  2. CISA Advisories62

    NIST, NSA SISC et CISA publient dix pratiques clés pour la préparation et la réponse aux incidents dans l'entraînement et l'évaluation de la superintelligence

    Le NIST, le Super Intelligence Security Center de la NSA (NSA SISC) et la CISA ont publié le document Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation, qui présente dix pratiques volontaires pour aider les organisations entraînant et évaluant des agents de superintelligence (SI) à se préparer et à gérer les incidents de contrôle SI. Un incident de contrôle SI se produit lorsqu'un ou plusieurs agents SI prennent des actions non instruites qui entrent en conflit avec les politiques, contrôles ou mesures de sécurité encadrant la tâche et assurant la supervision humaine, ou les compromettent. Le document s'aligne sur les bonnes pratiques de réponse aux incidents cyber, ajoute des considérations spécifiques aux SI et souligne l'importance de tester les contrôles et de valider le confinement avant de reprendre les activités des agents SI. Il aborde notamment les mesures limitant l'accès des agents aux informations, systèmes, outils et réseaux, la surveillance des activités inattendues, la préservation des preuves et l'arrêt des comportements indésirables, la reconstruction à partir de bases vérifiées, ainsi que la notification des incidents et quasi-incidents aux agences gouvernementales concernées et aux parties affectées.

    Motif de la recommandation :Le document énumère dix pratiques volontaires pour la préparation et la réponse aux incidents liés aux agents d'IA de pointe, utile pour comprendre les exigences de contrôle avant déploiement.

16 octobreven.
  1. The Verge · AI78

    Une semaine avec RTX Spark : ce que nous avons appris en testant les nouveaux ordinateurs portables Nvidia

    The Verge a réuni les impressions de trois auteurs après une semaine de test sur cinq ordinateurs portables équipés du processeur Nvidia RTX Spark N1X.

    Motif de la recommandation :Trois auteurs ont testé cinq ordinateurs portables RTX Spark pendant une semaine, avec des données de benchmarks et des retours d'usage réels sur les jeux et l'IA locale, ce qui permet de comparer les performances et les limites de la puce N1X.

  2. Hugging Face Blog88

    Reflection publie Beam, un modèle MoE ouvert de 501B paramètres dédié au code et aux agents

    Le laboratoire américain Reflection publie Beam sur Hugging Face, un modèle de langage MoE de 501B paramètres (23B actifs par token) sous licence Apache 2.0.

    Motif de la recommandation :Un modèle MoE de 501B paramètres ouvert sous Apache 2.0, avec recettes d'inférence et de post-entraînement fournies, permet d'évaluer le coût réel d'un déploiement autonome.

  3. BleepingComputer69

    Une cyberattaque contre BAE Systems perturbe les opérations des tribunaux fédéraux américains

    Le Bureau administratif des tribunaux américains a déclaré qu'une cyberattaque visant le sous-traitant gouvernemental BAE Systems a mis hors service le système de notification utilisé par les tribunaux fédéraux de faillite et interrompu la production et la distribution des avis de faillite. Le bureau a indiqué être en communication avec les tribunaux concernés et coordonner son action avec BAE Systems, qui enquête activement et travaille à rétablir les opérations. Tous les accès aux systèmes et sites BNC exploités par BAE pour le compte du pouvoir judiciaire sont indisponibles, notamment bnc.uscourts.gov, bankruptcynotices.uscourts.gov, notices.uscourts.gov et le National Creditor Registration Service. BAE Systems est le plus grand contractant de défense européen et un important fournisseur de services informatiques, cloud et de cybersécurité pour des agences gouvernementales dans le monde.