Aller au contenu
20 octobremar.
  1. AWS Machine Learning Blog62

    AWS explique comment le transfert bidirectionnel de KV cache dans vLLM améliore le TTFT des charges agentiques multi-tours

    AWS présente le transfert bidirectionnel de KV cache dans vLLM, qui permet au nœud prefill de réutiliser le KV conservé par le nœud decode lors des tours suivants.

    Motif de la recommandation :L'article détaille l'architecture du transfert bidirectionnel de KV cache dans vLLM et fournit des données de référence reproductibles sur la réduction du TTFT.

  2. AWS Machine Learning Blog68

    AWS présente le transfert KV push dans vLLM pour améliorer le TTFT et le TPOT de l'inférence désagrégée

    AWS a contribué à vLLM un connecteur NIXL en mode push qui déplace la coordination et la préparation du transfert KV après le prefill hors du chemin critique.

    Motif de la recommandation :L'article détaille le mécanisme de transfert KV push dans vLLM et fournit des données de benchmark reproductibles, utile pour évaluer l'impact sur le TTFT et le TPOT.

19 octobrelun.
  1. CNX Software60

    Axera dévoile le SoC AX8860P à 16 cœurs Cortex-A55, jusqu'à 256 TOPS et 128 Go de LPDDR5x

    Axera a présenté le SoC AX8860P, un processeur à 16 cœurs Cortex-A55 doté d'un NPU allant jusqu'à 256 TOPS en FP4.

    Motif de la recommandation :L'original rassemble les spécifications du AX8860P et son positionnement face au DGX Spark, ce qui permet de comparer le rapport performance-prix des solutions d'IA de bureau.

18 octobredim.
  1. Tom's Hardware 3D60

    DLSS 5 officiel exécuté sur des jeux non pris en charge, jusqu'à 90 % de performances en plus que la version fuitée

    Des moddeurs ont extrait le build DLSS NR 310.9.16.0 livré avec NBA 2K27 et l'ont exécuté sur des jeux non pris en charge. Le nouveau modèle NR est jusqu'à 40 % plus rapide que le précédent, et jusqu'à 90 % dans The Witcher 3 selon Gaming Optimized sur X. Nvidia indique que le modèle est 24 % plus petit, utilise 20 % de VRAM en moins en 4K et traite ses charges de rendu neuronal jusqu'à 2x plus vite. Le DLL contient deux presets NR, A pour l'ancien modèle et B pour le nouveau, et la communauté a modifié le runtime pour prendre en charge les GPU RTX 20-series.

17 octobresam.
16 octobreven.
  1. Hugging Face Blog88

    Reflection publie Beam, un modèle MoE ouvert de 501B paramètres dédié au code et aux agents

    Le laboratoire américain Reflection publie Beam sur Hugging Face, un modèle de langage MoE de 501B paramètres (23B actifs par token) sous licence Apache 2.0.

    Motif de la recommandation :Un modèle MoE de 501B paramètres ouvert sous Apache 2.0, avec recettes d'inférence et de post-entraînement fournies, permet d'évaluer le coût réel d'un déploiement autonome.

  2. Hugging Face Blog72

    IBM publie Granite Switch 4.1, un endpoint unique pour le chat, la décision et la parole

    IBM publie les modèles Granite-Switch-4.1-8B et -30B, qui réunissent dans un seul endpoint hébergé les réponses en langage naturel.

    Motif de la recommandation :Présente la composition d'adaptateurs dans un seul endpoint et la réutilisation du KV cache, un repère pour évaluer les coûts de déploiement multi-tâches.

  3. EE Times62

    Le Japon propose 21 milliards de dollars à GlobalFoundries pour l'expansion de ses usines américaines

    Le Japon a proposé jusqu'à 21 milliards de dollars à GlobalFoundries pour construire et exploiter deux nouvelles usines de puces sur son site existant de Malta.

    Motif de la recommandation :Le Japon propose jusqu'à 21 milliards de dollars à GlobalFoundries pour deux nouvelles usines à New York, avec une prise de participation de 4 % du gouvernement américain.

  4. AWS Machine Learning Blog62

    Le modèle open-weight Muse Spark Open de Meta est disponible dans Amazon SageMaker JumpStart

    Le modèle open-weight Muse Spark Open de Meta, optimisé pour le codage, est désormais disponible dans Amazon SageMaker JumpStart.

    Motif de la recommandation :Le billet détaille les deux variantes de quantification, les instances compatibles et le déploiement pas à pas, ce qui aide à évaluer le coût et la mise en service.

15 octobrejeu.
14 octobremer.
  1. Hackster.io67

    Google publie ML Drift, un moteur de calcul GPU open source pour accélérer l'inférence IA en périphérie

    Google publie ML Drift, un moteur de calcul GPU open source conçu pour accélérer l'inférence IA des smartphones aux ordinateurs de bureau. Développé par l'équipe Google AI Edge.

    Motif de la recommandation :L'original détaille l'architecture de calcul unifiée et la compatibilité multiplateforme de ML Drift, ce qui permet de juger du coût de migration depuis l'ancien GPU delegate de TensorFlow Lite.

  2. Hackster.io50

    Un développeur construit un compteur de calories DIY avec l'IA locale sur RDK X5

    Coders Cafe a construit un compteur de calories dédié alimenté par l'IA qui identifie les aliments et estime leur contenu calorique en regardant une assiette. L'appareil exécute ses modèles de vision par ordinateur localement, sans envoyer d'images à un serveur cloud. Le projet repose sur un ordinateur monocarte D-Robotics RDK X5 avec un processeur octa-core Arm Cortex-A55 à 1,5 GHz, jusqu'à 8 Go de RAM et une Brain Processing Unit (BPU) dédiée capable de fournir 10 TOPS de performance IA. Une caméra stéréo binoculaire D-Robotics se connecte via l'interface MIPI-CSI. Le créateur a d'abord testé un modèle de détection d'objets YOLOv9 du RDK Model Zoo, puis a implémenté un modèle de segmentation identifiant les pixels de chaque aliment, ce qui permet de distinguer les éléments et de déterminer leur taille pour estimer les calories. Les résultats s'affichent sur un tableau de bord web et un écran Waveshare de quatre pouces. L'ensemble est logé dans un boîtier imprimé en 3D inspiré d'une miche de pain, aux couleurs beige et marron chocolat.

    Motif de la recommandation :Présente une chaîne complète de reconnaissance alimentaire locale, de la segmentation au calcul des calories, utile pour évaluer le déploiement edge.

  3. Hugging Face Blog80

    Liquid AI publie LFM2.5-24B-A2B, un modèle de raisonnement MoE pour agents sur appareil

    Liquid AI publie LFM2.5-24B-A2B, un modèle de raisonnement de 24B de paramètres dont seulement 2B sont actifs par token.

    Motif de la recommandation :Liquid AI publie les poids ouverts et les benchmarks d'un modèle MoE orienté agents sur appareil, permettant de comparer le compromis taille, vitesse et usage d'outils.

13 octobremar.
  1. Next (fr)88

    Des centaines de supermarchés français piratés via des contrôleurs de froid Danfoss

    Dans la nuit du 11 au 12 octobre, des pirates ont pris le contrôle de systèmes de régulation du froid dans plusieurs centaines de supermarchés français.

    Motif de la recommandation :L'attaque de la chaîne du froid dans des centaines de supermarchés français illustre les conséquences concrètes d'équipements exposés et non mis à jour.