Aller au contenu
24 octobresam.
23 octobreven.
  1. Hugging Face Blog42

    Hugging Face : vérifier si un modèle Transformers s'exécute sur AWS Trainium

    Hugging Face met en ligne un Space qui indique si un modèle Transformers du Hub s'exécute sans modification sur AWS Trainium via le backend PyTorch natif torch-neuronx. Chaque fiche précise le résultat du test, le nombre de cœurs Trainium utilisés, le temps d'exécution compilation incluse et la mémoire device de pointe, avec le script run.py et les versions de neuronx-cc et de Transformers. Les tests se limitent pour l'instant aux modèles de génération de texte et image-texte tenant sur 4 instances Trainium2 (16 cœurs au plus), et les résultats proviennent du dataset public aws-neuron/torch-neuronx-model-support.

  2. CISA Advisories58

    CISA relaie un avis Siemens sur une faille UEFI Secure Boot dans les SIMATIC IPC

    CISA republie l'avis Siemens ProductCERT SSA-159454 concernant la présence d'une clé de test de fournisseur BIOS dans la base de clés UEFI Secure Boot des SIMATIC IPC BX-21A.

    Motif de la recommandation :L'avis détaille la faille de clé de test UEFI, les versions corrigées et la procédure de mitigation, utile aux équipes gérant des IPC Siemens.

  3. AWS Machine Learning Blog58

    Comment diffuser de la voix à faible latence depuis des agents IA avec Kokoro TTS sur Amazon SageMaker AI

    AWS explique comment réduire la latence vocale d'un agent IA en envoyant chaque phrase au modèle TTS Kokoro-82M hébergé sur un point de terminaison bidirectionnel Amazon SageMaker AI dès sa génération, plutôt qu'après la réponse complète. Le tutoriel couvre la gestion des trames WebSocket binaires, le maintien de la session entre messages, le découpage incrémental des phrases et le choix entre audio base64 dans des événements SSE et multiplexage binaire et JSON. En isolant le transport TTS, l'envoi de la seule première phrase fait passer le délai moyen jusqu'au premier octet audio de 329,3 ms à 156,7 ms, et le mode bidi est 2,4 à 3,5 fois plus rapide que le mode batch sur un agent déployé.

  4. AWS Machine Learning Blog60

    Amazon SageMaker AI lance des API de session d'entraînement pour écrire sa propre boucle d'entraînement sans gérer les GPU

    Amazon SageMaker AI lance des API de session d'entraînement qui transforment les opérations GPU comme forward_backward().

    Motif de la recommandation :L'original détaille le modèle de programmation des API de session d'entraînement et la répartition des responsabilités, avec un exemple GRPO exécutable et des chiffres de gain de précision.

22 octobrejeu.
  1. CISA Advisories55

    La CISA et le Centre canadien de cybersécurité publient des recommandations conjointes sur la gestion de la consommation de tokens d'IA

    La CISA, le Centre canadien de cybersécurité et leurs partenaires publient des recommandations conjointes intitulées Managing AI Token Consumption for Operational Resilience.

    Motif de la recommandation :Les recommandations conjointes détaillent les risques de coût et de disponibilité liés à la consommation de tokens et les mesures concrètes pour les atténuer.

  2. NVIDIA Blog34

    NVIDIA modèles ouverts : une nouvelle vague de projets européens dans le secteur public

    NVIDIA accompagne plusieurs gouvernements européens dans le déploiement de modèles ouverts pour des services publics sous contrôle local des données. La Commission européenne étend la plateforme Haystack Enterprise de deepset, socle d'AI@EC, avec NVIDIA Triton Inference Server pour l'inférence ; le Royaume-Uni dispose de Nemotron-Personas-UK (1 million de personas synthétiques) et l'Allemagne de Nemotron-Personas-Germany (1 million d'enregistrements, six personas synthétiques chacun, issus du recensement 2022). En Pologne, Deloitte déploie des systèmes agentiques pour la santé et l'emploi, dont une usine agentique destinée à plus de 400 bureaux du travail, et en France LINAGORA et Docaposte fournissent un espace collaboratif souverain basé sur Twake.ai à plus de 2 500 organisations éligibles.

  3. NVIDIA Blog62

    NVIDIA Cosmos dévoile de nouveaux outils pour entraîner, évaluer et déployer des world models

    NVIDIA étend la plateforme Cosmos avec des outils d'entraînement, des checkpoints de simulation et cinq blueprints Cosmos Data Factory.

    Motif de la recommandation :L'original détaille les nouveaux outils d'entraînement, de simulation et de déploiement de Cosmos ainsi que les cas d'usage de Porsche et ANYbotics, permettant de juger du parcours complet des world models.

  4. Hugging Face Blog60

    Entraîner en simulation et déployer sur un vrai robot : Microduck avec Isaac Lab 3.0

    Hugging Face et Pollen Robotics présentent un tutoriel pour entraîner la politique de marche du robot bipède open source Microduck dans Isaac Lab 3.0 avec Newton.

    Motif de la recommandation :Le tutoriel détaille le pipeline complet de l'entraînement en simulation au déploiement sur le robot bipède Microduck, avec les commandes et les points d'export ONNX.

21 octobremer.