Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.
535 sélections30 derniers jours 173 entréesTotal : 2 616 entrées
mise à jour
Archives de la sélection · page 4
10 novembremar.61–80 entrées · Au total 535 entrées
Motif de la recommandation :Le récapitulatif rassemble les benchmarks indépendants et les retours d'usage de Fable 5.2, utile pour comparer les niveaux d'effort et le coût par tâche.
Anthropic indique sur son blog de recherche avoir collaboré avec Diode Computers pour que Claude Fable 5.2 conçoive trois appareils électroniques à partir d'un court prompt.
Motif de la recommandation :Le texte détaille le processus complet de conception matérielle par Claude et les scores comparatifs sur PCB Gym et BenchCAD 2.1, ce qui permet de situer l'écart avec la version précédente.
MIPS a présenté des avancées de sa plateforme de référence Actus, une architecture RISC-V ouverte et économe en énergie destinée à combiner contrôle moteur temps réel.
Motif de la recommandation :La plateforme réunit contrôle moteur temps réel, inférence embarquée et communications déterministes sur une même puce, avec les interfaces et l'écosystème associés.
AWS annonce la disponibilité de Claude Fable 5.2 et Claude Mythos 5.2 sur Amazon Bedrock et Claude Platform on AWS. Fable 5.2 est présenté comme le modèle généralement disponible le plus capable d'Anthropic pour le codage et les sciences, capable de mener des tâches ambiguës à plusieurs étapes, de vérifier sa sortie et de fonctionner sans supervision pendant des heures voire des jours ; Mythos 5.2 reste accessible via les programmes de vérification d'Anthropic pour la cybersécurité et les sciences de la vie. Fable 5.2 est désigné Covered Model avec une rétention par défaut pouvant atteindre 30 jours et une revue humaine de sécurité, et le skill claude-api de Claude Code aide à migrer les identifiants de modèle et les paramètres.
Motif de la recommandation :Le firmware montre comment générer du 1080p30 sans framebuffer sur un RP2350, une méthode transférable aux projets d'affichage embarqué.
Motif de la recommandation :Présente la première passerelle IoT extérieure de MikroTik avec Wi-Fi HaLow, en détaillant les configurations radio, le backhaul et le prix de 139 dollars.
Motif de la recommandation :L'original détaille la configuration des cœurs, la mémoire et les interfaces industrielles du RZ/T2N, utile pour évaluer l'intégration d'un contrôle moteur et d'Ethernet industriel sur une seule puce.
Motif de la recommandation :L'outil transforme les captures d'analyseur logique en tests automatisés, avec un plugin pytest et une conversion sigrok par blocs.
Elon Musk a annoncé sur sa plateforme sociale que la Gigafactory cessera la production du Cybertruck à la mi-2027 et que l'usine du Texas se concentrera sur les Cybercab autonomes. Il n'a pas précisé s'il s'agit d'un arrêt total ou d'un transfert de production, mais l'ingénieur en chef du projet, Wes Morrill, a écrit sur X que le Cybertruck était une plateforme de développement technologique et qu'il perdure à travers le Cybercab. Le Cybertruck, dont les ventes sont restées bien en dessous de l'objectif de 250 000 unités, a connu des retards et des rappels.
Motif de la recommandation :Le texte rassemble l'annonce d'Elon Musk et la réaction de l'ingénieur en chef, ce qui permet de situer le changement de production du Cybertruck et ses conséquences.
Motif de la recommandation :Présente la prise en charge de MIG par SageMaker, avec les profils de partition, les limites et les mesures de débit et de coût sur Llama-3.1-8B.
Dominic Szablewski soutient dans un article que le codec Ultra Low Complexity (ULC) est particulièrement adapté au matériel du N64. Ce codec utilise la même transformée en cosinus discrète modifiée (MDCT) que le MP3, mais son décodage est très léger, au point qu'une ancienne démo Game Boy Advance lisait un fichier à 70 kbps sur un CPU ARM à 16 MHz. Dominic Szablewski a cherché à porter le code ULC vers le RSP du N64 afin de décharger le CPU ; face aux difficultés de l'assembleur MIPS, il a demandé à un chatbot de codage LLM de traduire des portions de code C ULC vers la syntaxe RSPL de Max Bebök. Le SDK open source N64 libDragon dispose désormais du support ULC.
Motif de la recommandation :L'article explique pourquoi le codec ULC convient au N64 et comment le portage vers le RSP a été réalisé, avec un exemple concret d'utilisation d'un chatbot LLM pour traduire du code C en RSPL.
Motif de la recommandation :L'avis détaille les processeurs AMD EPYC concernés, la version 13.1 et les contournements possibles, ce qui aide les administrateurs à évaluer l'exposition de leur parc.
IBM, AMD et le Quantum Science Center du Oak Ridge National Laboratory ont annoncé le 5 novembre une plateforme de co-conception quantique/IA destinée à améliorer la correction d'erreurs quantiques. La plateforme réunit le processeur quantique 120 qubits IBM Quantum Nighthawk et le système HPC Umbra d'ORNL, équipé de GPU AMD Instinct MI355X et de CPU EPYC de 5e génération, afin d'étudier la correction d'erreurs, l'optimisation du décodage et l'orchestration logicielle. Ce projet soutient la Quantum Genesis Mission du DOE, qui vise 100 qubits logiques et 100 000 opérations difficiles fin 2028 ; IBM indique avoir réalisé des expériences allant jusqu'à 70 qubits logiques et 438 opérations difficiles.
Motif de la recommandation :L'original détaille la configuration matérielle de la plateforme et l'écart entre les 70 qubits logiques actuels et l'objectif de 100 qubits logiques de la DOE.
Motif de la recommandation :L'original présente l'architecture de la bibliothèque open source et son API, permettant aux développeurs robotiques d'évaluer l'intégration des entrées-sorties Arduino dans ROS 2.
NVIDIA présente son CPU Vera comme offrant à la fois la vitesse d'agents la plus élevée et une meilleure capacité par watt que les CPU x86. Dans une comparaison sur un centre de données de 100 mégawatts, Vera permet 1,6 fois plus d'agents par watt que le CPU x86 le plus rapide et offre une vitesse d'agents 2 fois supérieure à celle du CPU x86 le plus économe en énergie. Plusieurs partenaires rapportent des gains en production, dont Perplexity avec des tâches de codage agentique 1,5 fois plus rapides et DeepInfra avec un orchestration agentique jusqu'à 2,2 fois plus rapide que le meilleur processeur x86.
Motif de la recommandation :Les chiffres comparatifs de Vera face aux CPU x86 et les tests de partenaires permettent de situer le choix d'infrastructure pour les charges d'agents.
Motif de la recommandation :Le partenariat précise les plateformes Qualcomm retenues et le calendrier de déploiement, ce qui éclaire la stratégie terrestre de Starlink.
OpenAI a annoncé le modèle ChatGPT Cyber, réservé aux utilisateurs de haut niveau du programme Daybreak Red destiné aux chercheurs en cybersécurité offensive. La veille.
Motif de la recommandation :L'article détaille les vulnérabilités découvertes par les modèles d'OpenAI et les limites du programme Daybreak, offrant un aperçu des capacités et des controverses actuelles de l'IA en cybersécurité.
Microsoft Research présente PDD Kit, une boîte à outils de développement piloté par la preuve (PDD) qui transforme l'intention de l'utilisateur en spécification formelle Verus.
Motif de la recommandation :L'article détaille comment transformer l'intention en spécification Verus et prouver le code d'un agent, avec un exemple concret de vérification de la logique de connexion.
Motif de la recommandation :Mistral détaille les agents managés, workflows et apps de Studio ainsi que les modes de déploiement, utile pour évaluer une plateforme d'IA d'entreprise.