Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.
535 sélections30 derniers jours 173 entréesTotal : 2 616 entrées
mise à jour
Archives de la sélection · page 6
30 octobreven.101–120 entrées · Au total 535 entrées
Nikon Advanced Manufacturing a remporté un contrat du département de la Guerre des États-Unis pour fournir des systèmes personnalisés de fabrication additive métallique.
Motif de la recommandation :Le contrat précise le type de machine, la hauteur de construction et le site de production, ce qui permet de situer la demande de fabrication additive métallique dans la chaîne d'approvisionnement de défense.
Motif de la recommandation :Le cas montre comment une pièce imprimée en alliage de nickel a passé la qualification DNV-ST-B203 AMC Level 3 avant d'entrer en service dans un environnement H₂S.
Motif de la recommandation :Les écarts de score entre harnais pour un même modèle montrent pourquoi un benchmark d'agent ne décrit qu'une moitié du couple évalué.
Motif de la recommandation :Les tests comparatifs du CPU Vera face aux x86 d'AMD et Intel montrent ses points forts en Python et en bande passante mémoire, ainsi que ses limites en cryptographie et décompression.
Motif de la recommandation :OpenAI revient sur une réduction prévue des quotas ChatGPT Pro, un revirement qui éclaire l'évolution des offres d'abonnement et des limites d'usage.
Motif de la recommandation :L'original détaille le processus de collaboration entre l'assistant et l'ingénieur, ainsi que les formats d'export, permettant d'évaluer son intégration dans les flux de conception existants.
Motif de la recommandation :L'original détaille les performances de Mistral Large 4 sur le codage agentique et la cybersécurité défensive, ainsi que trois modes de raisonnement et le tarif API.
Motif de la recommandation :Les délais de fabrication passent de plusieurs mois à une semaine grâce à la fabrication additive, avec des substituts imprimés en 12 heures au lieu de 12 semaines.
Motif de la recommandation :Le texte précise que le chiffrement AES/CCM est déjà activé sur nRF52x et nRF54x, et que la prochaine étape consiste à l'étendre à RF24Gateway.
Milind Soni a publié OpenMausBot sur GitHub, une version open source de l'application de chat d'agents personnels. Chaque bot de la barre latérale est un véritable agent.
Motif de la recommandation :Présente l'architecture d'un agent de bureau open source, avec machine virtuelle cloud, courtier de permissions et déclencheurs, utile pour comparer les solutions d'agents personnels.
Seeed Studio a publié MeshCore sur GitHub, une bibliothèque C++ légère qui gère le routage multi-sauts de paquets pour les projets embarqués utilisant LoRa et d'autres radios à paquets. Les nœuds relaient les messages entre eux, ce qui permet aux appareils de dépasser la portée d'une liaison radio unique sans connexion internet. MeshCore se situe entre Meshtastic, orienté messagerie LoRa grand public, et Reticulum, plus riche en fonctions réseau, et vise les travaux embarqués personnalisés, notamment hors réseau et en urgence. Des binaires précompilés sont fournis pour les appareils pris en charge, le flashage peut se faire avec des outils comme Adafruit ESPTool et le réseau est accessible via une console série. Le firmware compagnon se connecte en BLE, USB ou Wi-Fi selon la version flashée, tandis que les firmwares répéteur et serveur de salle se configurent par USB dans un outil web ou à distance via LoRa depuis l'application mobile. Un exemple Simple Secure Chat fonctionne dans le moniteur série de Visual Studio Code ou une application terminal série sous Android, et le code est publié sous licence MIT.
Motif de la recommandation :MeshCore se situe entre Meshtastic et Reticulum, avec des binaires prêts à flasher et une licence MIT, ce qui permet de juger rapidement sa place dans les projets LoRa embarqués.
Motif de la recommandation :Le modèle open-weight réunit transcription, diarisation et traduction en un seul checkpoint, avec les recettes de données et de fine-tuning pour l'adapter à un domaine.
Survival LLM est un assistant IA gratuit et open source qui fonctionne entièrement sur une machine locale et répond à partir de références stockées en citant les articles utilisés avec le passage exact surligné. La bibliothèque comprend des références médicales, des recommandations du FEMA et du CDC, des manuels de survie, des guides de réparation et environ 930 000 articles Wikipédia ; le téléchargement complet fait 9 Go, ou 19 Go une fois installé, et une version réduite sans Wikipédia ni iFixit fait 1,3 Go. L'installation nécessite une connexion internet et prend de 20 minutes à environ 2h30, puis l'application fonctionne hors ligne sans compte ni suivi, en vérifiant la mémoire disponible pour télécharger un modèle adapté ; elle tourne sur Mac Apple Silicon avec macOS 14 ou plus récent et Windows 10 ou 11 64 bits, et les développeurs ont mesuré environ 100 W sur un MacBook Pro lors des réponses, à raison de 5 à 40 secondes par question.
Motif de la recommandation :Présente une solution d'assistant IA hors ligne avec citations et une bibliothèque de secours de 9 Go, utile pour comprendre les compromis d'un déploiement local.
Motif de la recommandation :L'original détaille l'intégration d'un système de dépôt multi-poudres et les questions de liaison et d'interface entre métaux, utiles pour suivre la fabrication additive multi-matériaux.
Motif de la recommandation :La faille touche la base EDK II utilisée par la plupart des firmwares serveur, et le calendrier de correction a été avancé par une publication prématurée d'AMI.
Motif de la recommandation :L'analyse détaille l'accord, la pile technologique quantique d'Intel et les doutes sur la neutralité de la plateforme, utile pour suivre la concurrence dans le quantique.
Motif de la recommandation :Le retrait du JIT expérimental de CPython et le contexte de la PEP 836 permettent de comprendre les critères de maintenance exigés pour l'optimisation du runtime.
Motif de la recommandation :L'article détaille comment Divergent associe impression 3D métal et assemblage robotisé, et pourquoi la qualification des pièces reste le principal obstacle à une adoption élargie.
Motif de la recommandation :Le dossier S-1 d'Anthropic expose les chiffres de croissance, de marge et de dépendance aux clouds, utiles pour situer l'économie des grands modèles.
Motif de la recommandation :Le projet arc-rebar permet aux anciennes cartes mères sans ReBAR de faire fonctionner les GPU Intel Arc, avec une bande passante mesurée passant de 15 GB/s à 392 GB/s.