Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.
535 sélections30 derniers jours 173 entréesTotal : 2 617 entrées
mise à jour
Archives de la sélection · page 13
8 octobrejeu.241–260 entrées · Au total 535 entrées
Motif de la recommandation :Le client non officiel tapo 0.11.1 prend en charge le protocole TPAP, ce qui permet aux appareils Tapo de fonctionner sans activer la compatibilité tierce.
Le développeur ukrainien Print&Live UA et iSCALE 3D ont achevé les essais sur terrain et au combat de roues sans air imprimées en 3D pour véhicules terrestres sans équipage (UGV). Les roues sont déjà produites en petites séries et livrées régulièrement aux unités de combat ; un ensemble complet coûte environ 680 €, contre 3 000 à 4 000 dollars ou plus pour des roues sans air comparables de fournisseurs étrangers. Les essais les plus complets proviennent de la 3e brigade d'assaut séparée, qui les a montées sur un UGV TARGAN 3K 244 EVO 1 : 210 km sur un polygone d'essai puis 151 km lors de 11 missions de combat hivernales entre 0 °C et −15 °C, transportant 1 825 kg de fret et évacuant un blessé. La bande de roulement a montré une usure modérée, mais les roues sont restées pleinement fonctionnelles. La recherche et le développement étant terminés, les partenaires construisent des équipements d'impression supplémentaires pour servir les fabricants d'UGV passant en production de série ainsi que les brigades de combat.
Motif de la recommandation :L'article détaille une architecture de test modulaire avec boîtier universel, carte adaptatrice et framework logiciel réutilisable, et fournit un projet de référence open source complet.
Efinix a présenté le Sapphire RV64 SoC, un processeur soft-core RISC-V 64 bits configurable destiné à ses FPGA Titanium et Trion. Basé sur le cœur VexiiRiscv.
Motif de la recommandation :L'original expose les paramètres configurables du cœur RISC-V et la compatibilité mémoire, ce qui permet de juger de son intégration dans les FPGA Efinix.
Une expérience de terrain menée auprès de 133 avocats dans onze cabinets de propriété intellectuelle montre que l'accès à un assistant IA de rédaction de brevets (aujourd'hui intégré à Gemini Notebook) améliore les scores de rédaction de 0,34 écart-type après 10 jours et de 0,38 après 90 jours, mais que ces gains disparaissent pour les juniors lorsque l'outil est retiré. Sur une tâche de correction sans IA à 90 jours, seuls les avocats seniors progressent de 0,45 écart-type, tandis que les juniors ne montrent aucune amélioration et voient leurs scores se diviser entre très faibles et bons. Les chercheurs concluent que l'amélioration de la performance et la construction d'un jugement professionnel durable sont deux objectifs distincts, potentiellement en tension pour les juniors.
Motif de la recommandation :Une expérience de terrain sur trois mois montre que l'assistance IA améliore la production immédiate mais ne construit pas le jugement professionnel des juniors.
Motif de la recommandation :Les prix par million de tokens et les scores de benchmarks permettent de comparer directement Haiku 5.5 à Haiku 4.5 et à GPT-6 Luna.
Motif de la recommandation :Présente les caractéristiques de Claude Haiku 5.5 et son usage combiné avec Opus 5.5, avec des exemples de code pour l'appel sur Bedrock.
NVIDIA et Microsoft ont présenté lors d'un événement à San Francisco le 7 octobre une co-ingénierie matérielle et logicielle pour faire tourner des agents IA sur Windows PC. Microsoft a annoncé la disponibilité générale de Microsoft Execution Containers (MXC), une infrastructure au niveau de l'OS qui permet aux agents de s'exécuter en arrière-plan de façon sécurisée et persistante, sous contrôle du système. Côté matériel, RTX Spark associe un GPU NVIDIA Blackwell RTX jusqu'à 6 144 cœurs et un CPU NVIDIA Grace jusqu'à 20 cœurs reliés à 600 GB/s, avec 1 petaflop de performance FP4 et jusqu'à 128 Go de mémoire unifiée ; les précommandes de laptops sont ouvertes, la disponibilité étant prévue le vendredi 16 octobre, et les desktops compacts en novembre. NVIDIA a aussi dévoilé DGX Station for Windows, un supercalculateur de bureau basé sur le GB300 Grace Blackwell Ultra Desktop Superchip avec 748 Go de mémoire cohérente et jusqu'à 20 petaFLOPS FP4, capable de faire tourner localement des modèles jusqu'à l'échelle du trillion de paramètres.
Motif de la recommandation :NVIDIA et Microsoft détaillent l'infrastructure MXC et le matériel RTX Spark, ce qui permet de situer les conditions d'exécution locale des agents sur Windows.
Motif de la recommandation :L'article détaille le classifieur ModernBERT de GitHub pour la détection de secrets non structurés et son intégration dans la protection push, avec des données sur neuf trimestres.
Motif de la recommandation :Le cadre open source expose un paradigme d'entraînement RL avec le harness réel et un pipeline reproductible, ce qui permet de juger de son intégration dans les flux existants.
Motif de la recommandation :La faille touche LMCache en mode multiprocessus et vLLM, avec un score de 9,8 et aucune version corrigée, ce qui éclaire les risques des déploiements de cache LLM.
Motif de la recommandation :L'accord de licence entre Qualcomm et Huawei autour de LogicFolding permet de comprendre comment le packaging avancé contourne les contraintes de lithographie.
Motif de la recommandation :L'article détaille une recette réutilisable de spécialisation par SFT, RL et boucle d'inférence, avec les scores et les ressources ouvertes.
L'industrie décrit de plus en plus l'infrastructure d'IA en gigawatts, mais un gigawatt de GPU sous contrat n'équivaut pas à un gigawatt de capacité de centre de données. L'auteur.
Motif de la recommandation :L'auteur, fort de plus de vingt ans dans les cycles de capacité des semi-conducteurs, décortique l'écart entre les gigawatts annoncés et la capacité réellement opérationnelle, en s'appuyant sur les chiffres de Nvidia, AMD, Broadcom et JLL.
Motif de la recommandation :L'original détaille les trois obstacles au déploiement de l'IA physique et la manière dont l'architecture Europa et le SDK Voyager les contournent.
John Spicer, du projet de front-end du compilateur EDG C++, a annoncé que le projet sera désormais open source et géré par l'organisation à but non lucratif C++ Alliance.
Motif de la recommandation :Le front-end EDG, utilisé par MSVC, Intel et CUDA, passe en open source sous la C++ Alliance, un changement pour l'écosystème C++.
Un article intitulé « Full-Field Damage Monitoring in Architected Lattices Using In situ Electrical Impedance Tomography » montre que des treillis imprimés en 3D peuvent détecter et localiser des dommages en mesurant les changements de conductivité électrique. L'équipe a fabriqué des résines dopées aux nanotubes de carbone et imprimé des treillis de Voronoï de 48 millimètres de largeur, puis cartographié leur conductivité. Les cartes mises à jour ont révélé que les dommages apparaissaient aux sites de perte de conductivité, et que différentes topologies présentaient différents niveaux de détection. L'algorithme pouvait suivre les fissures jusqu'à environ une strut de la fracture. Les travaux ont été menés au laboratoire SM2AM de l'Université de Glasgow, avec la participation de l'Université de Sydney. Le professeur Shanmugam Kumar compare la méthode à une IRM, permettant de voir comment différentes parties du treillis réagissent sous contrainte, et espère créer des systèmes de matériaux auto-détecteurs.
Motif de la recommandation :L'article présente une méthode de détection des dommages dans les treillis imprimés en 3D par tomographie d'impédance électrique, avec des résultats expérimentaux et des perspectives d'application.
Motif de la recommandation :La démonstration d'Everspin montre comment le CXL peut connecter une mémoire persistante entre DRAM et NAND, avec des chiffres de latence et de validation à l'appui.