Aller au contenu
5 novembrejeu.
4 novembremer.
21 octobremer.
  1. ActuIA (fr)67

    Amazon et Google font tourner du code PyTorch écrit pour Nvidia sur leurs puces

    Amazon et Google affirment qu'un modèle PyTorch écrit pour les GPU Nvidia peut désormais tourner sur Trainium et TPU avec un changement de configuration ou des modifications de code minimales. Chez Deepgram, seul client à avoir détaillé un portage, le modèle de transcription Nova-3 a exécuté toutes ses opérations sur Trainium2 après compilation avec TorchNeuron, au terme de plusieurs mois de travail incluant une convolution écrite de zéro en NKI et un moteur de service en Rust. Aucun document des deux groupes ne prévoit d'exécuter les noyaux maison écrits en CUDA ou en Triton, qui restent à reprendre dans le langage de chaque puce, et aucune mesure indépendante n'est disponible.

19 octobrelun.
15 octobrejeu.
12 octobrelun.
  1. NVIDIA Blog62

    NVIDIA ouvre l'architecture Vera Rubin à l'OCP pour aider à déployer des AI factories à l'échelle mondiale

    Lors du sommet mondial de l'Open Compute Project, NVIDIA a annoncé de nouveaux partenariats et contributions visant à créer une base commune pour l'infrastructure d'IA de nouvelle génération. NVIDIA a contribué les conceptions clés de rack et de plateau de calcul Vera Rubin à l'OCP via l'architecture ouverte NVIDIA MGX, offrant aux assembleurs une base commune pour développer l'infrastructure des AI factories de nouvelle génération. La spécification MGX 1.2 étend l'architecture ouverte avec un refroidissement liquide à connexion aveugle à l'échelle du rack, une infrastructure d'interconnexion interopérable et une barre omnibus refroidie par liquide de 5 000 A, et prend en charge des déploiements en rack jusqu'à 250 kW. NVIDIA a également lancé de nouveaux composants logiciels open source pour la plateforme DSX AI Factory, dont NVIDIA Config Manager, NVIDIA Cluster Readiness Engine, NVIDIA Rack Management Service et Cluster API Provider for NVIDIA Infrastructure Controller. Par ailleurs, NVIDIA, AMD, Google et Meta ont publié la spécification Open Data Center Specification v0.7, tandis que Google, Meta, Microsoft et NVIDIA ont publié la spécification OCP Grid Resilience. Meta a annoncé l'adoption des commutateurs Ethernet Spectrum-6 102,4 Tb/s de NVIDIA, et Google a annoncé la prise en charge de Falcon Transport sur les futurs SuperNIC ConnectX-10 et DPU BlueField de NVIDIA.

    Motif de la recommandation :L'annonce détaille les contributions matérielles et logicielles ouvertes de NVIDIA pour les AI factories, avec des spécifications concrètes et des partenariats vérifiables.

  2. Hackaday38

    Votre mémoire d'ordinateur est un mensonge

    Sur un ordinateur moderne, l'adresse mémoire utilisée par un programme n'est presque jamais une adresse physique et les données lues ne proviennent pas forcément de la RAM. Le processeur s'appuie sur une hiérarchie de caches (L1, L2, L3, lignes de 64 octets, protocole MESI), une mémoire virtuelle traduite par la MMU via des pages de 4 KB et un TLB, ainsi que des architectures NUMA où les temps d'accès diffèrent selon le nœud. Un accès non mappé déclenche un page fault que le système d'exploitation résout en allouant une page, en chargeant un fichier exécutable ou en récupérant des données depuis le swap.

8 octobrejeu.