Aller au contenu
16 octobreven.
  1. The Decoder62

    Anthropic accorde à METR un accès interne pour auditer ses modèles et pratiques de sécurité

    Anthropic a accordé à une équipe de l'organisation à but non lucratif METR un accès interne pour examiner ses modèles d'IA et ses pratiques de sécurité. Six membres du personnel de METR ont reçu du matériel de l'entreprise, un espace de bureau et un accès à des outils internes, ce qui les place selon Anthropic à peu près au niveau de ses propres équipes de risque. Les données clients, les informations couvertes par le secret professionnel et les détails sur l'architecture des modèles restent inaccessibles. METR publiera ses conclusions de manière indépendante ; Anthropic indique pouvoir demander des caviardages dans certaines catégories prédéfinies, mais METR est libre de dire publiquement s'il estime ces caviardages justifiés. Cet accord va plus loin que ce qu'Anthropic a proposé à d'autres évaluateurs externes : SecureBio, Accenture et Faculty ont jusqu'ici reçu un accès moindre et des limites plus strictes sur ce qu'ils peuvent publier, et Anthropic a entamé des discussions préliminaires avec Hugging Face. Cette décision fait suite à la signature par Anthropic de l'accord de la Maison-Blanche sur la superintelligence, qui inclut un engagement à travailler avec des évaluateurs externes.

  2. Hugging Face Blog88

    Reflection publie Beam, un modèle MoE ouvert de 501B paramètres dédié au code et aux agents

    Le laboratoire américain Reflection publie Beam sur Hugging Face, un modèle de langage MoE de 501B paramètres (23B actifs par token) sous licence Apache 2.0.

    Motif de la recommandation :Un modèle MoE de 501B paramètres ouvert sous Apache 2.0, avec recettes d'inférence et de post-entraînement fournies, permet d'évaluer le coût réel d'un déploiement autonome.

  3. Latent Space62

    Goodfire défend que les réseaux de neurones sont déjà lisibles et que l'analyse agentique réduit la polysémantique

    Nick Cammarata, de Goodfire, avance dans un essai que la plupart des neurones des modèles jusqu'à plusieurs milliers de milliards de paramètres sont lisibles et que de nombreux cas célèbres de polysémantique et de superposition résistent moins à une analyse agentique poussée. Il rappelle que son travail d'interprétabilité automatisée chez OpenAI en 2023 ne trouvait qu'environ 2 % de neurones lisibles et soutient que plusieurs exemples fameux avaient été mal interprétés. Neel Nanda maintient ses réserves sur la superposition des représentations, Leo Gao propose de juger les explications par simulation de neurones mesurée en KL, et Pfau note que l'article n'est pas encore publié.

  4. Hugging Face Blog62

    NVIDIA et AI4Bharat publient Nemotron-pretraining-Indic-v1 avec un pipeline de génération ouvert

    NVIDIA et AI4Bharat (IIT Madras) annoncent Nemotron-pretraining-Indic-v1, un corpus d'environ 2.

    Motif de la recommandation :Le corpus de 2,8 billions de tokens et le pipeline de génération ouvert permettent de juger la couverture linguistique et la traçabilité des données.

  5. Hugging Face Blog72

    IBM publie Granite Switch 4.1, un endpoint unique pour le chat, la décision et la parole

    IBM publie les modèles Granite-Switch-4.1-8B et -30B, qui réunissent dans un seul endpoint hébergé les réponses en langage naturel.

    Motif de la recommandation :Présente la composition d'adaptateurs dans un seul endpoint et la réutilisation du KV cache, un repère pour évaluer les coûts de déploiement multi-tâches.

  6. TechCrunch · AI78

    Meta lance Muse Spark Open, un modèle open-weight exécutable sur Mac

    Meta a lancé Muse Spark Open, présenté comme le modèle open-weight le plus capable aux États-Unis.

    Motif de la recommandation :Meta publie un modèle open-weight natif multimodal de 816 milliards de paramètres, exécutable localement sur Mac, ce qui éclaire les arbitrages entre performance et matériel requis.

  7. The Decoder82

    Meta publie Muse Spark Open, un modèle open-weight de 816 milliards de paramètres

    Meta publie Muse Spark Open, un modèle open-weight de 816 milliards de paramètres (42 milliards actifs) avec jusqu'à un million de tokens de contexte et le support du texte.

    Même actualité, affichée dans la sélection« Meta publie Muse Spark Open, modèle MoE multimodal open-weight de 816B paramètres »

  8. Hugging Face Blog88

    Meta publie Muse Spark Open, modèle MoE multimodal open-weight de 816B paramètres

    Meta publie Muse Spark Open, un modèle open-weight de la série Muse, avec environ 816 milliards de paramètres au total et environ 42 milliards activés par token.

    Motif de la recommandation :Meta ouvre les poids d'un modèle MoE de 816B paramètres couvrant texte, image, audio et vidéo, avec les recettes de déploiement et de fine-tuning associées.