Aller au contenu

Entreprises et modèles

NVIDIA Dernières actualités

L'actualité des puces et de l'écosystème IA de NVIDIA : nouveaux GPU, écosystème CUDA, plateformes robotiques et tendances du marché de la puissance de calcul IA.

43 sélections30 derniers jours 29 entréesTotal : 172 entrées

mise à jour

Archives de la sélection · page 3

18 marsmar.41–43 entrées
18 juilletjeu.
  1. Mistral AI78

    Mistral AI publie Mistral NeMo, un modèle 12B avec une fenêtre de contexte de 128k

    Mistral AI publie Mistral NeMo, un modèle 12B développé en collaboration avec NVIDIA.

    Motif de la recommandation :Mistral NeMo est un modèle 12B à fenêtre de 128k, sous licence Apache 2.0, avec un tokenizer Tekken plus efficace et une quantification FP8, ce qui permet d'évaluer les compromis entre taille, contexte et coût d'inférence.

5 décembremar.
  1. Hugging Face Blog62

    Hugging Face lance Optimum-NVIDIA, une bibliothèque d'inférence LLM accélérée en une ligne de code

    Hugging Face publie Optimum-NVIDIA, une bibliothèque d'inférence qui accélère l'inférence des LLM sur la plateforme NVIDIA en modifiant une seule ligne de code.

    Motif de la recommandation :L'original expose le point d'entrée d'une ligne, le gain de débit et la prise en charge de FP8, ce qui permet de juger l'impact sur le déploiement existant.