Aller au contenu

Orientations techniques

Déploiement et ingénierie Dernières actualités

Les pratiques d'ingénierie pour faire tourner les modèles : optimisation de l'inférence, mémoire GPU et coûts, architectures de serving et choix d'infrastructure.

535 sélections30 derniers jours 173 entréesTotal : 2 616 entrées

mise à jour

Archives de la sélection · page 23

11 juinmer.441–460 entrées
  1. Mistral AI62

    Mistral AI lance Mistral Compute, une offre d'infrastructure IA privée

    Mistral AI annonce Mistral Compute, une nouvelle offre d'infrastructure IA fournissant une pile privée et intégrée allant des serveurs bare-metal au PaaS entièrement managé. L'offre inclut la suite d'entraînement de Mistral AI et s'appuie sur un partenariat avec NVIDIA pour proposer les dernières architectures de référence et des dizaines de milliers de GPU. Mistral Compute vise les États, entreprises et laboratoires de recherche en Europe, au Moyen-Orient, en Asie et dans l'hémisphère sud, avec un accent sur la souveraineté des données et l'utilisation d'énergie décarbonée.

    Motif de la recommandation :Mistral Compute propose une pile d'infrastructure IA privée, du bare-metal au PaaS, avec des GPU NVIDIA et un accent sur la souveraineté des données.

4 juinmer.
27 maimar.
22 maijeu.
7 maimer.
  1. Mistral AI78

    Mistral AI lance Mistral Medium 3, un modèle intermédiaire au coût réduit

    Mistral AI annonce Mistral Medium 3, un modèle qui atteint selon l'entreprise au moins 90 % des performances de Claude Sonnet 3.7 sur les benchmarks pour un coût de 0.

    Motif de la recommandation :Mistral Medium 3 revendique des performances proches de Claude Sonnet 3.7 pour un coût bien inférieur, avec un déploiement possible sur quatre GPU ou plus.

7 marsven.
  1. Mistral AI78

    Mistral AI lance Mistral OCR, une API de reconnaissance optique de caractères pour documents complexes

    Mistral AI annonce Mistral OCR, une API de reconnaissance optique de caractères qui traite images et PDF en entrée et restitue un contenu ordonné mêlant texte et images. Le modèle est présenté comme multilingue et multimodal, avec des benchmarks internes le plaçant devant Google Document AI, Azure OCR, Gemini-1.5 et GPT-4o sur les documents complexes, les mathématiques, le multilingue, les scans et les tableaux. L'API mistral-ocr-latest est facturée 1000 pages par dollar, avec environ le double de pages par dollar en inférence par lots, disponible sur la Plateforme et bientôt chez les partenaires cloud et en local, avec auto-hébergement sélectif pour les organisations traitant des informations sensibles.

    Motif de la recommandation :L'original expose les performances comparées de Mistral OCR et son tarif à la page, utile pour évaluer son intégration dans un pipeline RAG documentaire.

7 févrierven.
4 févriermar.
21 janviermar.
17 décembremar.
22 octobremar.
10 octobrejeu.
9 octobremer.
1 octobremar.
18 septembremer.
13 septembreven.
  1. Hugging Face Blog62

    Hugging Face publie la première release candidate d'Accelerate 1.0.0

    Hugging Face a publié la première release candidate d'Accelerate 1.0.0, une bibliothèque d'entraînement distribué utilisée par transformers.

    Motif de la recommandation :L'annonce détaille les changements cassants et les nouvelles intégrations de la version 1.0.0, ce qui aide les utilisateurs à évaluer la migration.

12 aoûtlun.
  1. Hugging Face Blog62

    Hugging Face lance une API unifiée d'appel d'outils pour plusieurs familles de modèles

    Hugging Face annonce une API unifiée d'appel d'outils couvrant plusieurs familles de modèles populaires.

    Motif de la recommandation :L'API unifiée d'appel d'outils et les templates de chat permettent de porter le même code entre Mistral, Cohere, NousResearch et Llama, ce qui réduit le travail d'adaptation par modèle.

7 aoûtmer.
  1. Mistral AI60

    Mistral AI annonce la personnalisation de modèles, les Agents en alpha et le SDK mistralai 1.0

    Mistral AI annonce la possibilité de personnaliser n'importe lequel de ses modèles phares et spécialisés sur La Plateforme.

    Motif de la recommandation :Mistral AI expose en détail la personnalisation de modèles, les Agents en alpha et le SDK 1.0, ce qui permet de juger des changements concrets pour les développeurs.

6 aoûtmar.
  1. OpenAI News75

    OpenAI lance les Structured Outputs dans l'API

    OpenAI annonce l'introduction des Structured Outputs dans l'API, les sorties de modèle respectant désormais de manière fiable les JSON Schemas fournis par les développeurs.

    Motif de la recommandation :L'API OpenAI ajoute les Structured Outputs, permettant aux sorties de modèle de respecter les JSON Schemas fournis par les développeurs.