Aller au contenu
Adafruit Blog· Anne Barela·· 6 jsélectionAI Score73

Google open source XSE, un moteur de serving C++ pour l'inférence XLA

Google gooses Python AI performance by… removing Python

AI Introduction

Google a mis en open source XSE (XLA Serving Engine), un runtime C++ qui sert des modèles d'apprentissage automatique sans interpréteur Python dans le chemin d'exécution.

Raison de la recommandation

L'original expose les performances de XSE sur les requêtes courtes et son périmètre d'usage, ce qui permet de situer la place du serving C++ dans les infrastructures existantes.

Source :Adafruit Blog · blog.adafruit.com