Adafruit Blog· Anne Barela·· 6 jsélectionAI Score73
Google open source XSE, un moteur de serving C++ pour l'inférence XLA
Google gooses Python AI performance by… removing Python
AI Introduction
Google a mis en open source XSE (XLA Serving Engine), un runtime C++ qui sert des modèles d'apprentissage automatique sans interpréteur Python dans le chemin d'exécution.
Raison de la recommandation
L'original expose les performances de XSE sur les requêtes courtes et son périmètre d'usage, ce qui permet de situer la place du serving C++ dans les infrastructures existantes.
Source :Adafruit Blog · blog.adafruit.com