Hugging Face Blog·· 2023-11-07AI Score42
Hugging Face : accélérer la génération de texte avec Llama 2 sur AWS Inferentia2
Make your llama generation time fly with AWS Inferentia2
AI Introduction
Hugging Face permet désormais de déployer Llama 2 pour la génération de texte sur AWS Inferentia2 via optimum-neuron.
Source :Hugging Face Blog · huggingface.co