Aller au contenu
Hugging Face Blog·· 2023-12-05sélectionAI Score62

AMD et Hugging Face : accélération out-of-the-box des LLM sur GPU AMD

AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU

AI Introduction

Hugging Face et AMD annoncent que les modèles Transformers peuvent désormais tourner sans modification de code sur les GPU AMD Instinct.

Raison de la recommandation

L'article détaille le support out-of-the-box des GPU AMD Instinct dans Transformers et TGI, avec des benchmarks face à l'A100.

Source :Hugging Face Blog · huggingface.co