Aller au contenu
Hugging Face Blog·· 2 hsélectionAI Score72

IBM publie Granite Switch 4.1, un endpoint unique pour le chat, la décision et la parole

Granite Switch 4.1: Chat, Decisions, and Speech from One Endpoint

AI Introduction

IBM publie les modèles Granite-Switch-4.1-8B et -30B, qui réunissent dans un seul endpoint hébergé les réponses en langage naturel.

Raison de la recommandation

Présente la composition d'adaptateurs dans un seul endpoint et la réutilisation du KV cache, un repère pour évaluer les coûts de déploiement multi-tâches.

Source :Hugging Face Blog · huggingface.co