SageMaker AI ajoute le routage KV-aware
Pour commencer
Le 18/11/2026, le blog AWS annonce que SageMaker AI introduit le routage basé sur le cache KV pour les endpoints temps réel. Selon la source, il est sans frais supplémentaires, disponible dans toutes les régions commerciales AWS prenant en charge l'inférence temps réel SageMaker AI, pour les endpoints utilisant un conteneur pris en charge (images vLLM 0.33.0+ ou server-sagemaker-cuda-v2.8.0+). Le routage n'est actif qu'avec au moins deux instances ou deux copies d'un composant d'inférence.
AI Généré à partir des reportages · 5 hmise à jour
Chronologie des reportages
Suivez les reportages pour découvrir les différentes facettes de l'événement.
- AWS Machine Learning BlogsélectionAmazon SageMaker AI real-time endpoints prennent en charge le routage basé sur le cache KV
Amazon SageMaker AI introduit le routage basé sur le cache KV (KV-aware routing) pour les real-time endpoints.
Évolution des tendances de cet événement
- Actuel (période comparable)
- 9
- Pic (période comparable)
- 1018 novembre 06:00
- Évolution sur 24 h
- –
La tendance ne compare que les mêmes sujets observés de manière continue et complète ; la plage peut donc être plus restreinte que les statistiques de tendances actuelles. Survolez le graphique ou cliquez dessus pour afficher les tendances heure par heure ; les flèches gauche et droite du clavier permettent de naviguer.