Aller au contenu
Événement tendanceMise à jour continue

SageMaker AI ajoute le routage KV-aware

1 articles1 sources6 hmise à jour

Pour commencer

AI Synthèse

Le 18/11/2026, le blog AWS annonce que SageMaker AI introduit le routage basé sur le cache KV pour les endpoints temps réel. Selon la source, il est sans frais supplémentaires, disponible dans toutes les régions commerciales AWS prenant en charge l'inférence temps réel SageMaker AI, pour les endpoints utilisant un conteneur pris en charge (images vLLM 0.33.0+ ou server-sagemaker-cuda-v2.8.0+). Le routage n'est actif qu'avec au moins deux instances ou deux copies d'un composant d'inférence.

AI Généré à partir des reportages · 5 hmise à jour

Chronologie des reportages

Suivez les reportages pour découvrir les différentes facettes de l'événement.

18 novembre
  1. AWS Machine Learning Blogsélection
    Amazon SageMaker AI real-time endpoints prennent en charge le routage basé sur le cache KV

    Amazon SageMaker AI introduit le routage basé sur le cache KV (KV-aware routing) pour les real-time endpoints.

Évolution des tendances de cet événement

Actuel (période comparable)
9
Pic (période comparable)
1018 novembre 06:00
Évolution sur 24 h
–

La tendance ne compare que les mêmes sujets observés de manière continue et complète ; la plage peut donc être plus restreinte que les statistiques de tendances actuelles. Survolez le graphique ou cliquez dessus pour afficher les tendances heure par heure ; les flèches gauche et droite du clavier permettent de naviguer.