Aller au contenu
AWS Machine Learning Blog· Sitaraman Vijay Krishna·· 5 jAI Score42

Construire une passerelle LLM en libre-service avec Amazon Bedrock et LiteLLM

Building a self-service LLM gateway with Amazon Bedrock and LiteLLM

AI Introduction

AWS montre comment construire une passerelle LLM en libre-service en associant Amazon Bedrock Application Inference Profiles à LiteLLM sur AWS Fargate.

Source :AWS Machine Learning Blog · aws.amazon.com