"LiteLLM" 키워드로 분류된 글 모음.
OpenAI, Anthropic, Google 등 여러 LLM 프로바이더를 단일 인터페이스로 통합하는 LLM 게이트웨이를 설계합니다. 비용 기반 라우팅, 장애 대응 폴백, 레이트 리밋 관리, LiteLLM 활용 전략까지 다룹니다.