LiteLLM
LiteLLM - 提供统一的模型接口格式
· ☕ 4 分钟
1. LiteLLM 是什么 LiteLLM 是开源 LLM 适配器:用 OpenAI 标准格式调用 100+ 种 API(OpenAI、Anthropic、Gemini、Bedrock、Azure、Ollama、vLLM、通义千问等)。 两种用法: Python SDK — 代码内直接调用 AI Gateway — 团队级代理,带鉴权、计费、负载均衡