LiteLLM

LiteLLLM是开放源码的AI网关 将你的AI堆满的 AI堆放在一个与 OpenAI 兼容的密钥后面 轨道和上限LLM花销、通向正确模式的路线和自宿地点,甚至空中加压140+供应商、1 892模型。 “LiteLLLM使荷兰国际航天局工程师有一个单一的、一致的方式访问超过100个AI模型终点。” “LiteLLLM简化了管理多种LLM模型的复杂性。” LLM让我的团队为我们用户提供最新的LLM模型, 通常在用户被释放后一天之内, 这是网关的简单配置更新; 不需要修改代码、采购周期或重复的安全审查。