LiteLLM：统一100多种 LLM 的 API 输入输出操作的开源项目

作者

Tarogo Cloud

创建

8 5 月, 202428 4 月, 2024

更新

28 4 月, 20248 5 月, 2024

阅读时间

不到 1 分钟

查看

191

类别: AI项目, 开源项目

统一 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate 等 100 多种 LLM 的 API 输入输出、异常处理和负载均衡等操作的开源项目，目前 7.5K Star ⭐️

同时 LiteLLM 还是 YC W23 的创业项目：https://ycombinator.com/companies/berriai

视频：https://youtu.be/TCeX1X4oVTo