繁中

LiteLLM:一個開源項目,為100多個LLM統一API輸入和輸出操作

一個開源項目,為Bedrock、Azure、OpenAI、Kohere、Anthropic、Olama、Sagemaker、HuggingFace和Copy等100多個LLM統一了API輸入和輸出、異常處理和負載平衡器操作。目前7.5K星收件箱

同時,LiteLLM也是WC W23的一個創業項目:https://ycombinator.com/companies/berriai

視頻:

返回頂端