一個開源項目,為Bedrock、Azure、OpenAI、Kohere、Anthropic、Olama、Sagemaker、HuggingFace和Copy等100多個LLM統一了API輸入和輸出、異常處理和負載平衡器操作。目前7.5K星收件箱
同時,LiteLLM也是WC W23的一個創業項目:https://ycombinator.com/companies/berriai
視頻:
一個開源項目,為Bedrock、Azure、OpenAI、Kohere、Anthropic、Olama、Sagemaker、HuggingFace和Copy等100多個LLM統一了API輸入和輸出、異常處理和負載平衡器操作。目前7.5K星收件箱
同時,LiteLLM也是WC W23的一個創業項目:https://ycombinator.com/companies/berriai
視頻: