基於Python FastAPI開發的Gemini API代理和負載均衡器應用程式提供多個Gemini API密鑰管理、負載均衡器、身份驗證、模型過濾、狀態監控等功能。它還支持OpenAI API格式的代理功能,以及圖像生成和上傳功能。
項目居間
該項目允許用戶通過簡單的配置來管理多個Gemini API密鑰,從而實現密鑰輪換、身份驗證、模型過濾和狀態監控。
主要功能
- 多鍵負載均衡器:支持配置多個Gemini API密鑰、自動投票,提高可用性和並發性。
- 可視化配置:通過管理後台修改配置無需重新啟動服務即可生效。
- OpenAI API兼容:支持OpenAI API格式的代理,易於集成。
- 圖像生成和上傳:集成圖像生成和多圖像傳輸功能。
- 狀態監測:提供密鑰狀態頁面來實時監控密鑰的使用情況。
項目結構
項目結構清晰,主要包括以下目錄:
app/配置/:配置管理app/core/:核心應用邏輯應用程式/資料庫/:資料庫模型和連接應用程式/路由器/:API路由應用程式/服務/:業務邏輯服務應用程式/模板/:HTML模板
部署方法
該項目提供Docker支持,用戶可以通過Docker容器快速部署服務。
注意事項
該項目採用CC BY-NC 4.0(簽名-非商業使用)許可證,並禁止任何形式的商業轉售服務。
Github:https://github.com/snailyp/gemini-balance
輸油管: