1.居間
Coze(按鈕) 字節跳動是一個開源代理平台,包括 Coze Studio(開發平台) 和 Coze Loop(運營維護平台)、支持本地化部署。
本地版本的主要功能:
- 支持 Docker編寫一鍵部署
- 提供 代理開發、插件、知識庫 管理功能
- 默認不包括大型型號,需要用戶配置 雲或本地模型API
2.環境準備
- 作業系統:Linux / macOS / Windows(推薦WSL 2)
- 依賴:
- Docker ' 20.10
- Docker Compose ≥ v2.20
- Git
3.部署步驟
1.獲取原始碼
git克隆https://github.com/coze-dev/coze-studio.git
CD coze-studio/docker
2.配置環境變量
複製 . dev.example 為 . inf,根據需要修改:
cp . dev.example . dev
常見配置:
#服務埠
APP_PORT=8888
#資料庫帳戶
POSTGRES_UTE =coze
郵政_密碼= coze 123
POSTGRES_DB=coze_Local
# Redis設置
REDIS_密碼= coze 123
3.啟動服務
Docker compose --Profile '*' up -d
等待容器啟動完成後,請訪問:
http://本地主機:8888
您可以進入Coze Studio管理平台。
4.訪問模型
1.雲模型(OpenAI示例)
在 Coze Studio-設置-大號 填寫:
- 基本URL:
https://api.openai.com/v1 - API密鑰:
sk-xxxxxx
2.本地型號(Ollama / FastChat推薦)
場景A:奧拉馬
安裝 奧拉馬 然後運行:
Olama run qwen:7 b
Ollama默認提供:
http://127.0.0.1:11434/v1
在按鈕中配置:
- 基本URL:
http://127.0.0.1:11434/v1 - API密鑰:任何字符串
方案B:快速聊天
部署 FastChat(支持Qwen、LLaMA、ChatGLM等):
docker run -it -p 8000:8000
-v ./ models:/models lmsys/fastchat
bash -c ' python3 -m fastchat.serve.Controller&
python3 -m fastchat.serve.model_worker --model-track/models/qwen-7 b&
python 3-m fastchat.serve.openai_api_server --主機0.0.0.0--port 8000」
在按鈕中配置:
- 基本URL:
http://127.0.0.1:8000/v1 - API密鑰:任何字符串
5.驗證是否已連接
1.直接測試API
與 捲曲 檢查大型號界面是否正常:
捲曲http://127.0.0.1:8000/v1/chat/completions
-H「內容類型:應用程式/json」
-H「授權:持票人測試」
-d '
「型號」:「qwen-7 b」,
「消息」:{「角色」:「用戶」,「內容」:「你好」}]
}'
返回 選擇|消息 → API正常
404/連接被拒絕|模型服務未啟動或URL不匹配
2.檢查按鈕日誌
docker編寫日誌-f app
常見錯誤:
被拒絕→模型服務未運行404 Not Found不正確| URL(缺失/v1)無效_請求_錯誤→返回格式不匹配,需要翻譯
6.常見問題和注意事項
- 默認無大型型號
按鈕本地版本只是一個代理平台,需要您手動配置大模型API。 - API格式要求
必須 OpenAI聊天完成格式:{「模型」:「xxx」,「消息」:[{「角色」:「用戶」,「內容」:「你好」}] }如果本地模型API不兼容,則必須使用 翻譯(代理) 封裝。 - 需要API密鑰
即使是本地模型(不檢查密鑰),也必須填寫隨機字符串,否則請求也會報告錯誤。 - 性能和延遲
- 雲模型→高網絡延遲
- 本地型號-取決於圖形性能(建議從16 GB視頻內存開始)
- 線下環境部署
- 在外部網絡機器上
Docker pull鏡像-碼頭工保存→內聯網碼頭工負載 - 避免網絡限制導致圖像下載失敗
- 在外部網絡機器上
七.總結
- 按鈕本地版本允許您在內聯網上安全地運行代理平台,但 大型號需要自己配置。
- 如果要訪問 當地法學碩士,推薦Olama(輕量級)或FastChat(高度兼容)。
- 遇到問題先使用
捲曲驗證大型號API,然後檢查按鈕配置和日誌。
Coze Studio本地版本的下載地址:https://github.com/coze-dev/coze-studio
輸油管: