繁中

開源按鈕(Coze Studio本地版)部署指南

1.居間

Coze(按鈕) 字節跳動是一個開源代理平台,包括 Coze Studio(開發平台) 和 Coze Loop(運營維護平台)、支持本地化部署。
本地版本的主要功能:

  • 支持 Docker編寫一鍵部署
  • 提供 代理開發、插件、知識庫 管理功能
  • 默認不包括大型型號,需要用戶配置 雲或本地模型API

2.環境準備

  • 作業系統:Linux / macOS / Windows(推薦WSL 2)
  • 依賴

3.部署步驟

1.獲取原始碼

git克隆https://github.com/coze-dev/coze-studio.git
CD coze-studio/docker

2.配置環境變量

複製 . dev.example 為 . inf,根據需要修改:

cp . dev.example . dev

常見配置:

#服務埠
APP_PORT=8888

#資料庫帳戶
POSTGRES_UTE =coze
郵政_密碼= coze 123
POSTGRES_DB=coze_Local

# Redis設置
REDIS_密碼= coze 123

3.啟動服務

Docker compose --Profile '*' up -d

等待容器啟動完成後,請訪問:

http://本地主機:8888

您可以進入Coze Studio管理平台。

4.訪問模型

1.雲模型(OpenAI示例)

在 Coze Studio-設置-大號 填寫:

  • 基本URL: https://api.openai.com/v1
  • API密鑰: sk-xxxxxx

2.本地型號(Ollama / FastChat推薦)

場景A:奧拉馬

安裝 奧拉馬 然後運行:

Olama run qwen:7 b

Ollama默認提供:

http://127.0.0.1:11434/v1

在按鈕中配置:

  • 基本URL: http://127.0.0.1:11434/v1
  • API密鑰:任何字符串

方案B:快速聊天

部署 FastChat(支持Qwen、LLaMA、ChatGLM等):

docker run -it -p 8000:8000 
 -v ./ models:/models lmsys/fastchat 
 bash -c ' python3 -m fastchat.serve.Controller& 
 python3 -m fastchat.serve.model_worker --model-track/models/qwen-7 b& 
 python 3-m fastchat.serve.openai_api_server --主機0.0.0.0--port 8000」

在按鈕中配置:

  • 基本URL: http://127.0.0.1:8000/v1
  • API密鑰:任何字符串

5.驗證是否已連接

1.直接測試API

與 捲曲 檢查大型號界面是否正常:

捲曲http://127.0.0.1:8000/v1/chat/completions 
 -H「內容類型:應用程式/json」 
 -H「授權:持票人測試」 
 -d '
 「型號」:「qwen-7 b」,
 「消息」:{「角色」:「用戶」,「內容」:「你好」}]
 }'

返回 選擇|消息 → API正常
404/連接被拒絕|模型服務未啟動或URL不匹配

2.檢查按鈕日誌

docker編寫日誌-f app

常見錯誤:

  • 被拒絕 →模型服務未運行
  • 404 Not Found 不正確| URL(缺失 /v1
  • 無效_請求_錯誤 →返回格式不匹配,需要翻譯

6.常見問題和注意事項

  1. 默認無大型型號
    按鈕本地版本只是一個代理平台,需要您手動配置大模型API。
  2. API格式要求
    必須 OpenAI聊天完成格式{「模型」:「xxx」,「消息」:[{「角色」:「用戶」,「內容」:「你好」}] }如果本地模型API不兼容,則必須使用 翻譯(代理) 封裝。
  3. 需要API密鑰
    即使是本地模型(不檢查密鑰),也必須填寫隨機字符串,否則請求也會報告錯誤。
  4. 性能和延遲
    • 雲模型→高網絡延遲
    • 本地型號-取決於圖形性能(建議從16 GB視頻內存開始)
  5. 線下環境部署
    • 在外部網絡機器上 Docker pull 鏡像- 碼頭工保存 →內聯網 碼頭工負載
    • 避免網絡限制導致圖像下載失敗

七.總結

  • 按鈕本地版本允許您在內聯網上安全地運行代理平台,但 大型號需要自己配置
  • 如果要訪問 當地法學碩士,推薦Olama(輕量級)或FastChat(高度兼容)。
  • 遇到問題先使用 捲曲 驗證大型號API,然後檢查按鈕配置和日誌。

Coze Studio本地版本的下載地址:https://github.com/coze-dev/coze-studio

輸油管:

返回頂端