自建 Dify 大模型應用平台:多服務架構、知識庫 RAG 與內網模型閘道對接

在自己的 Linux 伺服器上用 Zenavo 部署 Dify(含 PostgreSQL、Redis/Valkey 與程式碼沙箱),透過 .zenavo.internal 內網對接 LiteLLM、New API 與 SearXNG,把知識庫與工作流留在自有主機上。

本文亦提供 English、简体中文、日本語、Español 和 Bahasa Indonesia。

搭建企業內部知識庫問答或複雜的多步驟 AI 工作流,往往要把提示詞編排、文件切片、向量檢索、工具呼叫與呼叫日誌串成一套系統。Dify 把這些能力整合成了視覺化的工作流編排器與後端 API。把它部署在自己的 VPS 上,上傳的文件、向量索引和執行日誌都留在自己的磁碟裡,也沒有雲端按席位或知識庫容量的限制。

這篇文章介紹 Dify 在 Zenavo 上的多服務拆分與設定要點、如何透過 .zenavo.internal 內網串接模型閘道與搜尋引擎,以及上線後的常見排障點。伺服器費用與 Zenavo 平台費用分開結算。

1. 伺服器規格與服務架構

Dify 不是單一容器,而是一組協同運作的服務。為了保證文件解析、向量寫入和併發工作流順暢運行,建議在 Zenavo 中連接一台至少 4 GB 記憶體的 Linux 伺服器(若同機還要跑獨立向量庫,建議 8 GB 起步)。

把所有服務放進同一個 Zenavo 專案後,彼此直接透過專案私有網路通訊,資料庫與沙箱無需暴露到公網:

元件 作用 持久化與設定要點
postgresql 核心關聯式資料庫(若啟用 pgvector,同時承擔向量儲存) 掛載持久化卷 /var/lib/postgresql/data,在 備份與還原 中開啟定期備份
redis / valkey Celery 非同步任務佇列、快取與限流狀態 可依需求掛載資料卷,確保重啟不遺失佇列
dify-api 與 dify-worker langgenius/dify-api(分別以 MODE=api 和 MODE=worker 啟動) 共用同一份 SECRET_KEY、資料庫位址、Redis 位址與 /app/api/storage 上傳儲存卷
dify-web langgenius/dify-web Next.js 控制台前端 將 CONSOLE_API_URL 與 APP_API_URL 指向你的 HTTPS 網域
dify-sandbox langgenius/dify-sandbox 工作流程式碼節點隔離沙箱 僅允許 dify-api / dify-worker 透過 .zenavo.internal 存取
nginx(反向代理) 將 /console/api、/api、/v1、/files 轉發至 dify-api:5001,/ 轉發至 dify-web:3000 全棧唯一需要綁定公網網域與 HTTPS 的入口服務(連接埠 80)

你可以先到 Zenavo 應用範本庫 查看現成的 AI 棧,或在同一個 Zenavo 專案中依上述結構編排各服務。

2. 最容易踩坑的環境變數

Dify 首次部署時,登入報錯或介面跨域絕大多數都是下面幾項沒對齊:

  1. SECRET_KEY:產生一組高強度隨機字串,並在 dify-api 和 dify-worker 上填完全一致的值。Dify 用它加解密資料庫裡儲存的模型商 API Key 與工作區憑證。
  2. 公開網域變數:在反向代理服務的網域與 HTTPS 頁綁定自訂網域(例如 dify.example.com)後,把 CONSOLE_API_URL、CONSOLE_WEB_URL、SERVICE_API_URL、APP_API_URL 與 APP_WEB_URL 統一設為 https://dify.example.com。
  3. 內網資料庫與 Redis:DB_HOST 填 postgresql.zenavo.internal,REDIS_HOST 填 redis.zenavo.internal(或 valkey.zenavo.internal),無需開啟公網連接埠。
  4. 向量庫選擇:如果使用 VECTOR_STORE=pgvector,關聯資料與向量索引都在同一個 PostgreSQL 服務裡,後續做整庫快照與還原(見備份與還原文件)會省心很多。

務必備份 SECRET_KEY:建議第一時間把 SECRET_KEY 存進密碼管理器(如自建的 Vaultwarden)。後續一旦改動 SECRET_KEY,資料庫裡已儲存的模型金鑰將無法解密。

3. 內網對接模型閘道與聯網搜尋

如果伺服器裡已經跑了模型閘道或搜尋引擎,在同一個 Zenavo 專案裡直接走 .zenavo.internal 內網互通即可,既零延遲又不用把內部介面暴露到公網:

  • 對接模型閘道(LiteLLM / New API / Magpie):在 Dify 後台打開 設定 → 模型供應商 → OpenAI-API-compatible,API Endpoint 填 http://litellm.zenavo.internal:4000/v1(或對應的 New API / Magpie 內網位址),填入虛擬金鑰或權杖。這樣所有應用的預算上限、限流和呼叫稽核都能在閘道層統一管控。
  • 接入私有聯網搜尋(SearXNG):在 SearXNG 開啟 JSON 輸出後,將 Dify 內建 SearXNG 工具的位址設為 http://searxng.zenavo.internal:8080,即可讓 Agent 免費、無配額限制地檢索即時網頁。
  • 聯動通用自動化(n8n):讓 Dify 專注提示詞編排、RAG 檢索與效果評估,再透過 Webhook 把結果交給 n8n 同步 Slack、寫入表格或執行排程任務。

4. 初始化管理員與驗證佇列

  1. 等所有服務狀態變為 Running 後,前往 https://dify.example.com/install 建立初始管理員帳號。
  2. 新建一個測試應用並在 知識庫 上傳一份小體積的 Markdown 或 PDF 文件,確認狀態能順利從 排隊中 變為 可用。
  3. 如果文件長期卡在 索引中,可以直接呼出控制台右側的 Zenavo Agent 幫你查看 dify-worker 和 redis 的即時日誌,或在本地終端機用 Claude Code 配合 zenavo-mcp 排查。

常見問題

綁定網域後頁面空白,或登入後介面報 401 / CORS 錯誤? 檢查 dify-web 與 dify-api 上的 CONSOLE_API_URL、APP_API_URL 是否都填了帶 https:// 且不帶結尾斜線的完整網域,並確認反向代理正確把 /console/api 和 /api 轉發給了 dify-api 的 5001 連接埠。

知識庫上傳檔案後一直卡在 排隊中 或 索引中? 通常是 dify-worker 未正常運行、dify-worker 連接的 Redis 與 dify-api 不一致,或者兩個服務沒有掛載共用的 /app/api/storage 儲存卷導致 worker 讀不到上傳檔案。

Dify 和 n8n 應該怎麼選? 如果你的核心需求是提示詞版本管理、RAG 知識庫、多模型效果對比以及對外發布對話/工作流 API,選 Dify;如果偏重 400+ SaaS 應用連接、排程批次處理和跨系統 Webhook 膠水邏輯,選 n8n——兩者放在同一個 Zenavo 專案裡透過 .zenavo.internal 配合效果最好。

能把 Zeabur 上的 Dify 專案遷移到 Zenavo 嗎? 可以。在 Zeabur 匯出專案範本 YAML 後直接匯入 Zenavo(詳見從 Zeabur 遷移),透過 備份與還原 上傳並還原原有的 PostgreSQL 備份(詳見遷移 Zeabur PostgreSQL 資料庫),並保留原來的 SECRET_KEY 即可。

現在就新增一台 Linux 伺服器或瀏覽 Zenavo 應用範本庫,把 Dify 工作流與知識庫部署到完全屬於你的基礎設施上。