Dify 私有化部署实践指南
平台概述
Dify 是一款面向 LLM 应用开发的开源平台,整合了 AI 工作流编排、RAG 检索增强、智能体构建、模型统一管理以及全链路可观测性等能力,帮助开发者实现从概念验证到生产环境的无缝衔接。
部署形态对比
| 版本 | 适用场景 | 核心特点 |
|---|---|---|
| 云端 SaaS | 个人体验、快速验证 | 零配置开箱即用,含 200 次 GPT-4 免费调用额度 |
| Premium 版 | 中小企业数据合规需求 | AWS AMI 镜像,支持品牌定制,一键部署至私有 VPC |
| 社区开源版 | 深度定制、完全可控 | 支持 Docker Compose 或源码启动,功能完整无限制 |
核心能力矩阵
- 可视化工作流:画布式交互设计,支持复杂 AI 流程的拖拽编排与实时调试
- 多模型生态:兼容 GPT、Claude、Llama3、Mistral 等数百种模型,覆盖 OpenAI API 标准协议
- 提示词工程环境:集成 Prompt IDE,支持多模型效果对比、版本管理及 TTS 扩展
- RAG 完整链路:从 PDF/PPT/Word 等格式解析、向量化到检索排序的全流程能力
- 智能体框架:基于 Function Calling 或 ReAct 范式构建 Agent,内置 50+ 工具(搜索、绘图、计算等)
- 运营监控体系:日志追踪、性能分析、数据标注闭环,持续优化提示与模型效果
- API 化输出:所有功能均暴露标准化接口,便于嵌入现有业务系统
私有化部署步骤
环境准备
最低配置要求:
- CPU:2 核及以上
- 内存:4 GB 及以上(建议 8 GB)
- 存储:20 GB 可用空间
- 网络:可访问 Docker Hub 或配置镜像加速
容器化部署流程
1. 获取源码并进入部署目录
git clone https://github.com/langgenius/dify.git
cd dify/docker
2. 初始化环境配置
cp .env.example .env
# 可根据需要编辑 .env 文件调整端口、密钥等参数
3. 启动服务栈
docker compose up -d
若遇镜像拉取失败,配置国内加速源:
# 编辑 /etc/docker/daemon.json(Linux)或 ~/.docker/daemon.json(macOS)
{
"registry-mirrors": [
"https://docker.mirrors.ustc.edu.cn",
"https://hub-mirror.c.163.com",
"https://mirror.baidubce.com"
]
}
4. 验证服务状态
成功启动后将运行 9 个容器:
- 业务层:api-server、background-worker、web-frontend
- 数据层:postgresql、redis、weaviate
- 网关层:nginx-reverse-proxy、ssrf-protection、sandbox-runtime
内存占用约 1.8 GB,通过 docker ps 确认各容器健康后,浏览器访问服务器公网 IP 完成管理员账号初始化。
本地模型集成方案
Ollama 对接配置
Ollama 作为本地推理运行时,支持 Llama、Mistral、Llava 等模型的私有化部署。Dify 可通过标准接口与其联动。
1. 安装并启动 Ollama 服务
# 从 ollama.ai 下载对应系统版本后
ollama pull llava
ollama serve
服务默认监听 11434 端口,API 端点为 http://localhost:11434
2. Dify 侧模型配置
进入「设置 → 模型提供商 → Ollama」,填写参数:
| 模型标识 | llava |
| 服务地址 | http://宿主机IP:11434(Docker 部署时避免使用 localhost) |
| 模型类别 | 对话 / 文本嵌入 |
| 上下文窗口 | 4096 |
| 最大输出长度 | 4096 |
| 视觉能力 | 启用(多模态模型需勾选) |
点击验证通过后,即可在应用中选择该本地模型进行推理。
应用构建模式选择
平台提供四种应用模板:
| 类型 | 能力边界 | 适用场景 |
|---|---|---|
| 聊天助手 | 纯对话,无工具/知识库 | 简单问答、品牌客服 |
| 文本生成 | 单轮补全,无多轮记忆 | 内容创作、代码生成 |
| Agent | 自主决策+工具调用 | 复杂任务自动化 |
| 工作流 | 精细编排+条件分支 | 业务流程固化场景 |
推荐组合策略:Agent 负责意图理解与动态决策,Workflow 处理确定性业务逻辑,二者协同实现灵活且可控的 AI 应用。
关键资源
- 在线演示:dify.ai
- 源码仓库:github.com/langgenius/dify
- 中文文档:docs.dify.ai/v/zh-hans