做 LLM 应用时,可以直接写 LangChain,也可以用 Flowise 一类可视化工具。要快速落地、又不必先搭一整套工程骨架时,Dify 的门槛更低。
Dify 是什么
Dify 是一个开源的 LLM 应用开发平台:前端拖工作流,后端管知识库和模型调用,对外还能出 API。它更像带控制台的应用运行时,而不是单纯的 SDK。
比较关键的几点:
- 可视化工作流:复杂逻辑不用先写成一堆 Python 编排,改起来也直观
- 知识库 / RAG:文档上传、分块、向量检索一条链路走通,少写很多胶水代码
- 多模型:OpenAI、Claude、国内大模型、Ollama 本地模型都能接
- API:控制台调通之后,同一套能力可以直接给业务系统调
- 可私有化:数据敏感的场景,自己部署比纯 SaaS 心里踏实
发展节奏大概是 2023 起步,后面陆续补上工作流、知识库、插件、多租户这些。版本迭代挺快,跟着官方 changelog 看比死记功能列表有用。
核心能力
工作流
这一块用得最多。节点拖出来连线,常见类型有:
- LLM:调模型
- 知识库检索:给 RAG 喂上下文
- 代码执行:做点清洗、拼装、简单计算(沙箱有限制)
- HTTP 请求:对接内部接口或第三方
- 条件分支 / 变量赋值:控制流程和中间态
坑点:节点一多,变量命名一乱就很难调试。每个节点的输出名字写清楚,别用 result、output 这种糊名。
知识库
上传 TXT/Markdown/PDF/Word,甚至网页 URL,走分块 → Embedding → 向量库检索。适合做客服 FAQ、内部文档问答这类场景。
分块大小和重叠一上来别纠结「最优解」,先用默认参数跑通,再用检索测试页对着真实问题调——比纸上谈兵快得多。
应用形态
控制台里大致几类:
- 对话型:聊天机器人、客服、简单问答,上手最快
- 工作流型:多步骤、要分支、要调外部系统时用这个
- Agent:模型自己决定何时调工具。步骤固定的流程不要放在这里
需求还模糊时,先用对话型验证提示词和知识库;逻辑一旦超过「检索 + 回答」,就切工作流,别硬在对话应用里堆配置。
模型
云端常见 OpenAI / Anthropic / Azure,国内有文心、通义等;本地可以用 Ollama、LocalAI、vLLM。选型看三件事:延迟、单价、数据是否能出网。
架构(自己部署时要心里有数)
大致四层:
Web(Next.js)——工作流设计器 / 知识库 / 应用管理
│
Nginx —— 对外只发布这一层,默认 80/443
│
API(Flask)——REST;流式是 SSE;控制台协作另有 Socket.IO
│
业务层——工作流引擎、知识库服务、模型调用、Celery worker
│
存储——PostgreSQL + 向量库(默认 Weaviate)+ Redis
后端是 Flask,配 SQLAlchemy 和 Celery。官方 Compose 默认向量库是 Weaviate,Qdrant 要另开 profile,不是默认项。自己改配置时,先分清「元数据在 PG」「向量在向量库」「队列和缓存在 Redis」,排障会快很多。
一次典型对话(带 RAG)大致是:用户输入 → API → 工作流引擎 →(可选)向量检索拼上下文 → 调 LLM → 回写结果。出问题时按这个链路从后往前查:模型 Key、检索结果是否为空、节点变量有没有传丢。
适用场景
- 内部知识问答:文档扔进知识库,比纯 ChatGPT「瞎编」可控
- 客服原型:FAQ + 转人工条件,先验证话术再对接现有工单
- 内容/报告流水线:HTTP 拉数 → 代码整理 → LLM 写摘要
- 给现有系统挂一层 AI:控制台调通后,业务侧只调 Dify API
不适合的地方也要说清楚:对编排自由度要求极高、或者节点能力完全不够用时,还是得回到代码框架(LangChain / 自研)。Dify 省的是「从 0 到能演示、能上线」的时间,不是取代所有工程。
和 LangChain、Flowise 怎么选
| 维度 | Dify | LangChain | Flowise |
|---|---|---|---|
| 可视化 | 有 | 基本靠代码 | 有 |
| 知识库 | 内置较完整 | 自己拼 | 相对弱 |
| 上手 | 快 | 陡 | 快 |
| 灵活度 | 中 | 高 | 中 |
| 企业向(多租户等) | 相对完整 | 自己做 | 偏基础 |
取舍:要产品化控制台、知识库、API 一起要 → Dify;要深度定制链路、强类型编排 → LangChain;只画简单流 → Flowise 也行,后续要扩展就直接上 Dify。
怎么学比较不绕路
先装起来跑通一个「知识库 + 对话」;再单独练工作流节点和变量;然后才是 API 接入业务、模型成本、生产部署。插件和自定义节点可以往后放——很多需求用 HTTP + 代码节点就能扛住。
转载请注明:周志洋的博客 » Dify概述与架构介绍


