周志洋

个人站

持续学习 才能不被淘汰


Dify概述与架构介绍

做 LLM 应用时,可以直接写 LangChain,也可以用 Flowise 一类可视化工具。要快速落地、又不必先搭一整套工程骨架时,Dify 的门槛更低。

Dify 是什么

Dify 是一个开源的 LLM 应用开发平台:前端拖工作流,后端管知识库和模型调用,对外还能出 API。它更像带控制台的应用运行时,而不是单纯的 SDK。

比较关键的几点:

  • 可视化工作流:复杂逻辑不用先写成一堆 Python 编排,改起来也直观
  • 知识库 / RAG:文档上传、分块、向量检索一条链路走通,少写很多胶水代码
  • 多模型:OpenAI、Claude、国内大模型、Ollama 本地模型都能接
  • API:控制台调通之后,同一套能力可以直接给业务系统调
  • 可私有化:数据敏感的场景,自己部署比纯 SaaS 心里踏实

发展节奏大概是 2023 起步,后面陆续补上工作流、知识库、插件、多租户这些。版本迭代挺快,跟着官方 changelog 看比死记功能列表有用。

核心能力

工作流

这一块用得最多。节点拖出来连线,常见类型有:

  • LLM:调模型
  • 知识库检索:给 RAG 喂上下文
  • 代码执行:做点清洗、拼装、简单计算(沙箱有限制)
  • HTTP 请求:对接内部接口或第三方
  • 条件分支 / 变量赋值:控制流程和中间态

坑点:节点一多,变量命名一乱就很难调试。每个节点的输出名字写清楚,别用 result、output 这种糊名。

知识库

上传 TXT/Markdown/PDF/Word,甚至网页 URL,走分块 → Embedding → 向量库检索。适合做客服 FAQ、内部文档问答这类场景。

分块大小和重叠一上来别纠结「最优解」,先用默认参数跑通,再用检索测试页对着真实问题调——比纸上谈兵快得多。

应用形态

控制台里大致几类:

  • 对话型:聊天机器人、客服、简单问答,上手最快
  • 工作流型:多步骤、要分支、要调外部系统时用这个
  • Agent:模型自己决定何时调工具。步骤固定的流程不要放在这里

需求还模糊时,先用对话型验证提示词和知识库;逻辑一旦超过「检索 + 回答」,就切工作流,别硬在对话应用里堆配置。

模型

云端常见 OpenAI / Anthropic / Azure,国内有文心、通义等;本地可以用 Ollama、LocalAI、vLLM。选型看三件事:延迟、单价、数据是否能出网。

架构(自己部署时要心里有数)

大致四层:

Web(Next.js)——工作流设计器 / 知识库 / 应用管理
        │
Nginx —— 对外只发布这一层,默认 80/443
        │
API(Flask)——REST;流式是 SSE;控制台协作另有 Socket.IO
        │
业务层——工作流引擎、知识库服务、模型调用、Celery worker
        │
存储——PostgreSQL + 向量库(默认 Weaviate)+ Redis

后端是 Flask,配 SQLAlchemy 和 Celery。官方 Compose 默认向量库是 Weaviate,Qdrant 要另开 profile,不是默认项。自己改配置时,先分清「元数据在 PG」「向量在向量库」「队列和缓存在 Redis」,排障会快很多。

一次典型对话(带 RAG)大致是:用户输入 → API → 工作流引擎 →(可选)向量检索拼上下文 → 调 LLM → 回写结果。出问题时按这个链路从后往前查:模型 Key、检索结果是否为空、节点变量有没有传丢。

适用场景

  • 内部知识问答:文档扔进知识库,比纯 ChatGPT「瞎编」可控
  • 客服原型:FAQ + 转人工条件,先验证话术再对接现有工单
  • 内容/报告流水线:HTTP 拉数 → 代码整理 → LLM 写摘要
  • 给现有系统挂一层 AI:控制台调通后,业务侧只调 Dify API

不适合的地方也要说清楚:对编排自由度要求极高、或者节点能力完全不够用时,还是得回到代码框架(LangChain / 自研)。Dify 省的是「从 0 到能演示、能上线」的时间,不是取代所有工程。

和 LangChain、Flowise 怎么选

维度 Dify LangChain Flowise
可视化 有 基本靠代码 有
知识库 内置较完整 自己拼 相对弱
上手 快 陡 快
灵活度 中 高 中
企业向(多租户等) 相对完整 自己做 偏基础

取舍:要产品化控制台、知识库、API 一起要 → Dify;要深度定制链路、强类型编排 → LangChain;只画简单流 → Flowise 也行,后续要扩展就直接上 Dify。

怎么学比较不绕路

先装起来跑通一个「知识库 + 对话」;再单独练工作流节点和变量;然后才是 API 接入业务、模型成本、生产部署。插件和自定义节点可以往后放——很多需求用 HTTP + 代码节点就能扛住。


转载请注明:周志洋的博客 » Dify概述与架构介绍

打赏一个呗

取消

感谢您的支持,我会继续努力的!

扫码支持
扫码支持
扫码打赏,你说多少就多少

打开支付宝扫一扫,即可进行扫码打赏哦