dify平台

之前公司内部搭建的rag系统

支持知识库+聊天

但不提供api调用，且不支持agent、流模式，用起来没那么方便

所以打算引入dify平台，供开发提效

是什么

Dify 是一款开源的大语言模型(LLM) 应用开发平台。它融合了后端即服务（Backend as Service）和 LLMOps (opens new window) 的理念，使开发者可以快速搭建生产级的生成式 AI 应用。即使你是非技术人员，也能参与到 AI 应用的定义和数据运营过程中。

由于 Dify 内置了构建 LLM 应用所需的关键技术栈，包括对数百个模型的支持、直观的 Prompt 编排界面、高质量的 RAG 引擎、稳健的 Agent 框架、灵活的流程编排，并同时提供了一套易用的界面和 API。这为开发者节省了许多重复造轮子的时间，使其可以专注在创新和业务需求上。

能做什么

平常要做ai的应用，是有一定的上手成本，用node、Python + langchain来搭建一套开发环境。且是内封在代码内的，别人也看不到。

而使用dify平台，可以：

• 将 LLM 集成至已有业务，通过引入 LLM 增强现有应用的能力，接入 Dify 的 RESTful API 从而实现 Prompt 与业务代码的解耦，在 Dify 的管理界面是跟踪数据、成本和用量，持续改进应用效果。

  例如：集成到vscode插件中使用

• 作为企业级 LLM 基础设施，一些银行和大型互联网公司正在将 Dify 部署为企业内的 LLM 网关，加速 GenAI 技术在企业内的推广，并实现中心化的监管。

  可以沉淀公共知识库、各种小工具

功能介绍

添加模型

支持什么模型、怎么添加

目前已基于公司的api集成了3.5和4o

知识库

怎么添加、使用、维护

可参考官方文档：

https://docs.dify.ai/v/zh-hans/guides/knowledge-base/knowledge_and_documents_maintenance

工作室

聊天助手-普通模式

展示1：内置提示词

展示2：知识库，云管家

聊天助手-流模式

借助该模式，可以在fex-aigc插件中使用

agent

参考例子：

https://soulteary.com/2024/05/22/use-bytedance-doubao-llm-to-implement-the-simplest-ai-agent-app-on-dify-ai-information-retrieval.html

工作流

与聊天助手流模式的区别

使用场景

未来规划

待修改点：

1. apikey是根据工作空间来的，只能填一个，后续看能不能说服工程部，他们来接入、修改
2. 接入atrust登录
3. vscode插件支持获取输入项、传输图片等

工作流程自动化，可以借助dify平台实现