如何防止 Dify 编造答案并减少幻觉

我相信你肯定遇到过这种情况：你向人工智能询问某个特定信息，它给出了惊人的肯定答案，但当你试图验证时，却发现并非如此。 他完全是编造的。这种现象被称为人工智能幻觉，当它影响到……时，可能会成为一个严重的问题。 技术、法律、财务或健康信息.

这并不意味着机器有妄想或故意撒谎。语言模型通过计算生成它们的响应。 接下来最有可能出现的词语有哪些？因此，他们可以编造出措辞完美但同时完全错误的解释。

Dify 等平台通过将模型与其自身文档连接起来、制定更严格的说明以及设计在向用户显示信息之前验证信息的流程，来帮助降低这种风险。然而， 没有任何一种配置能够完全消除验证答案的必要性。.

人工智能为什么要创造信息？

大型语言模型（LLM）的功能并非像存储已验证答案的数据库那样。它们的任务是…… 根据训练过程中学习到的模式生成文本 以及每次对话中包含的背景信息。

当问题含糊不清、涉及资料匮乏的主题，或者需要上下文中找不到的信息时，该模型可以 用合理的数据填补空白结果在语法上说得通，看起来也合情合理，但并不一定符合实际情况。

当训练过程中使用的信息过时、包含矛盾或未能充分涵盖研究主题时，也可能出现错误。即使是联网模型也可能出现这种情况。 误解来源，混淆多页数据 或者将某项陈述归于错误的文档。

请求的措辞也很重要。如果用户假定某个事件已经发生，或者要求得到一个绝对的答案，模型可能会遵循这个错误的假设。因此，询问他们……很有帮助。 意识到何时信息不足 这清楚地区分了已证实的事实和推论。

Dify是什么？它能提供哪些帮助？

Dify是一个开源平台，它通过可视化界面创建人工智能应用程序。它允许 连接来自不同供应商的模型，创建聊天机器人，设计工作流程，并集成外部工具 无需从零开始开发整个基础设施。

它的运行并不能消除所选模型的局限性。如果应用程序使用 LLM 时没有额外的上下文或验证规则，它仍然能够伪造信息。Dify 的优势在于它允许 围绕该模型构建架构 以便更好地控制它接收哪些数据以及如何生成响应。

通过其工作流和聊天流应用程序，可以组织不同的步骤，例如检索文档、查询 API、使用模型处理信息以及在交付结果之前应用条件。 将 Dify 与 Ollama 连接起来 与本地模型合作。

如果您正在考虑其他用于开发文档型应用程序的平台，您可以查看我们的 Dify 和 RAGFlow 的比较.

使用 RAG 工具回复您自己的文档

减少幻觉最有效的功能之一是 恢复增强生成（Recovery Augmented Generation，简称 RAG）该系统允许应用程序在要求模型编写响应之前，先在知识库中搜索信息。

该过程分为三个步骤。首先，Dify 会检索与问题最相关的文档片段。然后，它将这些片段整合到发送给模型的上下文中。最后，LLM 会进行处理。 使用检索到的信息生成响应.

因此，该应用程序并非完全依赖于模型在训练过程中获得的知识。您可以咨询 用户手册、内部规章制度、产品数据表、常见问题解答 或任何其他已纳入知识库的文档。

这种方法对于以下情况尤其有用： 创建一个私有的文档搜索引擎一个技术支持助手或聊天机器人，必须根据特定的公司信息做出回应。

然而，RAG 并不能保证所有结果都正确。检索系统可能会选择不相关的片段，原始文档可能已过时，或者模型可能误解内容。因此，讨论是有帮助的。 幻觉减轻，而非完全消除。.

如何在 Dify 中创建知识库

第一步是前往 Dify 的知识库部分并创建一个新的数据库。然后您可以导入应用程序将使用的文档并选择…… 嵌入模型 负责展示其内容以方便搜索。

在索引过程中，Dify 会将文档分割成片段。这个过程非常重要，因为 恢复质量很大程度上取决于信息的分离方式。:

• 过小的片段可能会丢失必要的上下文。
• 过大的片段可能会引入无关信息。
• 重叠部分有助于保留位于两个部门之间的思想。
• 元数据允许您按文档、类别或日期限制搜索范围。

文件处理完毕后，使用恢复测试功能。输入实际问题，查看系统返回哪些碎片。如果结果不包含正确答案， 问题出在恢复阶段。 仅仅改变提示并不能解决这个问题。

Dify 允许您组合 语义搜索和关键词匹配您还可以使用重排序模型，根据相关性对检索到的片段进行重新排序。合适的配置取决于语言、文档类型以及用户提出的问题。

配置工作流程，使其在没有证据的情况下不做出响应。

知识库准备就绪后，需要将其连接到应用程序。在可视化工作流中，您可以添加一个知识检索节点，将其结果发送到模型节点，并使用类似于以下的指令：

Responde utilizando únicamente la información incluida en el contexto.

Si el contexto no contiene datos suficientes para responder, indica claramente que no has encontrado la información.

No inventes nombres, fechas, cifras, enlaces ni referencias.

Diferencia los hechos presentes en las fuentes de cualquier inferencia necesaria.

这条指令并没有从数学上强制模型始终以这种方式运行，但是 在缺乏数据的情况下，这可以减轻给出答案的压力。此外，建议设置相关性阈值，以剔除与问题几乎无关的结果。

如果检索未返回任何有效片段，则流程可以使用条件来 直接显示一条消息，表明没有可用信息。这样一来，决策就不仅仅取决于模型是否服从提示。

建议启用引用和归属功能。Dify 可以将答案与检索到的片段关联起来，以便用户查阅原始文档。来源并不一定意味着答案正确，但是…… 它们极大地便利了验证过程。.

模型、流程和代理之间的区别

语言模型接收输入并生成输出。工作流添加输出。 已定义的步骤、条件和工具顺序另一方面，智能体可以决定使用哪种工具，并重复执行多个操作，直到尝试完成目标。

例如，可以配置一个工作流，使其能够检索文档、提取特定字段，并始终按照相同的顺序生成摘要。代理可以决定是否需要…… 搜索信息、调用 API 或执行计算 根据收到的请求而定。

Dify 允许通过插件、OpenAPI 规范、其他工作流程和 MCP 服务器使用各种工具。这些集成可以提供 更新信息或对外部服务执行操作.

代理程序未必比预定义的工作流程更可靠。虽然代理程序拥有更大的自主权，但它也可能选择错误的工具、误解结果或执行不必要的步骤。对于敏感流程，预定义的工作流程更为可取。 限制权限、设置最大迭代次数并请求人工确认 在采取任何不可逆转的行动之前。

使用第二步检查答案

在对准确性要求特别高的应用中，可以在显示结果之前添加一个审核阶段。模型中的第二个节点可以 将草稿与已找回的碎片进行比较 并指出那些没有来源支持的说法。

另一种方法是强制第一个模型返回结构化输出，其中包含响应、使用的片段以及置信度指标。然后，流程可以 当缺少数据源时，拒绝结果。 或者证据水平未达到既定标准。

使用另一个模型作为检查器有助于检测一些错误，但它并不能取代真正的检查。两个模型可能会对同一个错误结论达成一致，尤其是在它们都接收到不完整信息的情况下。因此，如果可能的话， 验证必须基于原始文档、可靠的 API 或程序规则。.

减少服用Dify后幻觉的技巧

正确的配置取决于应用程序的类型，但这些做法有助于…… 提高响应的可靠性:

• 使用来自可靠来源的最新、结构良好的文档。
• 使用真实用户问题测试恢复功能。
• 要求模型明确地表明它何时缺少信息。
• 启用引用功能，以便用户可以查阅原始片段。
• 数据不完整时，避免询问分类答案。
• 它限制了每个代理可用的工具和权限。
• 录制对话以检测重复出现的错误。
• 在医疗、法律或金融决策中引入人工审核。

仅仅要求提供链接是不够的。人工智能可以伪造网址或引用与论断不符的页面。因此，信息来源应当公开并核实，尤其是在答案会影响重要决策的情况下。文档中心型工具，例如我们在[此处应插入相关文档或工具名称]中解释的工具，可以帮助我们更好地理解人工智能的工作原理。 NotebookLM 指南和字体管理他们也为这一过程提供了便利。

Dify 提供创建更可控应用程序所需的组件，但最终的可靠性取决于 文件质量、检索、说明以及工作流程中包含的检查RAG、引用和验证节点显著减少了虚假响应，尽管在任何关键应用中，人工监督仍然至关重要。