- Das Konzept der KI-Halluzination und die technischen Ursachen der Datenerfindung.
- Dify AI als No-Code-Lösung zur Optimierung der Entwicklung von LLM-basierten Anwendungen.
- Die Bedeutung der RAG-Architektur für die Minimierung von Fehlern und die Verbesserung der Genauigkeit der Antworten.
- Fundamentale Unterschiede zwischen passiven Sprachmodellen und autonomen KI-Agenten.
Das ist Ihnen sicher auch schon passiert: Man fragt eine künstliche Intelligenz nach einer bestimmten Information und sie antwortet mit erstaunlicher Gewissheit, aber wenn man versucht, sie zu überprüfen, stellt man fest, dass Er hat es komplett erfunden.Dieses Phänomen ist als KI-Halluzination bekannt und kann zu einem ernsten Problem werden, wenn es auftritt. technische, rechtliche, finanzielle oder gesundheitsbezogene Informationen.
Das bedeutet nicht, dass die Maschine Wahnvorstellungen hat oder bewusst lügt. Sprachmodelle generieren ihre Antworten durch Berechnungen. Welche Wörter erscheinen am wahrscheinlichsten als nächstes?Dadurch können sie eine perfekt formulierte Erklärung abgeben, die gleichzeitig völlig falsch ist.
Plattformen wie Dify tragen dazu bei, dieses Risiko zu verringern, indem sie Modelle mit ihren eigenen Dokumenten verknüpfen, strengere Anweisungen festlegen und Arbeitsabläufe entwickeln, die Informationen überprüfen, bevor sie dem Benutzer angezeigt werden. Keine einzelne Konfiguration beseitigt die Notwendigkeit, die Antworten zu überprüfen, vollständig..
Warum erfindet künstliche Intelligenz Informationen?
Große Sprachmodelle, sogenannte LLMs, funktionieren nicht wie eine Datenbank, die verifizierte Antworten speichert. Ihre Aufgabe ist es, Generieren von Texten aus den während des Trainings erlernten Mustern und der jeweilige Kontext jedes Gesprächs.
Wenn die Frage mehrdeutig ist, ein schlecht dokumentiertes Thema behandelt oder Informationen erfordert, die im Kontext nicht zu finden sind, kann das Modell Die Lücken sollten mit plausiblen Daten gefüllt werden.Das Ergebnis ist grammatikalisch korrekt und erscheint plausibel, entspricht aber nicht unbedingt der Realität.
Fehler können auch auftreten, wenn die während des Trainings verwendeten Informationen veraltet sind, Widersprüche enthalten oder das Forschungsthema nicht ausreichend abdecken. Selbst ein mit dem Internet verbundenes Modell kann Fehler aufweisen. eine Quelle falsch interpretieren, Daten von mehreren Seiten vermischen oder die Zuordnung einer Aussage zum falschen Dokument.
Auch die Formulierung der Anfrage ist wichtig. Geht der Nutzer davon aus, dass ein bestimmtes Ereignis stattgefunden hat, oder verlangt er eine eindeutige Antwort, könnte das Modell dieser falschen Annahme folgen. Deshalb ist es hilfreich, ihn zu bitten, … Erkennen, wann man nicht über genügend Informationen verfügt Und das unterscheidet klar zwischen bewiesenen Fakten und Schlussfolgerungen.
Was ist Dify und wie kann es helfen?
Dify ist eine Open-Source-Plattform zur Erstellung von Anwendungen künstlicher Intelligenz über eine visuelle Benutzeroberfläche. Sie ermöglicht Verbinden Sie Modelle verschiedener Anbieter, erstellen Sie Chatbots, entwerfen Sie Arbeitsabläufe und integrieren Sie externe Tools. ohne die gesamte Infrastruktur von Grund auf neu entwickeln zu müssen.
Seine Funktionsweise beseitigt nicht die Einschränkungen des gewählten Modells. Wenn eine Anwendung ein LLM ohne zusätzlichen Kontext oder Validierungsregeln verwendet, kann sie weiterhin Informationen fälschen. Der Vorteil von Dify besteht darin, dass es Folgendes ermöglicht Eine Architektur um das Modell herum aufbauen um besser steuern zu können, welche Daten es empfängt und wie es die Antwort generieren soll.
Mithilfe der Workflow- und Chatflow-Anwendungen lassen sich verschiedene Schritte organisieren, wie beispielsweise das Abrufen von Dokumenten, das Abfragen einer API, das Verarbeiten von Informationen mit einem Modell und das Anwenden von Bedingungen vor der Ergebnisausgabe. Es ist auch möglich Verbinde Dify mit Ollama mit lokalen Modellen arbeiten.
Wenn Sie andere Plattformen für die Entwicklung dokumentenbasierter Anwendungen in Betracht ziehen, können Sie sich unsere ansehen. Vergleich zwischen Dify und RAGFlow.
Verwenden Sie das RAG-System, um mit Ihren eigenen Dokumenten zu antworten.
Eine der nützlichsten Funktionen zur Reduzierung von Halluzinationen ist die Recovery Augmented Generation, besser bekannt als RAGDieses System ermöglicht es der Anwendung, in einer Wissensdatenbank nach Informationen zu suchen, bevor sie das Modell auffordert, die Antwort zu schreiben.
Der Prozess ist in drei Schritte unterteilt. Zunächst ermittelt Dify die Dokumentfragmente, die für die Fragestellung am relevantesten erscheinen. Anschließend werden diese Fragmente in den an das Modell gesendeten Kontext integriert. Schließlich wird das LLM (Least Significant Model) verwendet. generiert eine Antwort unter Verwendung der abgerufenen Informationen.
Die Anwendung hängt daher nicht allein von dem Wissen ab, das das Modell während seines Trainings erworben hat. Sie können dies konsultieren. Handbücher, interne Richtlinien, Produktdatenblätter, häufig gestellte Fragen oder sonstige in die Wissensdatenbank integrierte Dokumentationen.
Dieser Ansatz ist besonders nützlich für Erstellen einer privaten Suchmaschine für Dokumente, ein technischer Supportassistent oder ein Chatbot, der auf Basis spezifischer Unternehmensinformationen antworten muss.
Allerdings garantiert RAG nicht, dass alle Ergebnisse korrekt sind. Das Abrufsystem kann einen irrelevanten Ausschnitt auswählen, das Originaldokument kann veraltet sein oder das Modell kann den Inhalt falsch interpretieren. Daher ist es hilfreich, dies zu diskutieren. Verringerung der Halluzinationen, aber keine vollständige Beseitigung.
Wie man eine Wissensdatenbank in Dify erstellt
Im ersten Schritt rufen Sie den Wissensbereich von Dify auf und erstellen eine neue Datenbank. Anschließend können Sie die Dokumente importieren, die die Anwendung verwenden soll, und die entsprechende Option auswählen. Einbettungsmodell verantwortlich für die Aufbereitung seiner Inhalte zur Erleichterung von Suchvorgängen.
Beim Indizieren teilt Dify Dokumente in Fragmente auf. Dieser Prozess ist wichtig, weil Die Qualität der Datenwiederherstellung hängt maßgeblich davon ab, wie die Informationen getrennt wurden.:
- Zu kleine Fragmente können den notwendigen Kontext verlieren.
- Zu große Fragmente können irrelevante Informationen einbringen.
- Überschneidungen tragen dazu bei, Ideen zu bewahren, die zwischen zwei Abteilungen angesiedelt sind.
- Metadaten ermöglichen es Ihnen, die Suche nach Dokument, Kategorie oder Datum einzugrenzen.
Sobald die Dateien verarbeitet wurden, verwenden Sie die Wiederherstellungstestfunktion. Geben Sie echte Fragen ein und prüfen Sie, welche Fragmente das System zurückgibt. Falls die Ergebnisse nicht die richtige Antwort enthalten, Das Problem liegt in der Wiederherstellung. Und das Problem lässt sich nicht einfach durch eine Änderung der Eingabeaufforderung lösen.
Mit Dify können Sie kombinieren semantische Suche und StichwortabgleichSie können auch ein Reranking-Modell verwenden, um die abgerufenen Snippets nach ihrer Relevanz neu zu ordnen. Die geeignete Konfiguration hängt von der Sprache, dem Dokumenttyp und den Fragen der Nutzer ab.
Konfigurieren Sie den Workflow so, dass er nur bei fehlenden Nachweisen reagiert.
Nachdem die Wissensbasis erstellt wurde, muss sie mit der Anwendung verbunden werden. In einem visuellen Workflow können Sie einen Wissensabfrageknoten hinzufügen, dessen Ergebnisse an den Modellknoten senden und Anweisungen ähnlich den folgenden verwenden:
Responde utilizando únicamente la información incluida en el contexto.
Si el contexto no contiene datos suficientes para responder, indica claramente que no has encontrado la información.
No inventes nombres, fechas, cifras, enlaces ni referencias.
Diferencia los hechos presentes en las fuentes de cualquier inferencia necesaria.Diese Anweisung zwingt das Modell mathematisch nicht dazu, sich immer so zu verhalten, Dadurch verringert sich der Druck, eine Antwort liefern zu müssen, wenn keine Daten vorliegen.Es ist außerdem ratsam, eine Relevanzschwelle festzulegen, um Ergebnisse auszusortieren, die kaum mit der Frage in Zusammenhang stehen.
Wenn die Abfrage keine gültigen Fragmente zurückgibt, kann der Ablauf eine Bedingung verwenden, um Es wird direkt eine Meldung angezeigt, die darauf hinweist, dass keine Informationen verfügbar sind.Auf diese Weise hängt die Entscheidung nicht allein davon ab, ob das Modell der Aufforderung folgt.
Es wird außerdem empfohlen, Zitate und Quellenangaben zu aktivieren. Dify kann Antworten mit den abgerufenen Textausschnitten verknüpfen, sodass der Benutzer das Originaldokument konsultieren kann. Quellen machen die Antwort nicht automatisch richtig, aber Sie erleichtern deren Überprüfung erheblich..
Der Unterschied zwischen einem Modell, einem Ablauf und einem Agenten
Ein Sprachmodell empfängt eine Eingabe und erzeugt eine Ausgabe. Ein Workflow fügt eine Ausgabe hinzu. definierte Abfolge von Schritten, Bedingungen und WerkzeugenEin Agent hingegen kann entscheiden, welches Werkzeug er einsetzt, und mehrere Aktionen wiederholen, bis er versucht, das Ziel zu erreichen.
Ein Workflow kann beispielsweise so konfiguriert werden, dass er Dokumente abruft, bestimmte Felder extrahiert und stets in derselben Reihenfolge eine Zusammenfassung generiert. Ein Agent kann entscheiden, ob dies erforderlich ist. Informationen suchen, eine API konsultieren oder eine Berechnung durchführen abhängig von der eingegangenen Anfrage.
Dify ermöglicht die Nutzung von Tools über Plugins, OpenAPI-Spezifikationen, andere Workflows und MCP-Server. Diese Integrationen können Folgendes bieten: aktualisierte Informationen oder Aktionen auf externen Diensten durchführen.
Ein Agent ist nicht unbedingt zuverlässiger als ein vordefinierter Workflow. Er bietet zwar mehr Autonomie, kann aber auch das falsche Werkzeug auswählen, Ergebnisse falsch interpretieren oder mehr Schritte ausführen als nötig. Für sensible Prozesse ist ein vordefinierter Workflow daher vorzuziehen. Berechtigungen einschränken, eine maximale Anzahl von Iterationen festlegen und eine menschliche Bestätigung anfordern vor jeder irreversiblen Maßnahme.
Überprüfen Sie die Antworten in einem zweiten Schritt.
In Anwendungen, in denen Genauigkeit besonders wichtig ist, kann vor der Ergebnisanzeige eine Überprüfungsphase eingefügt werden. Ein zweiter Knoten im Modell kann Vergleiche den Entwurf mit den geborgenen Fragmenten. und auf Behauptungen hinweisen, die nicht durch Quellen belegt sind.
Eine weitere Möglichkeit besteht darin, das erste Modell zu zwingen, eine strukturierte Ausgabe mit der Antwort, den verwendeten Fragmenten und einem Konfidenzindikator zurückzugeben. Dann kann der Ablauf Das Ergebnis wird verworfen, wenn eine Quelle fehlt. oder der Beweisgrad den festgelegten Schwellenwert nicht erreicht.
Die Verwendung eines anderen Modells als Prüfmodell hilft zwar, einige Fehler aufzudecken, ersetzt aber keine echte Überprüfung. Zwei Modelle können zur selben falschen Behauptung übereinstimmen, insbesondere wenn beide unvollständige Informationen erhalten. Wenn möglich, Die Validierung muss auf Originaldokumenten, zuverlässigen APIs oder programmierten Regeln basieren..
Tipps zur Reduzierung von Halluzinationen auf Dify
Die korrekte Konfiguration hängt von der Art der Anwendung ab, aber diese Vorgehensweisen helfen dabei, die Zuverlässigkeit der Antworten verbessern:
- Verwenden Sie aktuelle, gut strukturierte Dokumente aus zuverlässigen Quellen.
- Testen Sie die Wiederherstellung anhand von Fragen echter Benutzer.
- Bitten Sie das Modell, explizit anzugeben, wenn es keine Informationen besitzt.
- Aktivieren Sie die Zitatfunktion, damit der Benutzer die Originalfragmente einsehen kann.
- Vermeiden Sie es, nach kategorischen Antworten zu fragen, wenn die Daten unvollständig sind.
- Es beschränkt die jedem Agenten zur Verfügung stehenden Werkzeuge und Berechtigungen.
- Zeichnen Sie Gespräche auf, um wiederkehrende Fehler zu erkennen.
- Menschliche Expertise sollte in medizinische, rechtliche oder finanzielle Entscheidungen einbezogen werden.
Das bloße Fordern von Links reicht auch nicht aus.Eine KI kann eine Webadresse erfinden oder eine Seite zitieren, die die Behauptung nicht stützt. Quellen sollten daher unbedingt geprüft werden, insbesondere wenn die Antwort eine wichtige Entscheidung beeinflusst. Dokumentenzentrierte Tools, wie sie beispielsweise in unserem Artikel erläutert werden, sind hierfür hilfreich. NotebookLM-Leitfaden und SchriftverwaltungSie erleichtern diesen Prozess ebenfalls.
Dify bietet die notwendigen Komponenten zur Erstellung besser kontrollierter Anwendungen, aber die letztendliche Zuverlässigkeit hängt von die Qualität der Dokumente, der Abruf, die Anweisungen und die in den Arbeitsablauf integrierten Kontrollen.RAG, Zitate und Validierungsknoten reduzieren gefälschte Antworten erheblich, obwohl die menschliche Aufsicht bei jeder kritischen Anwendung unerlässlich bleibt.
Ich bin ein Technik-Enthusiast, der seine „Geek“-Interessen zum Beruf gemacht hat. Ich habe mehr als 10 Jahre meines Lebens damit verbracht, modernste Technologie zu nutzen und aus purer Neugier an allen möglichen Programmen herumzubasteln. Mittlerweile habe ich mich auf Computertechnik und Videospiele spezialisiert. Das liegt daran, dass ich seit mehr als fünf Jahren für verschiedene Websites zum Thema Technologie und Videospiele schreibe und Artikel erstelle, die Ihnen die Informationen, die Sie benötigen, in einer für jeden verständlichen Sprache vermitteln möchten.
Bei Fragen reicht mein Wissen von allem rund um das Windows-Betriebssystem bis hin zu Android für Mobiltelefone. Und mein Engagement gilt Ihnen, ich bin immer bereit, ein paar Minuten zu investieren und Ihnen bei der Lösung aller Fragen in dieser Internetwelt zu helfen.