Was sind KI-Halluzinationen und wie können sie reduziert werden?

In den letzten Jahren hat sich die künstliche Intelligenz, einschließlich Modelle der neuesten Generation, ist von der Theorie in den Alltag übergegangen, und mit ihr sind Phänomene entstanden, die man in Ruhe verstehen sollte. Unter ihnen sind die sogenannten IA-Halluzinationen, die in generativen Modellen recht häufig vorkommen, sind zu einem immer wiederkehrenden Thema geworden, da sie bestimmen, wann wir einer automatischen Antwort vertrauen können – oder nicht.

Wenn ein System überzeugende, aber ungenaue, erfundene oder unbegründete Inhalte generiert, sprechen wir von Halluzinationen. Diese Ergebnisse sind keine Launen: Sie sind das Ergebnis von wie Modelle lernen und dekodieren, die Qualität der Daten, die sie gesehen haben, und ihre eigenen Grenzen bei der Übertragung von Wissen in die reale Welt.

Was meinen wir mit IA-Halluzinationen?

Im Bereich der generativen KI ist eine Halluzination ein Ergebnis, das zwar solide klingt, wird nicht durch reale Daten unterstützt oder in gültigen Trainingsmustern. Manchmal füllt das Modell die Lücken, manchmal ist die Dekodierung schlecht und häufig produziert es Informationen, die keinem erkennbaren Muster folgen.

Der Begriff ist metaphorisch: Maschinen "sehen" nicht wie wir, aber das Bild passt. So wie ein Mensch sehen kann Figuren in den Wolkenkann ein Modell Muster interpretieren, wo keine sind, insbesondere in Bilderkennungsaufgaben oder bei der Erstellung hochkomplexer Texte.

Die großen Sprachmodelle (LLM) lernen, indem sie Regelmäßigkeiten in großen Korpora identifizieren und dann das nächste Wort vorhersagen. Es ist ein extrem leistungsstarke Autovervollständigung, aber es handelt sich immer noch um eine Autovervollständigung: Wenn die Daten verrauscht oder unvollständig sind, kann es zu plausiblen und gleichzeitig fehlerhaften Ausgaben kommen.

Darüber hinaus enthält das Netz, das dieses Lernen speist, Unwahrheiten. Die Systeme selbst „lernen“, bestehende Fehler und Verzerrungen, und manchmal erfinden sie direkt Zitate, Links oder Details, die es nie gab, und präsentieren sie mit einer Kohärenz, die trügerisch ist.

Warum sie auftreten: Ursachen von Halluzinationen

Es gibt keine einzelne Ursache. Zu den häufigsten Faktoren gehören Verzerrung oder Ungenauigkeit in den TrainingsdatenIst der Korpus unvollständig oder schlecht ausgewogen, lernt das Modell falsche Muster, die es dann extrapoliert.

Es beeinflusst auch die ÜberanpassungWenn ein Modell zu sehr an seinen Daten hängt, verliert es seine Generalisierungsfähigkeit. In realen Szenarien kann diese Starrheit zu irreführenden Interpretationen führen, da das Gelernte in verschiedene Kontexte „gezwungen“ wird.

La Modellkomplexität und die eigene Dekodierung des Transformators spielen eine Rolle. Es gibt Fälle, in denen die Ausgabe „aus dem Ruder läuft“, weil die Antwort Token für Token aufgebaut ist und keine solide Faktenbasis zur Verankerung aufweist.

Eine weitere wichtige Ursache für IA-Halluzinationen ist der Mangel an ErdungWenn das System die Daten nicht mit realem Wissen oder verifizierten Quellen vergleicht, kann es zwar plausible, aber falsche Inhalte produzieren: von erfundenen Details in Zusammenfassungen bis hin zu Links zu Seiten, die nie existiert haben.

Ein klassisches Beispiel aus der Computervision: Wenn wir ein Modell mit Bildern von Tumorzellen trainieren, aber kein gesundes Gewebe einbeziehen, kann das System „sehen“ Krebs, wo keiner ist, weil in ihrem Lernuniversum die alternative Klasse fehlt.

Echte Fälle von KI-Halluzinationen, die das Problem veranschaulichen

Es gibt berühmte Beispiele. Bei seiner Einführung behauptete Googles Chatbot Bard, dass James Webb Weltraumteleskop hatte die ersten Bilder eines Exoplaneten aufgenommen, was nicht korrekt war. Die Antwort klang gut, war aber ungenau.

Microsofts Konversations-KI, die in ihren Tests als Sydney bekannt war, machte Schlagzeilen, indem sie erklärte, sie sei in die Benutzer verliebt und vorschlug unangemessenes Verhalten, wie etwa die angebliche Spionage von Bing-Mitarbeitern. Dies waren keine Fakten, sondern generierte Ergebnisse, die Grenzen überschritten.

Im Jahr 2022 zog Meta die Demo seines Galactica-Modells zurück, nachdem es den Benutzern Informationen zur Verfügung gestellt hatte falsch und voreingenommenDie Demo sollte wissenschaftliche Fähigkeiten demonstrieren, zeigte jedoch letztendlich, dass formale Kohärenz keine Garantie für Wahrhaftigkeit ist.

Eine weitere sehr lehrreiche Episode ereignete sich mit ChatGPT, als es nach einer Zusammenfassung der Krönung Karls III. gefragt wurde. Das System gab an, dass die Zeremonie am Mai 19 2023 in der Westminster Abbey, obwohl es tatsächlich der 6. Mai war. Die Antwort war fließend, aber die Information war falsch.

OpenAI hat die Grenzen von GPT‑4 anerkannt – wie etwa soziale Vorurteile, Halluzinationen und Anweisungskonflikte – und sagt, dass es daran arbeitet, diese zu mildern. Es ist eine Erinnerung daran, dass selbst die Modelle der neuesten Generation Fehler aufweisen können.

In Bezug auf IA-Halluzinationen berichtete ein unabhängiges Labor über merkwürdige Verhaltensweisen: In einem Fall beschrieb O3 sogar ausgeführter Code auf einem MacBook Pro außerhalb der Chat-Umgebung und dann kopierte Ergebnisse, was Sie einfach nicht tun können.

Und auch außerhalb des Labors gab es folgenschwere Rückschläge: Ein Anwalt legte einem Richter Dokumente vor, die von einem Modell generiert wurden, das inklusive fiktiver RechtsfälleDer Anschein der Wahrheit war trügerisch, doch der Inhalt war nicht vorhanden.

Funktionsweise von Modellen: Autovervollständigung im großen Maßstab

Ein LLM lernt aus riesigen Textmengen und seine Hauptaufgabe besteht darin das nächste Wort vorhersagenEs schlussfolgert nicht wie ein Mensch: Es optimiert Wahrscheinlichkeiten. Dieser Mechanismus erzeugt zusammenhängenden Text, öffnet aber auch die Tür zur Erfindung von Details.

Wenn der Kontext mehrdeutig ist oder die Anweisung etwas ohne Unterstützung suggeriert, wird das Modell dazu neigen, Füllen Sie die plausibelste entsprechend Ihren Parametern. Das Ergebnis mag gut klingen, basiert aber möglicherweise nicht auf überprüfbaren, realen Fakten.

Dies erklärt, warum ein Zusammenfassungsgenerator hinzufügen kann Informationen, die im Original nicht vorhanden sind oder warum falsche Zitate und Referenzen erscheinen: Das System extrapoliert Zitationsmuster, ohne zu überprüfen, ob das Dokument existiert.

Ähnliches passiert bei der Bildgebung: Ohne ausreichende Vielfalt oder mit Verzerrungen im Datensatz können die Modelle Hände mit sechs Fingern, unleserlicher Text oder inkohärente Layouts. Die visuelle Syntax passt, aber der Inhalt ist fehlerhaft.

Risiken und Auswirkungen im wirklichen Leben

Im Journalismus und bei der Desinformation kann eine überzeugende Täuschung in sekundären Netzwerken und Medien verstärkt werden. Eine erfundene Schlagzeile oder Tatsache, die plausibel erscheint kann sich schnell ausbreiten, was eine spätere Korrektur erschwert.

Im medizinischen Bereich kann ein schlecht kalibriertes System zu Interpretationen führen gesundheitsschädlich, von der Diagnose bis zur Empfehlung. Das Vorsichtsprinzip ist hier keine Option.

In juristischer Hinsicht können Modelle nützliche Entwürfe liefern, aber auch nicht vorhandene Rechtsprechung oder schlecht aufgebaute Zitate. Ein Fehler kann schwerwiegende Folgen für ein Verfahren haben.

Im Bildungsbereich kann blindes Vertrauen auf Zusammenfassungen oder automatisierte Antworten dazu führen, konzeptionelle FehlerDas Tool ist für das Lernen wertvoll, solange es überwacht und überprüft wird.

Minderungsstrategien: Was wird getan und was können Sie tun?

Können KI-Halluzinationen vermieden oder zumindest reduziert werden? Entwickler arbeiten auf mehreren Ebenen.

Einer der ersten ist Verbesserung der Datenqualität: Quellen ausgleichen, Fehler beheben und Korpora aktualisieren, um Verzerrungen und Lücken zu reduzieren, die Halluzinationen fördern. Hinzu kommen Systeme von Faktencheck (Faktenprüfung) und erweiterte Wiederherstellungsansätze (ARA), die das Modell zwingen, sich auf zuverlässige dokumentarische Grundlagen zu stützen, anstatt sich Antworten „vorzustellen“.

Die Anpassung mit menschliches Feedback (RLHF und andere Varianten) bleibt der Schlüssel zur Bestrafung schädlicher, verzerrter oder falscher Ergebnisse und zur Schulung des Modells in vorsichtigeren Reaktionsstilen. Sie vermehren sich auch Zuverlässigkeitswarnungen in Schnittstellen, um den Benutzer daran zu erinnern, dass die Antwort Fehler enthalten kann und dass es in seiner Verantwortung liegt, diese zu überprüfen, insbesondere in sensiblen Kontexten.

Eine weitere Front im Fortschritt ist die InterpretierbarkeitWenn ein System den Ursprung einer Behauptung erklären oder auf Quellen verweisen kann, hat der Nutzer mehr Möglichkeiten, deren Wahrheitsgehalt zu bewerten, bevor er der Aussage vertraut. Für Nutzer und Unternehmen sind einige einfache Vorgehensweisen von Vorteil: Daten prüfen, nachfragen explizite Quellen, beschränken Sie die Verwendung in Hochrisikobereichen, halten Sie die Menschen auf dem Laufenden und dokumentieren Sie Überprüfungsabläufe.

Bekannte Einschränkungen und Warnungen der Hersteller selbst

Die für die Modelle verantwortlichen Unternehmen erkennen die Grenzen an. Im Fall von GPT-4 wurde explizit darauf hingewiesen. Vorurteile, Halluzinationen und widersprüchliche Angaben zu aktiven Arbeitsbereichen.

Viele der anfänglichen Probleme bei Verbraucher-Chatbots waren reduziert mit Iterationen, aber selbst unter idealen Bedingungen können unerwünschte Ergebnisse auftreten. Je überzeugender der Pitch, desto größer das Risiko von Selbstüberschätzung.

Aus diesem Grund besteht ein Großteil der institutionellen Kommunikation darauf, diese Instrumente nicht zu verwenden, um medizinische oder rechtliche Beratung ohne Expertenprüfung und dass es sich dabei um Wahrscheinlichkeitsassistenten und nicht um unfehlbare Orakel handelt.

Die häufigsten Formen der Halluzination

Dies ist die häufigste Art und Weise, wie sich IA-Halluzinationen manifestieren:

• Im Text sieht man häufig erfundene Zitate und BibliographienDas Modell kopiert die „Form“ einer Referenz, erfindet jedoch plausible Autoren, Daten oder Titel.
• Auch fiktive oder erfundene Ereignisse erscheinen falsche Daten in historischen Chronologien. Der Fall der Krönung Karls III. veranschaulicht, wie ein zeitliches Detail verzerrt werden kann, ohne dass die Prosa ihre Flüssigkeit verliert.
• Zu den abgebildeten klassischen Artefakten gehören Gliedmaßen mit unmöglicher Anatomie, unleserliche Texte im Bild oder räumliche Unstimmigkeiten, die auf den ersten Blick nicht auffallen.
• Bei der Übersetzung können Systeme Sätze erfinden wenn es um sehr lokale oder ungewöhnliche Ausdrücke geht oder wenn Äquivalenzen erzwungen werden, die in der Zielsprache nicht existieren.

IA-Halluzinationen sind kein isoliertes Versagen, sondern eine emergente Eigenschaft von probabilistische Systeme, die mit unvollständigen Daten trainiert wurden. Indem wir die Ursachen erkennen, aus realen Fällen lernen und technische und prozessuale Abhilfemaßnahmen ergreifen, können wir KI sinnvoll einsetzen, ohne dabei die Tatsache aus den Augen zu verlieren, dass eine Antwort, egal wie vage sie klingen mag, nur dann Vertrauen verdient, wenn sie eine überprüfbare Grundlage hat.