Wat sinn KI-Halluzinatiounen a wéi kann een se reduzéieren?

An de leschte Joren huet kënschtlech Intelligenz, dorënner Modeller vun der neister Generatioun, ass vun der Theorie an den Alldag iwwergaangen, an domat sinn och Phänomener entstanen, déi een roueg verstanen soll. Dorënner déi sougenannt alucinaciones IA, zimmlech heefeg a generativen Modeller, sinn zu enger widderhuelender Diskussioun ginn, well se bestëmmen, wéini mir enger automatescher Äntwert vertraue kënnen - oder net.

Wann e System Inhalt generéiert, deen iwwerzeegend awer ongenau, erfonnt oder onbegrënnt ass, schwätze mir vun Halluzinatiounen. Dës Resultater sinn keng Launen: si sinn d'Resultat vun wéi Modeller léieren an decodéieren, d'Qualitéit vun den Donnéeën, déi si gesinn hunn, an hir eege Grenzen, fir Wëssen an der realer Welt ëmzesetzen.

Wat menge mir mat IA-Halluzinatiounen?

Am Beräich vun der generativer KI ass eng Halluzinatioun eng Ausgab, déi, obwuel se zolidd kléngt, gëtt net duerch real Donnéeën ënnerstëtzt oder a gültege Trainingsmuster. Heiansdo "fëllt de Modell d'Lücken aus", aner Mol decodéiert et schlecht, an, zimlech dacks, produzéiert et Informatiounen, déi keen identifizéierbare Muster verfollegen.

Den Ausdrock ass metaphorisch: Maschinnen "gesinn" net wéi mir, awer d'Bild passt. Genee wéi e Mënsch ka gesinn. Figuren an de Wolleken, e Modell kann Mustere interpretéieren, wou et keng gëtt, besonnesch an Aufgaben zum Bilderkennung oder bei der Generatioun vun héichkomplexen Texter.

Déi grouss Sproochmodeller (LLM) léieren andeems se Reegelméissegkeeten a grousse Korpora identifizéieren an dann dat nächst Wuert viraussoen. Et ass e extrem staark Autocomplete, awer et ass ëmmer nach automatesch komplett: wann d'Donnéeën haart oder onvollstänneg sinn, kënne se plausibel an zur selwechter Zäit fehlerhaft Resultater produzéieren.

Ausserdeem enthält den Internet, deen dëst Léieren fiddert, Falschheeten. D'Systemer selwer "léieren" sech ze widderhuelen. existent Feeler a Viruerteeler, an heiansdo erfannen si direkt Zitater, Linken oder Detailer, déi et ni gouf, a presentéiert mat enger Kohärenz, déi täuschend ass.

Firwat se optrieden: Ursaachen vun Halluzinatiounen

Et gëtt keng eenzeg Ursaach. Zu de meescht verbreeten Faktoren gehéiert Viraussetzung oder Ongenauegkeet an den TrainingsdatenWann de Korpus onvollstänneg oder schlecht ausbalancéiert ass, léiert de Modell falsch Mustere, déi et dann extrapoléiert.

Et beaflosst och den sobreajusteWann e Modell ze vill un seng Donnéeën gebonnen ass, verléiert et seng Generaliséierungsfäegkeet. A realen Szenarie kann dës Starrheet zu irféierenden Interpretatioune féieren, well et dat Geléiert an aner Kontexter "zwingt".

La complejidad del modelo an d'Dekodéierung vum Transformator selwer spillt eng Roll. Et gëtt Fäll, wou d'Ausgab "vun de Schinne geet", well d'Äntwert Token fir Token opgebaut gëtt, ouni eng solid sachlech Basis fir se ze verankeren.

Eng aner wichteg Ursaach vun IA-Halluzinatiounen ass de Manktem u ÄerdungWann de System et net mat realen Wëssen oder verifizéierte Quelle vergläicht, kann et plausibel, awer falsch Inhalter produzéieren: vu fabrizéierten Detailer a Resuméen bis zu Linken op Säiten, déi et ni gouf.

E klassescht Beispill an der Computervisioun: wa mir e Modell mat Biller vun Tumorzellen trainéieren, awer kee gesond Gewief enthalen, kann de System "gesinn" Kriibs wou et keen gëtt, well hirem Léieruniversum déi alternativ Klass feelt.

Echt Fäll vun KI-Halluzinatiounen, déi de Problem illustréieren

Et gëtt bekannt Beispiller. Bei sengem Start huet de Bard Chatbot vu Google behaapt, datt telescopio espacial James Webb hat déi éischt Biller vun engem Exoplanéit gemaach, wat net korrekt war. D'Äntwert huet gutt geklongen, awer si war net korrekt.

Microsoft seng konversationell KI, a senge Tester als Sydney bekannt, huet Schlagzeilen gemaach, andeems se sech als "verléift" an d'Benotzer erkläert huet a proposéiert huet ... ongepasst Verhalen, wéi zum Beispill d'Vermeintlech Ausspionéiere vu Bing-Mataarbechter. Dëst waren keng Fakten, et waren generéiert Resultater, déi Grenzen iwwerschratt hunn.

Am Joer 2022 huet Meta d'Demo vu sengem Galactica-Modell zréckgezunn, nodeems se de Benotzer Informatiounen zur Verfügung gestallt hat. falsch an parteieschD'Demo sollt wëssenschaftlech Fäegkeeten demonstréieren, awer huet schlussendlech gewisen, datt formell Kohärenz keng Garantie fir d'Wourecht ass.

Eng aner ganz edukativ Episod ass mat ChatGPT geschitt, wéi no enger Zesummefassung vun der Kréinung vum Charles III. gefrot gouf. De System huet uginn, datt d'Zeremonie den stattfonnt huet. 19. Mee 2023 an der Westminster Abbey, wéi et a Wierklechkeet de 6. Mee war. D'Äntwert war flësseg, awer d'Informatioun war falsch.

OpenAI huet d'Limiten vum GPT-4 unerkannt - wéi z.B. sozial Viruerteeler, Halluzinatiounen a Konflikter am Instruktiounsberäich – a seet, datt et drun schafft, se ze reduzéieren. Et ass eng Erënnerung drun, datt och déi neist Generatiounsmodeller kënne rutschen.

Wat IA-Halluzinatiounen ugeet, huet en onofhängegt Laboratoire komesch Verhalensweisen gemellt: an engem Fall huet den O3 souguer beschriwwen, datt hien ... ausgeféierte Code op engem MacBook Pro baussent dem Chat-Ëmfeld an dann d'Resultater kopéiert, eppes wat Dir einfach net maache kënnt.

An ausserhalb vum Laboratoire gouf et Réckschléi mat Konsequenzen: en Affekot huet engem Riichter Dokumenter presentéiert, déi vun engem Modell generéiert goufen, déi fiktiv Rechtsfäll abegraffDen Androck vun der Wourecht war täuschend, awer den Inhalt war fehl.

Wéi Modeller funktionéieren: Autocomplete a grousser Skala

En LLM léiert aus massiven Textmengen a seng Haaptaufgab ass et viraussoen dat nächst WuertEt denkt net wéi e Mënsch: et optimiséiert Wahrscheinlechkeeten. Dëse Mechanismus produzéiert kohärenten Text, awer et mécht och d'Dier op fir Detailer ze erfannen.

Wann de Kontext zweideiteg ass oder d'Instruktioun eppes ouni Ënnerstëtzung seet, tendéiert de Modell dozou, fëllt dat plausibelst aus no Äre Parameteren. D'Resultat kéint gutt kléngen, awer et kéint net op verifizéierbaren, realen Fakten baséieren.

Dëst erkläert firwat e Resumégenerator derbäisetzen kann Informatiounen, déi net am Original präsent sinn oder firwat falsch Zitater a Referenzen optrieden: de System extrapoléiert Zitatiounsmuster ouni ze kontrolléieren, ob den Dokument existéiert.

Eppes ähnleches geschitt an der Bildgebung: ouni genuch Diversitéit oder mat Viruerteeler am Datesaz kënnen d'Modeller produzéieren Hänn mat sechs Fanger, onlieserlechen Text oder onkohärent Layouten. Déi visuell Syntax passt, awer den Inhalt klappt net.

Risiken an Auswierkungen am realen Liewen

Am Journalismus an an Desinformatioun kann eng iwwerzeegend Illusioun op sekundären Netzwierker a Medien verstäerkt ginn. Eng fabrizéiert Iwwerschrëft oder Fakt, déi plausibel schéngt. kënne sech séier verbreeden, wat déi spéider Korrektur komplizéiert.

Am medezinesche Beräich kéint e schlecht kalibréiert System zu Interpretatioune féieren peligrosas para la salud, vun Diagnosen bis Empfehlungen. De Prinzip vun der Vorsicht ass hei net optional.

Juristesch gesinn kënne Modeller nëtzlech Entwërf produzéieren, awer och afügen net existent Rechtsprechung oder schlecht konstruéiert Zitater. E Feeler kann eescht Konsequenze fir eng Prozedur hunn.

An der Educatioun kann d'blann Ofhängegkeet vu Resuméen oder automatiséierten Äntwerten weider bestoen. errores conceptualesD'Instrument ass wäertvoll fir d'Léieren, soulaang et Iwwerwaachung a Verifizéierung gëtt.

Mitigatiounsstrategien: wat gëtt gemaach a wat Dir maache kënnt

Kënnen KI-Halluzinatiounen vermeit oder zumindest reduzéiert ginn? Entwéckler schaffen op verschiddene Schichten.

Una de las primeras es d'Datenqualitéit verbesseren: Quellen ausbalancéieren, Feeler debuggen an d'Korpa aktualiséieren, fir Viruerteeler a Lücken ze reduzéieren, déi Halluzinatiounen encouragéieren. Dozou kommen nach Systemer vun verificación de hechos (Fakteniwwerpréiwung) an augmentéiert Erhuelungsapprochen (ARA), déi de Modell zwéngen, sech op zouverlässeg dokumentaresch Basisen ze verloossen, anstatt sech Äntwerten ze "virstellen".

D'Upassung mat mënschlecht Feedback (RLHF an aner Varianten) bleift de Schlëssel fir schiedlech, verzerrt oder falsch Resultater ze bestrofen, an de Modell a méi virsiichtege Reaktiounsstiler ze trainéieren. Si verbreeden sech och Zouverlässegkeetswarnungen an Interfaces, wou de Benotzer drun erënnert gëtt, datt d'Äntwert Feeler enthalen kann an datt et seng Verantwortung ass, se ze verifizéieren, besonnesch a sensiblen Kontexter.

Eng aner Front, déi amgaang ass, ass den InterpretabilitéitWann e System den Urspronk vun enger Behauptung oder engem Link op Quelle erkläre kann, huet de Benotzer méi Tools fir seng Wourecht ze evaluéieren, ier en him vertraut. Fir Benotzer a Geschäfter maachen e puer einfach Praktiken en Ënnerscheed: Daten iwwerpréiwen, no Quelle froen explizit Quellen, d'Benotzung an Héichrisikoberäicher limitéieren, d'Leit "am Laf" halen an d'Iwwerpréiwungsfloss vun Dokumenter iwwerpréiwen.

Bekannt Aschränkungen a Warnungen vun den Hiersteller selwer

D'Firmen, déi fir d'Modeller verantwortlech sinn, erkennen Grenzen. Am Fall vu GPT-4 goufen se explizit ervirgehuewen. Viruerteeler, Halluzinatiounen a widderspréchlech Hiweiser wat déi aktiv Aarbechtsberäicher ugeet.

Vill vun den initialen Problemer bei de Konsumenten-Chatbots goufen reduzéiert mat Iteratiounen, awer och ënner idealen Bedingungen kënnen ongewollt Resultater optrieden. Wat méi iwwerzeegend de Pitch ass, wat méi grouss ass de Risiko vun Iwwergewiicht.

Aus dësem Grond insistéiert e groussen Deel vun der institutioneller Kommunikatioun drop, dës Tools net ze benotzen, fir medizineschen oder juristesche Rot ouni Experteniwwerpréiwung, an datt si probabilistesch Assistenten sinn, keng onfehlbar Orakelen.

Déi meescht üblech Forme vun Halluzinatiounen

Dëst ass déi heefegst Aart a Weis, wéi IA-Halluzinatiounen sech manifestéieren:

• Am Text ass et üblech ze gesinn, erfonnt Zitater a BibliographienDe Modell kopéiert d'"Schimmel" vun enger Referenz, erfënnt awer plausibel Autoren, Datumer oder Titelen.
• Fiktiv oder fiktiv Evenementer erschéngen och falsch Datumer an historesche Chronologien. De Fall vun der Kréinung vum Charles III. illustréiert, wéi en zäitlechen Detail verzerrt ka ginn, ouni datt d'Prosa hir Flëssegkeet verléiert.
• Op de Fotoen, klassesch Artefakte sinn ënner anerem Glieder mat onméiglech Anatomien, onlieserlech Texter am Bild oder raimlech Inkonsequenzen, déi op den éischte Bléck net bemierkt ginn.
• An der Iwwersetzung kënnen Systemer Sätz erfannen wa se mat ganz lokalen oder ongewéinleche Ausdréck konfrontéiert sinn, oder wann se Gläichwäerter forcéieren, déi et an der Zilsprooch net gëtt.

IA-Halluzinatioune sinn keen isoléierte Feeler, mee eng emergent Eegeschaft vun probabilistesch Systemer, déi mat onvollstännegen Donnéeën trainéiert goufen. D'Ursaachen erkennen, aus reale Fäll léieren an technesch a prozessual Mitigatiounsmoossnamen ansetzen, erlaabt eis, KI op eng sënnvoll Manéier ze notzen, ouni d'Tatsaach aus den Ae ze verléieren, datt, egal wéi flësseg et kléngt, enger Äntwert nëmme vertrauenswierdeg ka sinn, wann se eng verifizéierbar Basis huet.