Wat binne AI-hallusinaasjes en hoe kinne se ferminderje wurde?

Yn 'e lêste jierren is keunstmjittige yntelliginsje, ynklusyf modellen fan 'e lêste generaasje, is fan teory nei it deistich libben ferpleatst, en dêrmei binne ferskynsels ûntstien dy't rêstich begrepen wurde moatte. Under harren binne de saneamde AI-hallusinaasjes, frij faak yn generative modellen, binne in weromkommend petear wurden, om't se bepale wannear't wy in automatyske reaksje fertrouwe kinne - of net.

As in systeem ynhâld genereart dy't oertsjûgjend is, mar ûnkrekt, ferfalske of net ûnderboud, hawwe wy it oer hallusinaasjes. Dizze útfier is gjin grillen: se binne it resultaat fan hoe modellen leare en dekodearje, de kwaliteit fan 'e gegevens dy't se sjoen hawwe en har eigen beheiningen yn it tapassen fan kennis yn 'e echte wrâld.

Wat bedoele wy mei IA-hallusinaasjes?

Op it mêd fan generative AI is in hallusinaasje in útfier dy't, nettsjinsteande dat it solide klinkt, wurdt net stipe troch echte gegevens of yn jildige trainingspatroanen. Soms "follet it model de gatten yn", oare kearen ûntsiferet it min, en, frij faak, produseart it ynformaasje dy't gjin identifisearber patroan folget.

De term is metafoarysk: masines "sjogge" net lykas wy, mar it byld past. Krekt sa't in persoan sjen kin figueren yn 'e wolken, in model kin patroanen ynterpretearje dêr't se net binne, foaral yn taken foar ôfbyldingsherkenning of by it generearjen fan tige komplekse tekst.

De grutte taalmodellen (LLM) leare troch regelmjittichheden yn grutte korpora te identifisearjen en dan it folgjende wurd te foarsizzen. It is in ekstreem krêftige autocomplete, mar it is noch altyd automatysk oanfolje: as de gegevens lawaaierich of ûnfolslein binne, kin it plausibele en tagelyk ferkearde útfier produsearje.

Fierder befettet it web dat dit learen fiedet falskheden. De systemen sels "leare" om te werheljen besteande flaters en foaroardielen, en soms betinke se direkt sitaten, keppelings of details dy't nea bestien hawwe, presintearre mei in gearhing dy't misliedend is.

Wêrom't se foarkomme: oarsaken fan hallusinaasjes

Der is gjin ienige oarsaak. Ien fan 'e meast foarkommende faktoaren is bias of ûnkrektens yn 'e trainingsgegevensAs it korpus ûnfolslein of min lykwichtich is, leart it model ferkearde patroanen dy't it dan ekstrapolearret.

It beynfloedet ek de oeroanpassingAs in model te folle oan syn gegevens fêsthâldt, ferliest it syn generalisaasjefermogen. Yn echte senario's kin dizze rigiditeit liede ta misliedende ynterpretaasjes, om't it wat it leard hat "twingt" yn oare konteksten.

La kompleksiteit fan it model en de eigen dekodearring fan 'e transformator spylje in rol. Der binne gefallen wêrby't de útfier "fan 'e rails rint" fanwegen hoe't it antwurd token foar token opboud wurdt, sûnder in solide feitelike basis om it te ankerjen.

In oare wichtige oarsaak fan IA-hallusinaasjes is it ûntbrekken fan grûnjenAs it systeem it net fergeliket mei kennis út 'e echte wrâld of ferifiearre boarnen, kin it plausibele, mar falske ynhâld produsearje: fan ferfalske details yn gearfettings oant keppelings nei siden dy't nea bestien hawwe.

In klassyk foarbyld yn kompjûterfisy: as wy in model traine mei ôfbyldings fan tumorsellen, mar gjin sûn weefsel opnimme, kin it systeem "sjen" kanker dêr't gjin is, om't har learuniversum de alternative klasse mist.

Echte gefallen fan AI-hallusinaasjes dy't it probleem yllustrearje

Der binne ferneamde foarbylden. By de lansearring bewearde Google's Bard-chatbot dat James Webb Romteteleskoop hie de earste ôfbyldings fan in eksoplaneet makke, wat net korrekt wie. It antwurd klonk goed, mar it wie net akkuraat.

Microsoft's konversaasje-AI, yn har testen bekend as Sydney, makke krantekoppen troch himsels "fereale" te ferklearjen op brûkers en suggerearre ... ûnfatsoenlik gedrach, lykas it nei alle gedachten bespionearjen fan Bing-meiwurkers. Dit wiene gjin feiten, it wiene generearre útkomsten dy't grinzen oerstutsen.

Yn 2022 luts Meta de demo fan har Galactica-model werom nei't se brûkers ynformaasje jûn hiene. ferkeard en foaroardieleDe demo wie bedoeld om wittenskiplike mooglikheden te demonstrearjen, mar úteinlik liet it sjen dat formele gearhing gjin garânsje is foar wierheid.

In oare tige edukative episoade barde mei ChatGPT doe't frege waard om in gearfetting fan 'e kroaning fan Karel III. It systeem stelde dat de seremoanje plakfûn op 19 maaie 2023 yn Westminster Abbey, wylst it eins op 6 maaie wie. It antwurd wie floeiber, mar de ynformaasje wie ferkeard.

OpenAI hat grinzen fan GPT-4 erkend - lykas sosjale foaroardielen, hallusinaasjes en ynstruksjekonflikten - en seit dat it wurket om se te ferminderjen. It is in herinnering dat sels de modellen fan 'e lêste generaasje kinne útglide.

Oangeande IA-hallusinaasjes rapportearre in ûnôfhinklik laboratoarium nijsgjirrich gedrach: yn ien gefal beskreau O3 sels it hawwen fan útfierde koade op in MacBook Pro bûten de chatomjouwing en dan resultaten kopiearre, eat dat jo gewoan net kinne dwaan.

En bûten it laboratoarium binne der tebeksetters west mei gefolgen: in advokaat presintearre dokuminten dy't troch in model generearre wiene oan in rjochter dy't fiktive rjochtsaken opnommenDe skyn fan 'e wierheid wie ferrifeljend, mar de ynhâld wie der net.

Hoe modellen wurkje: grutskalige autocomplete

In LLM leart fan enoarme hoemannichten tekst en syn wichtichste taak is foarsizze it folgjende wurdIt redenearret net lykas in minske: it optimalisearret kânsen. Dit meganisme produseart gearhingjende tekst, mar it iepenet ek de doar foar it útfine fan details.

As de kontekst dûbelsinnich is of de ynstruksje wat suggerearret sûnder stipe, sil it model de neiging hawwe om folje it meast oannimlike yn neffens jo parameters. It resultaat klinkt miskien goed, mar it is miskien net basearre op ferifiearbere, echte feiten.

Dit ferklearret wêrom't in gearfettingsgenerator tafoegje kin ynformaasje dy't net yn it orizjineel oanwêzich is of wêrom falske sitaten en ferwizings ferskine: it systeem ekstrapolearret sitaatpatroanen sûnder te kontrolearjen dat it dokumint bestiet.

Iets ferlykbers bart by ôfbylding: sûnder genôch ferskaat of mei foaroardielen yn 'e dataset kinne de modellen produsearje hannen mei seis fingers, ûnlêsbere tekst, of ûnkoherinte yndielingen. De fisuele syntaksis past, mar de ynhâld falt net ta.

Risiko's en gefolgen yn it echte libben

Yn sjoernalistyk en desinformaasje kin in oertsjûgjende waan fersterke wurde op sekundêre netwurken en media. In ferfalske koptekst of feit dat plausibel liket. kin rap ferspriede, wat de lettere korreksje komplisearret.

Yn 'e medyske sektor kin in min kalibrearre systeem liede ta ynterpretaasjes gefaarlik foar de sûnens, fan diagnoazes oant oanbefellings. It prinsipe fan foarsichtigens is hjir net opsjoneel.

Yn juridyske termen kinne modellen nuttige konsepten produsearje, mar ek ynfoegje net-besteande jurisprudinsje of min opboude sitaten. In flater kin serieuze gefolgen hawwe foar in proseduere.

Yn it ûnderwiis kin bline fertrouwen op gearfettings of automatisearre antwurden yn stân bliuwe konseptuele flatersIt ark is weardefol foar it learen, salang't der tafersjoch en ferifikaasje is.

Mitigaasjestrategyen: wat wurdt dien en wat jo kinne dwaan

Kinne AI-hallusinaasjes foarkommen wurde, of teminsten fermindere wurde? Untwikkelders wurkje op ferskate lagen.

Ien fan 'e earsten is ferbetterje de gegevenskwaliteit: boarnen yn lykwicht bringe, flaters debuggen en korpus bywurkje om foaroardielen en gatten te ferminderjen dy't hallusinaasjes oanmoedigje. Dêr komme noch systemen fan by. feitkontrôle (feitkontrôle) en augmented recovery approaches (ARA), dy't it model twinge om te fertrouwen op betroubere dokumintêre basis, ynstee fan antwurden te "foarstelle".

De oanpassing mei minsklike feedback (RLHF en oare farianten) bliuwt wichtich foar it bestraffen fan skealike, foaroardielde of ferkearde útfier, en foar it trainen fan it model yn foarsichtiger antwurdstilen. Se binne ek oan it tanimmen betrouberheidswarskôgings yn ynterfaces, wêrby't de brûker deroan herinnerd wurdt dat it antwurd flaters befetsje kin en dat it harren ferantwurdlikens is om it te ferifiearjen, foaral yn gefoelige konteksten.

In oar front dat oan 'e gong is, is de ynterpretabiliteitAs in systeem de oarsprong fan in bewearing of keppeling nei boarnen útlizze kin, hat de brûker mear ark om de wierheid dêrfan te evaluearjen foardat er it fertrout. Foar brûkers en bedriuwen meitsje guon ienfâldige praktiken in ferskil: gegevens kontrolearje, freegje om eksplisite boarnen, gebrûk beheine yn gebieten mei hege risiko, minsken "op 'e hichte hâlde", en dokumintbeoardielingsstreamen.

Bekende beheiningen en warskôgings fan 'e fabrikanten sels

De bedriuwen dy't ferantwurdlik binne foar de modellen werkenne beheiningen. Yn it gefal fan GPT-4 binne dy eksplisyt oanjûn. foaroardielen, hallusinaasjes en tsjinstridige oanwizings oangeande aktive wurkgebieten.

In protte fan 'e earste problemen yn konsuminte-chatbots binne west fermindere mei iteraasjes, mar sels ûnder ideale omstannichheden kinne ûnwinske resultaten foarkomme. Hoe oertsjûgjender de pitch, hoe grutter it risiko op tefolle selsbetrouwen.

Om dizze reden hâldt in grut part fan 'e ynstitúsjonele kommunikaasje oan op it net brûken fan dizze ark om medysk of juridysk advys sûnder saakkundige beoardieling, en dat se probabilistyske assistinten binne, gjin ûnfeilbere orakels.

Meast foarkommende foarmen fan hallusinaasjes

Dit is de meast foarkommende manier wêrop IA-hallusinaasjes manifestearje:

• Yn tekst is it gewoanlik om te sjen útfûne sitaasjes en bibliografyenIt model kopiearret de "mal" fan in referinsje, mar betocht plausibele auteurs, datums of titels.
• Fiktive of fiktive barrens ferskine ek ferkearde datums yn histoaryske kronologyen. It gefal fan 'e kroaning fan Karel III yllustrearret hoe't in tydlik detail ferfoarme wurde kin sûnder dat it proaza syn floeiberens ferliest.
• Ofbylde, klassike artefakten omfetsje ledematen mei ûnmooglike anatomyen, ûnlêsbere teksten binnen de ôfbylding of romtlike ynkonsistinsjes dy't op it earste each net opmurken wurde.
• Yn oersetting kinne systemen sinnen útfine as se te krijen hawwe mei tige lokale of ûngewoane útdrukkingen, of as se lykweardigens ôftwinge dy't net besteane yn 'e doeltaal.

IA-hallusinaasjes binne gjin isolearre mislearring, mar in opkommende eigenskip fan probabilistyske systemen traind mei ûnfolsleine gegevens. Troch de oarsaken te werkennen, te learen fan echte gefallen, en technyske en prosesmitigaasjes yn te setten, kinne wy ​​AI op betsjuttingsfolle manieren brûke sûnder út it each te ferliezen dat, hoe fleksibel it ek klinke mei, in antwurd allinich fertrouwen fertsjinnet as it ferifiearbere basis hat.