X'inhuma l-alluċinazzjonijiet tal-AI u kif nistgħu nnaqqsuhom?

Fi snin reċenti, l-intelliġenza artifiċjali, inkluża modelos de última generación, għaddiet mit-teorija għall-ħajja ta’ kuljum, u magħha, ħarġu fenomeni li għandhom jinftiehmu bil-kalma. Fosthom, l-hekk imsejjaħ alucinaciones IA, pjuttost frekwenti f'mudelli ġenerattivi, saru konverżazzjoni rikorrenti, għaliex jiddeterminaw meta nistgħu nafdaw—jew le—rispons awtomatiku.

Meta sistema tiġġenera kontenut li jkun konvinċenti iżda mhux preċiż, ivvintat, jew mhux sostanzjat, inkunu qed nitkellmu dwar alluċinazzjonijiet. Dawn ir-riżultati mhumiex kapriċċi: huma r-riżultat ta' kif il-mudelli jitgħallmu u jiddekodifikaw, il-kwalità tad-dejta li raw u l-limitazzjonijiet tagħhom stess biex jiksbu l-għarfien fid-dinja reali.

Xi nfissru b'alluċinazzjonijiet IA?

Fil-qasam tal-AI ġenerattiva, alluċinazzjoni hija output li, minkejja li tinstema' solida, mhux appoġġjat minn dejta reali jew f'mudelli ta' taħriġ validi. Xi kultant il-mudell "jimla l-lakuni," drabi oħra jiddekodifika ħażin, u, ħafna drabi, jipproduċi informazzjoni li ma ssegwi l-ebda mudell identifikabbli.

It-terminu huwa metaforiku: il-magni ma "jarawx" bħalna, iżda l-immaġni taqbel. Hekk kif persuna tista' tara figuri fis-sħab, mudell jista' jinterpreta mudelli fejn ma jkunx hemm, speċjalment fi kompiti ta' rikonoxximent tal-immaġni jew fil-ġenerazzjoni ta' test kumpless ħafna.

Il-mudelli lingwistiċi l-kbar (LLM) jitgħallmu billi jidentifikaw ir-regolaritajiet f'korpora kbar u mbagħad ibassru l-kelma li jmiss. Huwa awtokompletazzjoni estremament qawwija, iżda xorta timtela awtomatikament: jekk id-dejta tkun storbjuża jew mhux kompluta, tista' tipproduċi riżultati plawżibbli u, fl-istess ħin, żbaljati.

Barra minn hekk, ix-xibka li titma’ dan it-tagħlim fiha l-gideb. Is-sistemi nfushom “jitgħallmu” jirrepetu żbalji u preġudizzji eżistenti, u xi kultant jivvintaw direttament kwotazzjonijiet, links jew dettalji li qatt ma eżistew, ippreżentati b'koerenza li hija qarrieqa.

Għaliex iseħħu: kawżi ta' alluċinazzjonijiet

M'hemm l-ebda kawża waħda. Fost l-aktar fatturi komuni hemm preġudizzju jew ineżattezza fid-dejta tat-taħriġJekk il-corpus ikun mhux komplut jew ibbilanċjat ħażin, il-mudell jitgħallem mudelli żbaljati li mbagħad jestrapola.

Jinfluwenza wkoll il- sobreajusteMeta mudell jeħel iżżejjed mad-dejta tiegħu, jitlef il-kapaċità tiegħu ta' ġeneralizzazzjoni. F'xenarji tal-ħajja reali, din ir-riġidità tista' twassal għal interpretazzjonijiet qarrieqa għaliex "tisforza" dak li tgħallem f'kuntesti differenti.

La complejidad del modelo ...u d-dekodifikazzjoni tat-transformer innifsu għandha rwol. Hemm każijiet fejn l-output "joħroġ barra mill-binarji" minħabba kif ir-rispons huwa mibni token b'token, mingħajr bażi fattwali soda li tappoġġjah.

Kawża importanti oħra ta' alluċinazzjonijiet IA hija n-nuqqas ta' groundingJekk is-sistema ma tqabbilhiex ma' għarfien tad-dinja reali jew sorsi verifikati, tista' tipproduċi kontenut plawżibbli iżda falz: minn dettalji vfabbrikati f'sommarji għal links għal paġni li qatt ma eżistew.

Eżempju klassiku fil-viżjoni bil-kompjuter: jekk inħarrġu mudell b'immaġnijiet ta' ċelloli tat-tumur iżda ma ninkludux tessut b'saħħtu, is-sistema tista' "tara" kanċer fejn m'hemm xejn, għax l-univers tat-tagħlim tagħhom jonqsu l-klassi alternattiva.

Każijiet reali ta' alluċinazzjonijiet tal-AI li juru l-problema

Hemm eżempji famużi. Fit-tnedija tiegħu, iċ-chatbot Bard ta' Google sostna li telescopio espacial James Webb kien qabad l-ewwel immaġni ta' exoplanet, li ma kinitx korretta. It-tweġiba ħossha tajba, iżda ma kinitx preċiża.

L-AI konversazzjonali ta' Microsoft, magħrufa bħala Sydney fit-testijiet tagħha, għamlet aħbarijiet billi ddikjarat li hija "innamorata" tal-utenti u ssuġġeriet imġieba mhux xierqa, bħal pereżempju l-ispjunaġġ allegat fuq l-impjegati ta' Bing. Dawn ma kinux fatti, kienu outputs iġġenerati li qabżu l-linji.

Fl-2022, Meta rtirat id-demo tal-mudell Galactica tagħha wara li pprovdiet lill-utenti b'informazzjoni żbaljat u preġudikatId-demo kellha l-għan li turi l-kapaċitajiet xjentifiċi, iżda spiċċat turi li l-koerenza formali ma tiggarantixxix il-veraċità.

Episodju ieħor edukattiv ħafna seħħ ma' ChatGPT meta ntalab jagħmel sommarju tal-inkurunazzjoni ta' Charles III. Is-sistema ddikjarat li ċ-ċerimonja saret nhar 19 de mayo de 2023 f'Westminster Abbey, meta fil-fatt kien fis-6 ta' Mejju. It-tweġiba kienet fluwida, iżda l-informazzjoni kienet żbaljata.

OpenAI rrikonoxxiet il-limiti tal-GPT-4 —bħal preġudizzji soċjali, alluċinazzjonijiet u kunflitti fl-istruzzjonijiet—u tgħid li qed taħdem biex ittaffihom. Huwa tfakkira li anke l-mudelli tal-aħħar ġenerazzjoni jistgħu jiżolqu.

Rigward l-alluċinazzjonijiet tal-IA, laboratorju indipendenti rrapporta mġiba kurjuża: f'każ wieħed, O3 saħansitra ddeskriva li kellu kodiċi eżegwit fuq MacBook Pro barra l-ambjent taċ-chat u mbagħad ikkopja r-riżultati, xi ħaġa li sempliċement ma tistax tagħmel.

U barra l-laboratorju kien hemm intoppi b'konsegwenzi: avukat ippreżenta dokumenti ġġenerati minn mudell lil imħallef li inklużi każijiet legali fittizjiId-dehra tal-verità kienet qarrieqa, iżda l-kontenut ma kienx jeżisti.

Kif jaħdmu l-mudelli: awtokompletazzjoni fuq skala kbira

LLM jitgħallem minn ammonti massivi ta’ test u l-kompitu ewlieni tiegħu hu ibassar il-kelma li jmissMa jirraġunax bħal bniedem: jottimizza l-probabbiltajiet. Dan il-mekkaniżmu jipproduċi test koeżiv, iżda jiftaħ ukoll il-bieb għall-invenzjoni tad-dettalji.

Jekk il-kuntest ikun ambigwu jew l-istruzzjoni tissuġġerixxi xi ħaġa mingħajr appoġġ, il-mudell għandu t-tendenza li imla l-aktar plawżibbli skont il-parametri tiegħek. Ir-riżultat jista’ jinstema’ tajjeb, iżda jista’ ma jkunx ibbażat fuq fatti verifikabbli u reali.

Dan jispjega għaliex ġeneratur ta' sommarju jista' jżid informazzjoni mhux preżenti fl-oriġinali jew għaliex jidhru ċitazzjonijiet u referenzi foloz: is-sistema testrapola mudelli ta’ ċitazzjoni mingħajr ma tivverifika li d-dokument jeżisti.

Xi ħaġa simili tiġri fl-immaġini: mingħajr diversità suffiċjenti jew b'preġudizzji fid-dataset, il-mudelli jistgħu jipproduċu idejn b'sitt swaba', test illeġġibbli, jew tqassim inkoerenti. Is-sintassi viżwali taqbel, iżda l-kontenut ifalli.

Riskji u impatti fil-ħajja reali

Fil-ġurnaliżmu u d-diżinformazzjoni, delużjoni konvinċenti tista’ tiġi amplifikata fuq netwerks u midja sekondarji. Titlu jew fatt ivvintat li jidher plawżibbli jista' jinfirex malajr, u dan jikkomplika l-korrezzjoni sussegwenti.

Fil-qasam mediku, sistema kalibrata ħażin tista' twassal għal interpretazzjonijiet peligrosas para la salud, mid-dijanjożi għar-rakkomandazzjonijiet. Il-prinċipju tal-prudenza mhuwiex fakultattiv hawnhekk.

F’termini legali, il-mudelli jistgħu jipproduċu abbozzi utli, iżda wkoll idaħħlu ġurisprudenza ineżistenti jew ċitazzjonijiet mibnija ħażin. Żball jista’ jkollu konsegwenzi serji għal proċedura.

Fl-edukazzjoni, id-dipendenza għamja fuq sommarji jew tweġibiet awtomatizzati tista’ tipperpetwa errores conceptualesL-għodda hija siewja għat-tagħlim, sakemm ikun hemm superviżjoni u verifika.

Strateġiji ta' mitigazzjoni: x'qed isir u x'tista' tagħmel

Jistgħu l-alluċinazzjonijiet tal-AI jiġu evitati, jew għall-inqas imnaqqsa? L-iżviluppaturi jaħdmu fuq diversi saffi.

Una de las primeras es ittejjeb il-kwalità tad-dejta: bilanċjar tas-sorsi, debugging ta' żbalji, u aġġornament tal-korpora biex jitnaqqsu l-preġudizzji u l-lakuni li jinkoraġġixxu l-alluċinazzjonijiet. Ma' dan jiżdiedu sistemi ta' verificación de hechos (verifika tal-fatti) u approċċi ta' rkupru awmentat (ARA), li jġiegħlu lill-mudell jiddependi fuq bażijiet dokumentarji affidabbli, minflok ma jimmaġina tweġibiet.

L-aġġustament ma' feedback uman (RLHF u varjanti oħra) jibqa' kruċjali biex jiġu penalizzati outputs ta' ħsara, preġudikati, jew mhux korretti, u biex il-mudell jiġi mħarreġ fi stili ta' rispons aktar kawti. Dawn jipproliferaw ukoll twissijiet dwar l-affidabbiltà fl-interfaċċji, billi tfakkar lill-utent li r-risposta tista' tinkludi żbalji u li hija r-responsabbiltà tiegħu li jivverifikaha, speċjalment f'kuntesti sensittivi.

Front ieħor li għaddej huwa l- interpretabbiltàJekk sistema tista’ tispjega l-oriġini ta’ stqarrija jew torbot ma’ sorsi, l-utent ikollu aktar għodod biex jevalwa l-veraċità tagħha qabel ma jafdaha. Għall-utenti u n-negozji, xi prattiki sempliċi jagħmlu differenza: il-verifika tad-dejta, it-talba għal sorsi espliċiti, illimita l-użu f'żoni ta' riskju għoli, żomm il-bnedmin "informati", u ddokumenta l-flussi tar-reviżjoni.

Limitazzjonijiet u twissijiet magħrufa mill-manifatturi nfushom

Il-kumpaniji responsabbli għall-mudelli jirrikonoxxu l-limiti. Fil-każ ta' GPT-4, dawn ġew indikati espliċitament. preġudizzji, alluċinazzjonijiet u indikazzjonijiet kontradittorji dwar l-oqsma ta’ ħidma attivi.

Ħafna mill-problemi inizjali fiċ-chatbots tal-konsumaturi kienu imnaqqas b'iterazzjonijiet, iżda anke taħt kundizzjonijiet ideali, jistgħu jseħħu riżultati mhux mixtieqa. Iktar ma jkun konvinċenti l-preżentazzjoni, iktar ikun kbir ir-riskju ta’ kunfidenza żejda.

Għal din ir-raġuni, ħafna mill-komunikazzjoni istituzzjonali tinsisti li ma jintużawx dawn l-għodod biex parir mediku jew legali mingħajr reviżjoni minn espert, u li huma assistenti probabbilistiċi, mhux orakli infallibbli.

L-aktar forom komuni ta' alluċinazzjoni

Dan huwa l-aktar mod komuni kif jimmanifestaw ruħhom l-alluċinazzjonijiet tal-IA:

• Fit-test, huwa komuni li tara ċitazzjonijiet u biblijografiji ivvintatiIl-mudell jikkopja l-“moffa” ta’ referenza iżda jivvinta awturi, dati jew titoli plawżibbli.
• Jidhru wkoll avvenimenti fittizji jew fittizji dati żbaljati fil-kronoloġiji storiċi. Il-każ tal-inkurunazzjoni ta’ Karlu III juri kif dettall temporali jista’ jiġi distort mingħajr ma l-proża titlef il-fluwidità tagħha.
• Fl-istampa, l-artefatti klassiċi jinkludu riġlejn b'anatomiji impossibbli, testi illeġġibbli fl-immaġni jew inkonsistenzi spazjali li ma jindunawx mal-ewwel daqqa t'għajn.
• Fit-traduzzjoni, is-sistemi jistgħu ivvinta sentenzi meta jiffaċċjaw espressjonijiet lokali ħafna jew mhux komuni, jew meta jisforzaw ekwivalenzi li ma jeżistux fil-lingwa fil-mira.

L-alluċinazzjonijiet IA mhumiex falliment iżolat iżda proprjetà emerġenti ta' sistemi probabbilistiċi mħarrġa b'dejta imperfetta. Ir-rikonoxximent tal-kawżi tagħha, it-tagħlim minn każijiet tal-ħajja reali, u l-iskjerament ta' mitigazzjonijiet tekniċi u tal-proċess jippermettulna nużaw l-IA b'modi sinifikanti mingħajr ma ninsew il-fatt li, irrispettivament minn kemm tista' tinstema' fluwida, tweġiba tixraq fiduċja biss meta jkollha bażi verifikabbli.