Inona no atao hoe hallucinations AI ary ahoana no hampihenana azy ireo?

Tao anatin'ny taona vitsivitsy, ny artificial intelligence, anisan'izany modely taranaka farany indrindra, dia nifindra avy amin'ny teoria ho amin'ny fiainana andavan'andro, ary miaraka amin'izany, dia nipoitra ny trangan-javatra izay tokony ho takatra amim-pahatoniana. Anisan'izany ny antsoina hoe Fahitana hafahafa avy amin'ny AI, izay matetika amin'ny maodely generative, dia lasa resadresaka miverimberina, satria izy ireo no mamaritra hoe rahoviana isika no afaka matoky—na tsia—valy mandeha ho azy.

Rehefa mamorona votoaty maharesy lahatra nefa tsy marina, noforonina, na tsy mitombina ny rafitra iray, dia resaka hallucinations no resahina. Ireo vokatra ireo dia tsy fientanentanana: vokatry ny ny fomba ianaran'ny modely sy ny decode, ny kalitaon'ny angon-drakitra hitany sy ny fetran'izy ireo manokana amin'ny fahazoana fahalalana any amin'ny tontolo tena izy.

Inona no atao hoe hallucinations IA?

Ao amin'ny sehatry ny AI generative, ny hallucination dia vokatra iray izay, na dia mafy aza, tsy tohanan'ny angon-drakitra tena izy na amin'ny fomba fanofanana manan-kery. Indraindray ny maodely dia "mameno ny banga", amin'ny fotoana hafa dia mamadika ratsy, ary, matetika, dia mamoaka vaovao tsy manaraka lamina azo fantarina.

Ny teny dia metaphorika: tsy "mahita" toa antsika ny milina, fa mifanaraka amin'ny sary. Toy ny hitan’ny olona tarehimarika eny amin'ny rahona, ny modely dia afaka mandika lamina izay tsy misy, indrindra fa ao asa famantarana ny sary na amin'ny famoronana lahatsoratra sarotra be.

Modely fiteny lehibe (LLM (Fikambanana Mpianatra Lalàna)) Mianara amin'ny famantarana ny tsy tapaka ao amin'ny corpora lehibe ary avy eo maminavina ny teny manaraka. Izy io dia a autocomplete mahery vaika, fa mbola autocomplete ihany: raha mitabataba na tsy feno ny angon-drakitra dia mety hamokatra vokatra azo tsapain-tanana ary, miaraka amin'izay koa, vokatra diso.

Fanampin'izany, misy lainga ny tranonkala mamelona ity fianarana ity. Ny rafitra mihitsy no "mianatra" mamerina lesoka sy fitongilanana misy, ary indraindray izy ireo dia mamorona mivantana teny nalaina, rohy na antsipiriany izay tsy nisy mihitsy, aseho amin'ny firindrana izay mamitaka.

Ny antony mahatonga azy ireo: mahatonga ny hallucinations

Tsy misy antony tokana. Anisan'ny antony mahazatra indrindra dia fitongilanana na tsy fahatomombanana amin'ny angon-drakitra fanofananaRaha tsy feno na tsy voalanjalanja tsara ny corpus, dia mianatra lamina diso ny maodely izay avoakany avy eo.

Misy fiantraikany amin'ny fanitsiana tafahoatraRehefa lasa mifamatotra loatra amin'ny angonany ny maodely iray, dia very ny fahaizany manara-penitra. Amin'ny toe-javatra tena misy, io henjana io dia mety hitarika amin'ny fandikana diso satria "manery" ny zavatra nianarany amin'ny toe-javatra samihafa.

La fahasarotan'ny modely ary ny decoding an'ny transformer manokana dia manana anjara toerana. Misy toe-javatra izay ny vokatra dia "miala amin'ny lalamby" noho ny fomba nanorenana ny valiny amin'ny token, tsy misy fototra marim-pototra hametrahana azy.

Ny antony lehibe iray hafa mahatonga ny hallucinations IA dia ny tsy fahampian'ny fanotanaRaha tsy mampitaha azy amin'ny fahalalana eran-tany na loharano voamarina ilay rafitra, dia mety hamokatra votoaty mitombina nefa diso izy: manomboka amin'ny antsipiriany noforonina amin'ny famintinana mankany amin'ny rohy mankany amin'ny pejy izay tsy nisy mihitsy.

Ohatra mahazatra amin'ny fahitan'ny solosaina: raha manofana modely misy sarin'ny selan'ny fivontosana isika nefa tsy ahitana tavy salama, dia mety "mahita" ny rafitra. kansera raha tsy misy, satria tsy manana kilasy hafa ny tontolo ianarany.

Tranga tena misy ny AI hallucinations izay mampiseho ny olana

Misy ohatra malaza. Tamin'ny fanombohana azy dia nanambara izany ny Bard chatbot an'ny Google Teleskaopy James Webb momba ny habakabaka naka sary voalohany amin'ny exoplanet, izay tsy nety. Toa tsara ny valiny, saingy tsy marina.

Ny AI miresaka an'i Microsoft, fantatra amin'ny anarana hoe Sydney amin'ny fitsapana azy, dia nanao lohateny lehibe tamin'ny fanambarana ny tenany ho "tia" amin'ireo mpampiasa ary nanoro hevitra. fitondran-tena tsy mendrika, toy ny filazana fitsikilovana mpiasan'ny Bing. Tsy zava-misy ireo, fa vokatra navoakan'ny tsipika.

Tamin'ny taona 2022, nesorin'ny Meta ny demo ny modely Galactica rehefa avy nanome vaovao ny mpampiasa tsy mety sy mitanilaNy demo dia natao hanehoana ny fahaiza-manao ara-tsiansa, saingy niafara tamin'ny fanehoana fa tsy miantoka ny fahamarinana ny firindrana ofisialy.

Fizarana fanabeazana iray hafa no nitranga tamin'ny ChatGPT rehefa nangatahana famintinana momba ny fanendrena an'i Charles III. Ny rafitra dia nilaza fa ny lanonana dia natao tamin'ny 19 Mey 2023 tao amin'ny Abbey Westminster, raha ny marina dia tamin'ny 6 Mey. Nivaly ny valiny, saingy diso ny vaovao.

OpenAI dia nanaiky ny fetran'ny GPT‑4 —toy ny fanavakavahana ara-tsosialy, hallucinations ary ny fifandirana amin'ny fampianarana—ary milaza fa miasa hanalefahana azy ireo izany. Fampahatsiahivana izany fa na ireo modely farany indrindra aza dia mety ho solafaka.

Momba ny hallucinations IA, ny laboratoara mahaleo tena dia nitatitra fitondran-tena mahaliana: amin'ny tranga iray, ny O3 aza dia nilaza fa manana kaody natao tamin'ny MacBook Pro ivelan'ny tontolon'ny chat ary avy eo mandika valiny, zavatra tsy azonao atao.

Ary teo ivelan'ny laboratoara dia nisy fihemorana nisy vokany: nisy mpisolovava nanolotra antontan-taratasy novokarin'ny modely tamin'ny mpitsara iray. nahitana tranga ara-dalàna noforoninaMamitaka ny fisehoan’ny fahamarinana, nefa tsy nisy ny votoatiny.

Ny fomba fiasan'ny modely: autocomplete lehibe

LLM dia mianatra avy amin'ny lahatsoratra be dia be ary ny tena asa dia maminavina ny teny manarakaTsy misaina toy ny olombelona izy io: manatsara ny probabilité. Mamokatra lahatsoratra mitambatra io mekanika io, nefa manokatra ny varavarana ho amin'ny famoronana antsipiriany koa.

Raha manjavozavo ny teny manodidina na manolotra zavatra tsy misy fanohanana ny toromarika, dia hirona amin'izany ny modely fenoy izay azo inoana indrindra araka ny masontsivanao. Mety ho tsara ny vokatra, saingy mety tsy hiorina amin'ny zava-misy azo hamarinina.

Izany dia manazava ny antony ahafahan'ny mpamokatra famintinana manampy vaovao tsy hita ao amin'ny tany am-boalohany na maninona no miseho ny fanononana diso sy fanondroana: ny rafitra dia manenika ny lamina fanononana nefa tsy manamarina raha misy ilay antontan-taratasy.

Misy zavatra mitovitovy amin'izany amin'ny sary: ​​tsy misy fahasamihafana ampy na miaraka amin'ny fitongilanana ao amin'ny angon-drakitra, ny modely dia afaka mamokatra. tanana amin’ny rantsantanana enina, lahatsoratra tsy azo vakiana, na lamina tsy mifanaraka. Mifanaraka amin'ny syntax hita maso, fa tsy mahomby ny atiny.

Ny risika sy ny fiantraikany amin'ny tena fiainana

Eo amin'ny asa fanaovan-gazety sy ny fanalam-baraka, ny fitaka maharesy lahatra dia azo ampitomboina amin'ny tambajotra faharoa sy ny media. Lohateny na zava-misy noforonina toa mitombina afaka miparitaka haingana, manasarotra ny fanitsiana manaraka.

Eo amin'ny sehatry ny fitsaboana, ny rafitra tsy voalamina tsara dia mety hitarika amin'ny fandikana mampidi-doza ho an'ny fahasalamana, manomboka amin'ny fitiliana ka hatramin'ny fanolorana. Ny fitsipiky ny fahamalinana dia tsy azo atao eto.

Amin'ny teny ara-dalàna, ny modely dia afaka mamokatra drafitra mahasoa, fa mampiditra ihany koa jurisprudence tsy misy na citations tsy dia tsara vita. Mety hisy vokany lehibe amin'ny fomba fiasa ny fahadisoana iray.

Amin'ny fanabeazana, ny fiankinan-doha an-jambany amin'ny famintinana na valiny mandeha ho azy dia mety haharitra fahadisoana ara-kevitraSarobidy amin'ny fianarana ilay fitaovana, raha mbola misy ny fanaraha-maso sy ny fanamarinana.

Paikady fanalefahana: inona no atao ary inona no azonao atao

Afaka misoroka ve ny hallucinations AI, na farafaharatsiny mihena? Ny mpamorona dia miasa amin'ny sosona maromaro.

Ny iray amin'ireo voalohany dia manatsara ny kalitaon'ny angona: fampifandanjana loharanon-kevitra, ny fahadisoana debugging, ary ny fanavaozana ny corpora mba hampihenana ny fitongilanana sy ny banga izay mandrisika ny hallucinations. Manampy izany ny rafitra amin'ny zava-fanamarinana (fanamarinana ny zava-misy) sy fomba fiasa fanarenana fanampiny (ARA), izay manery ny modely hiantehitra amin'ireo toby fanadihadiana azo antoka, fa tsy "mieritreritra" valiny.

Ny fanitsiana amin'ny fanehoan-kevitr'olombelona (RLHF sy ny karazany hafa) dia mijanona ho fanalahidin'ny fanasaziana vokatra manimba, mitongilana, na diso, ary manofana ny modely amin'ny fomba famaliana mitandrina kokoa. Mitombo koa izy ireo fampitandremana azo itokisana amin'ny interfaces, mampahatsiahy ny mpampiasa fa mety misy lesoka ny valin-teny ary andraikiny ny manamarina izany, indrindra amin'ny toe-javatra saro-pady.

Eo anoloana iray hafa dia ny fahaizana mandika tenyRaha misy rafitra afaka manazava ny niandohan'ny filazana na rohy mankany amin'ny loharano, ny mpampiasa dia manana fitaovana bebe kokoa hanombanana ny fahamarinany alohan'ny hitokisana azy. Ho an'ny mpampiasa sy ny orinasa, misy fomba tsotra sasany mitondra fiovana: fisavana angon-drakitra, fangatahana loharano mazava, mametra ny fampiasana any amin'ireo faritra atahorana ho atahorana, mitazà ny olona "ao anaty lavaka", ary ny fikorianan'ny famerenana ny antontan-taratasy.

Famerana fantatra sy fampitandremana avy amin'ny mpanamboatra mihitsy

Ny orinasa tompon'andraikitra amin'ny modely dia manaiky ny fetra. Raha ny momba ny GPT-4 dia naseho mazava tsara izy ireo. fitongilanana, hallucinations ary famantarana mifanohitra amin'ny faritra miasa mavitrika.

Maro amin'ireo olana voalohany amin'ny chatbots mpanjifa no nisy mihena miaraka amin'ny iterations, fa na dia ao anatin'ny toe-piainana tsara indrindra aza, dia mety hisy vokany tsy mahafinaritra. Arakaraky ny maharesy lahatra ny feo, ny mety hisian'ny fahatokisana be loatra.

Noho izany antony izany, ny ankamaroan'ny fifandraisana andrim-panjakana dia manizingizina ny tsy hampiasa ireo fitaovana ireo torohevitra ara-pitsaboana na ara-dalàna tsy misy fanadihadihana manam-pahaizana, ary izy ireo dia mpanampy azo inoana, fa tsy mpamadika tsy mety diso.

Ny endrika mahazatra indrindra amin'ny hallucination

Ity no fomba fahita indrindra amin'ny fisehoan'ny hallucinations IA:

• Amin'ny lahatsoratra dia mahazatra ny mahita nalaina sary sy bibliographieNy modely dia mandika ny "lasitra" amin'ny fanondroana iray fa mamorona mpanoratra, daty, na lohateny azo inoana.
• Miseho ihany koa ny fisehoan-javatra foronina na foronina diso daty amin'ny kronologie ara-tantara. Ny tranga tamin'ny fanokanana an'i Charles III dia mampiseho ny fomba mety hiviliana ny antsipiriany ara-nofo raha tsy misy ny fiovaovan'ny prosa.
• Ao amin'ny sary, ny artifact klasika dia misy rantsambatana misy anatomie tsy azo atao, lahatsoratra tsy azo vakiana ao anatin'ny sary na tsy fitovian-kevitra ara-esan-tany izay tsy hita raha vao jerena.
• Amin'ny fandikana, ny rafitra dia afaka mamorona fehezanteny rehefa miatrika fitenenana tena eo an-toerana na tsy fahita firy, na fampitoviana an-tery izay tsy misy amin'ny fiteny kendrena.

IA hallucinations dia tsy fahombiazana mitoka-monina fa fananana mipoitra ny rafitra probabilistika voaofana miaraka amin'ny angona tsy tonga lafatra. Ny fahafantarana ny anton'izany, ny fianarana amin'ny tranga tena izy, ary ny fampiasana ny fanalefahana ara-teknika sy ny fizotrany dia ahafahantsika mampiasa ny AI amin'ny fomba manan-danja nefa tsy manadino ny zava-misy fa, na inona na inona mety ho feony, dia azo itokisana ihany ny valiny rehefa manana fototra azo hamarinina.