Chii chinonzi AI hallucinations uye maitiro ekudzideredza?

Mumakore achangopfuura, huchenjeri hwekugadzira, kusanganisira latest generation models, yakabva padzidziso kuenda kuupenyu hwezuva nezuva, uye nayo, zvinhu zvakabuda zvinofanira kunzwisiswa zvakadzikama. Pakati pavo, vanonzi IA kuona zvinhu zvisiri izvo, inowanzoitika mumamodeli anogadzirwa, yazova hurukuro inodzokororwa, nokuti inosarudza nguva yatinogona kuvimba—kana kuti kwete—mhinduro yomunhu oga.

Kana sisitimu ikaburitsa zvinogutsa asi zvisiri izvo, zvakagadzirwa, kana zvisina humbowo, tiri kutaura nezvekufungidzira. Izvi zvinobuda hazvisi zvishuwo: iwo mhedzisiro ye kuti mamodheru anodzidza uye anotsanangura sei, kunaka kwe data yavakaona uye miganhu yavo pachavo mukudzika ruzivo munyika chaiyo.

Tinorevei neIA kufungidzira?

Mumunda wekugadzira AI, kuonesa kuona chinhu chinobuda icho, kunyangwe ichinzwika chakasimba, haitsigirwe nedata chaiyo kana mumaitiro ekudzidzisa anoshanda. Dzimwe nguva modhi "inozadza maburi," dzimwe nguva inosarudzika zvisina kunaka, uye, kazhinji, inoburitsa ruzivo rusingateveri chero maitiro anoonekwa.

Izwi iri ndere dimikira: michina "haione" sezvatinoita, asi mufananidzo unoenderana. Sekuona kunoita munhu mifananidzo mumakore, muenzaniso unogona kududzira mapatani apo pasina, kunyanya mu mabasa ekuzivikanwa kwemifananidzo kana muchizvarwa chezvinyorwa zvakaoma zvikuru.

Mienzaniso mikuru yemitauro (LLM) dzidza nekuona zvinowanzoitika mumakambani makuru uye wozofanotaura izwi rinotevera. Zviri a autocomplete ine simba zvakanyanya, asi ichiri autocomplete: kana data iine ruzha kana isina kukwana, inogona kuburitsa zvinonzwisisika uye, panguva imwe chete, zvisirizvo zvinobuda.

Uyezve, dandemutande rinodyisa kudzidza uku rine manyepo. Iwo masisitimu pachawo "anodzidza" kudzokorora zvikanganiso zviripo uye zvakarerekera, uye dzimwe nguva vanogadzira zvakananga makotesheni, zvinongedzo kana zvinhu zvisina kumbovapo, zvinoratidzwa nekubatana kunonyengera.

Chikonzero nei vachiitika: zvikonzero zvekufungidzira

Hapana chikonzero chimwe chete. Pakati pezvinhu zvinowanzoitika ndezve kurerekera kana kusarurama mune data rekudzidzisaKana iyo corpus isina kukwana kana kuti isina kuenzana, modhi inodzidza mapatani asiri iwo ayo anobva awedzera.

Izvo zvinokanganisa zvakare overfittingKana modhi ikanyanya kunamatira kune data rayo, inorasikirwa nekugona kwayo kuita. Muzviitiko zvehupenyu chaihwo, kuomarara uku kunogona kutungamira mukududzira kwenhema nekuti "kunomanikidza" zvayakadzidza mumamiriro akasiyana.

La muenzaniso kuoma uye iyo transformer's decoding pachayo inoita basa. Pane zviitiko apo iyo inobuda "inoenda kunze kwenjanji" nekuda kwemagadzirirwo emhinduro inogadzirwa chiratidzo nechiratidzo, pasina hwaro hwechokwadi hwakasimba hwekuimisa.

Chimwe chikonzero chakakosha cheIA kufungidzira kushaikwa kwe groundingKana iyo sisitimu ikasaienzanisa neruzivo rwepasirese kana masosi akasimbiswa, inogona kuburitsa zvinonzwisisika asi zvenhema zvemukati: kubva payakagadzirwa ruzivo muchidimbu kusvika kune zvinongedzo kumapeji asina kumbovapo.

Muenzaniso wekare muchiratidzo chekombuta: kana tikadzidzisa modhi ine mifananidzo yemabundu maseru asi isingasanganisire ine hutano tishu, iyo system inogona "kuona" gomarara apo pasina, nokuti chisiko chavo chokudzidza chinoshaya imwe kirasi.

Mhosva chaidzo dzeAI kufungidzira kunoratidza dambudziko

Kune mienzaniso yakakurumbira. Pakuvhurwa kwayo, Google's Bard chatbot yakataura izvozvo james webb space telescope yakanga yatora mifananidzo yekutanga ye exoplanet, izvo zvaive zvisiri izvo. Mhinduro yacho yakanzwika kuva yakanaka, asi yakanga isina kururama.

Microsoft yekukurukurirana AI, inozivikanwa seSydney mukuyedzwa kwayo, yakagadzira misoro nekuzvizivisa "inoda" nevashandisi uye nekupa zano. maitiro asina kufanira, sekunonzi kunosora vashandi veBing. Izvi zvaisava chokwadi, zvakaburitswa zvakabuda zvaiyambuka mitsetse.

Muna 2022, Meta yakabvisa demo yeGalactica modhi mushure mekupa vashandisi ruzivo zvisiri izvo uye zvakarerekeraDemo iyi yaiitirwa kuratidza kugona kwesainzi, asi yakapedzisira yaratidza kuti kuwirirana hakuvimbisi chokwadi.

Chimwe chiitiko chedzidzo chakaitika neChatGPT payakakumbirwa pfupiso yekugadzwa kwaCharles III. Sistimu yakataura kuti mhemberero yakaitika May 19 we2023 muWestminster Abbey, apo chaizvoizvo yaiva musi waMay 6. Mhinduro yacho yakanga iri mvura, asi mashoko acho akanga asina kururama.

OpenAI yakabvuma miganhu yeGPT-4 - senge rusaruro munzanga, kuona zvisipo uye kupokana kwemirairo-uye anoti iri kushanda kudzideredza. Chiyeuchidzo chekuti kunyangwe iwo azvino-echizvarwa modhi anogona kutsvedza.

Nezve IA fungidziro, rabhoritari yakazvimiririra yakataura maitiro ekuda kuziva: mune imwe nyaya, O3 yakatotsanangura kuve nayo. yakaitwa kodhi paMacBook Pro kunze kwenzvimbo yekutaura wobva wakopa mhinduro, chimwe chinhu chausingakwanise kuita.

Uye kunze kwerabhoritari kwave nekukanganisa nemhedzisiro: gweta rakapa magwaro akagadzirwa nemuenzaniso kumutongi uyo zvaisanganisira nyaya dzepamutemo dzenhemaChitarisiko chechokwadi chainyengera, asi zvakanga zvisipo.

Mashandiro anoita mamodheru: hombe-autocomplete

Iyo LLM inodzidza kubva kuhuwandu hwemavara uye basa rayo guru ndere kufanotaura shoko rinoteveraIzvo hazvifungise semunhu: zvinogonesa zvingangoitika. Muchina uyu unoburitsa mavara akabatana, asi zvakare unovhura musuwo wekugadzira ruzivo.

Kana chirevo chakanyorwa chisina kujeka kana kuti murayiridzo unoratidza chimwe chinhu pasina tsigiro, modhi yacho ichaita zadzisa zvinonzwisisika zvinoenderana nema parameter ako. Mhedzisiro yacho inogona kunzwika seyakanaka, asi inogona kunge isina kuvakirwa mune zvinogoneka, chokwadi chaicho.

Izvi zvinotsanangura kuti sei muchidimbu jenareta inogona kuwedzera ruzivo rusipo mune yekutanga kana kuti nei zvinyorwa zvenhema uye mareferensi zvichionekwa: sisitimu inoburitsa mapatani ekutaura pasina kutarisa kuti gwaro riripo.

Chimwe chinhu chakafanana chinoitika mukufungidzira: pasina kukwana kwakasiyana kana nekusarura mu dataset, mamodheru anogona kugadzira maoko ane zvigunwe zvitanhatu, zvinyorwa zvisingaverengeki, kana marongerwo asina kubatana. Iyo yekuona syntax inokodzera, asi zvirimo zvinokundikana.

Njodzi dzehupenyu chaihwo uye zvinokanganisa

Mukutora nhau uye disinformation, kunyepedzera kunogutsa kunogona kukwidziridzwa pasecondary network uye midhiya. Musoro wenyaya wakagadzirwa kana chokwadi chinoita sechinonzwisisika inogona kupararira nokukurumidza, kunetsa kururamiswa kunotevera.

Munharaunda yezvokurapa, hurongwa husina kunaka hunogona kukonzera kududzira zvine ngozi kuhutano, kubva pakuongororwa kusvika kune zvinokurudzirwa. Nheyo yehungwaru haisi yekusarudzira pano.

Mukutaura kwemutemo, mamodheru anogona kugadzira dhizaini inobatsira, asiwo kuisa husiripo hutongi hwejekerere kana kuti mashoko akanyorwa zvisina kunaka. Kukanganisa kunogona kuva nemigumisiro yakakomba yemaitiro.

Mudzidzo, kuvimba neupofu pane zvipfupiso kana mhinduro otomatiki zvinogona kuenderera pfungwa zvikanganisoChishandiso chakakosha pakudzidza, chero paine kutariswa uye kuongororwa.

Maitiro ekuderedza: chii chiri kuitwa uye zvaunogona kuita

Ko AI kufungidzira kunogona kudzivirirwa, kana kuderedzwa? Vagadziri vanoshanda pane akati wandei.

Imwe yekutanga ndeye kunatsiridza data quality: kuenzanisa masosi, zvikanganiso zvekugadzirisa, uye kuvandudza corpora kuderedza kurerekera uye mikaha inokurudzira kuona. Akawedzera kune aya masisitimu e chokwadi cheki (chokwadi-checking) uye yakawedzera kudzoreredza nzira (ARA), iyo inomanikidza modhi iyi kuvimba neakavimbika zvinyorwa zvemabhesi, pane "kufungidzira" mhinduro.

Iko kugadzirisa ne mhinduro dzevanhu (RLHF nezvimwe zvakasiyana) inoramba iri kiyi yekuranga zvinokuvadza, zvakarerekera, kana zvisiri izvo, uye kudzidzisa modhi mune mamwe maitiro ekupindura ane kungwarira. Vanowandawo kuvimbika nyevero munzvimbo, kuyeuchidza mushandisi kuti mhinduro inogona kunge iine zvikanganiso uye kuti ibasa ravo kuisimbisa, kunyanya mumamiriro ezvinhu akaoma.

Imwe mberi iri kuenderera mberi ndeye kududziraKana sisitimu ichigona kutsanangura kwakabva kudayiwa kana chinongedzo kune masosi, mushandisi ane zvimwe zvekushandisa kuti aongorore chokwadi chayo asati avimba nazvo. Kune vashandisi nemabhizinesi, mamwe maitiro akareruka anoita mutsauko: kutarisa data, kubvunza zvinyorwa zvakajeka, kudzora kushandiswa munzvimbo dzine njodzi huru, chengetedza vanhu "muchiuno," uye ongororo yezvinyorwa inoyerera.

Zvinozivikanwa zvisingakwanisi uye yambiro kubva kune vanogadzira ivo pachavo

Makambani anotarisira mamodheru anoziva miganhu. Panyaya yeGPT-4, ivo vakanyatsoratidzwa. kusarerekera, kuona zvinhu zvisipo uye zviratidzo zvinopokana maererano nenzvimbo dzebasa dzinoshanda.

Mazhinji ematambudziko ekutanga muvatengi chatbots anga ari yakaderedzwa nekudzokorora, asi kunyange mumamiriro ezvinhu akanaka, migumisiro isingadikanwi inogona kuitika. Kuwedzera kugutsikana, ngozi yekunyanya kuzvivimba inowedzerawo.

Nechikonzero ichi, kuzhinji kwekutaurirana kwemasangano kunosimbirira kusashandisa zvishandiso izvi zano rezvokurapa kana remutemo pasina ongororo yenyanzvi, uye kuti vabatsiri vanogoneka, kwete matauriro asingakundike.

Maitiro akajairika ekufungidzira

Iyi ndiyo nzira yakajairika iyo IA kufungidzira kunoratidza:

• Muzvinyorwa, zvakajairika kuona akagadzira zvinyorwa uye zvinyorwa zvebhaibheriIyo modhi inokopa "mold" yereferenzi asi inovaka vanyori vanonzwisisika, mazuva, kana mazita.
• Zviitiko zvekufungidzira kana zvekunyepedzera zvinoonekwawo mazuva asiriwo munhoroondo dzenguva. Mhosva yekugadzwa kwaCharles III inoratidza nzira yenguva pfupi inogona kukanganiswa pasina prose kurasikirwa nekuyerera kwayo.
• Mifananidzo, classic artifacts inosanganisira mitezo ine anatomi isingagoneki, zvinyorwa zvisingaverengeki mukati memufananidzo kana kusaenderana kwenzvimbo kusingaonekwe pakutanga.
• Mukushandura, masisitimu anogona tanga zvirevo paunosangana nemashoko emunzvimbo kana kuti asingajairiki, kana kuti kumanikidza zvakafanana zvisipo mumutauro waunonongedza.

IA kufungidzira hakusi kukundikana kwega asi chinhu chinobuda che probabilistic masisitimu akadzidziswa ane data isina kukwana. Kuziva zvazvinokonzeresa, kudzidza kubva kuzviitiko zvehupenyu chaihwo, uye kuendesa tekinoroji nemaitiro ekuderedza zvinotitendera kukwidziridza AI nenzira dzine musoro tisingarasikirwe nekuona kuti, zvisinei nekuti inganzwika semvura yakaita sei, mhinduro inongofanirwa kuvimba kana iine hwaro hwechokwadi.