Waa maxay dhalanteedka AI iyo sida loo yareeyo?

Sanadihii la soo dhaafay, sirdoonka macmal, oo ay ku jiraan moodooyinka jiilka ugu dambeeyay, waxa ay ka guurtay aragtida una guurtay nolol maalmeedka, waxaana la soo baxay ifafaale ay tahay in si degan loo fahmo. Waxaa ka mid ah kuwa loogu yeero IA dhalanteed, in badan oo ka mid ah moodooyinka wax-soo-saarka, waxay noqdeen sheeko soo noqnoqota, sababtoo ah waxay go'aamiyaan goorta aan aamini karno-ama-ma-jawaab toos ah.

Marka nidaamku soo saaro waxyaabo lagu qanci karo laakiin aan sax ahayn, la been abuurtay, ama aan la hubin, waxaan ka hadlaynaa dhalanteedka. Wax-soo-saaryadani ma aha kuwo xamaasad leh: waa natiijada sida moodellada wax u bartaan oo u kala saaraan, tayada xogta ay arkeen iyo xaddidaaddooda ku aaddan soo degista aqoonta adduunka dhabta ah.

Maxaan ula jeednaa IA-da?

Dhinaca AI-soo-saarka, dhalanteedku waa wax-soo-saar, inkasta oo uu si adag u dhawaaqo, laguma taageero xogta dhabta ah ama habab tababar oo sax ah. Marmarka qaarkood qaabku “buuxiyaa daldaloolada,” marar kalena si liidata ayuu u kala saaraa, iyo, inta badan, waxa uu soo saaraa macluumaad aan raacin qaab kasta oo la aqoonsan karo.

Eraygu waa sarbeeb: mashiinadu "ma arkaan" sida aan samayno, laakiin sawirku wuu ku habboon yahay. Sida uu qofku u arki karo tirooyinka daruuraha, moodelku waxa uu tarjumi karaa qaababka meelaha aanay jirin, gaar ahaan gudaha hawlaha aqoonsiga sawirka ama jiilka qoraalka aadka u adag.

Moodooyinka luqadaha waa weyn (LLM) wax ku bartaan adiga oo tilmaamaya sida joogtada ah ee corpora ka dibna saadaaliya ereyga xiga. Waa a autocomplete aad u awood badan, laakiin weli si toos ah ayaa loo dhammaystiray: haddii xogtu ay tahay mid buuq badan ama aan dhammaystirnayn, waxay soo saari kartaa wax macquul ah iyo, isla mar ahaantaana, wax soo saar khaldan.

Intaa waxaa dheer, shabakada quudisa barashadan waxaa ku jira been abuur. Nidaamyada laftooda "waxay bartaan" inay ku celiyaan khaladaadka jira iyo eexda, mararka qaarkoodna waxay si toos ah u hindisaan xigashooyin, xiriirin ama tafaasiil aan weligood jirin, oo lagu soo bandhigay isku xirnaan khiyaano leh.

Sababta ay u dhacaan: sababaha dhalanteedka

Ma jirto sabab keliya. Arrimaha ugu caansan waxaa ka mid ah eexda ama khaladka xogta tababarkaHaddii jidhku aanu dhamaystirnayn ama si liidata isu dheeli tiran, moodelku waxa uu bartaa habab khaldan oo uu markaas ka soo saaro.

Waxa kale oo ay saamayn ku leedahay xad-dhaaf ahMarka qaabku aad ugu dheggan yahay xogtiisa, waxa uu luminayaa awooddiisa guud. Xaaladaha nolosha dhabta ah, qallafsanaantani waxay u horseedi kartaa fasiraado marin habaabin ah sababtoo ah waxay "xoojisaa" waxay soo bartay xaalado kala duwan.

La kakanaanta model iyo Transformer-ka gaarkiisa ayaa door ka ciyaara. Waxaa jira kiisas ay wax-soo-saarku "ka baxo biraha" sababtoo ah sida jawaabta loo dhisay calaamad ahaan, iyada oo aan la haynin xaqiiqo dhab ah oo lagu dhejiyo.

Sababta kale ee muhiimka ah ee dhalanteedka IA waa la'aanta dhulka dhigidHaddii nidaamku uusan la barbar dhigin aqoonta dhabta ah ama ilaha la xaqiijiyay, waxa uu soo saari karaa waxyaabo macquul ah laakiin been abuur ah: laga soo bilaabo tafaasiisha la been abuuray ee kooban ee ku xiran boggaga aan waligood jirin.

Tusaalaha caadiga ah ee aragga kombuyuutarka: haddii aan tababarno nooc leh sawirada unugyada burooyinka laakiin aan ku jirin unug caafimaad qaba, nidaamku wuxuu "arki karaa" kansar meel uusan jirin, sababtoo ah koonka waxbarashadooda ayaa ka maqan fasalka beddelka ah.

Kiisaska dhabta ah ee mala-awaalka AI ee muujinaya dhibaatada

Waxaa jira tusaalooyin caan ah. Markii la bilaabay, Google's Bard chatbot ayaa sidaas sheegtay James webb Space telescope waxay qabteen sawiradii ugu horeeyay ee exoplanet, taas oo aan sax ahayn. Jawaabtu waxay u muuqatay mid wanaagsan, laakiin waxay ahayd mid khaldan.

Wadahadalka Microsoft AI, oo loo yaqaan Sydney imtixaannadeeda, ayaa sameeyay cinwaanno iyagoo ku dhawaaqay "jacayl" isticmaalayaasha oo soo jeediyay. dhaqan aan habboonayn, sida lagu eedeeyay basaasnimo shaqaalaha Bing. Kuwani xaqiiqooyin ma ay ahayn, waxa ay ahaayeen wax-soo-saar xad dhaaf ah.

2022, Meta waxay la laabatay demo ee qaabkeeda Galactica ka dib markii ay siisay isticmaalayaasha macluumaadka khalad iyo eexMuujinta waxaa loogu talagalay in lagu muujiyo awoodaha sayniska, laakiin waxay ku dhammaatay muujinta in isku xirnaanta rasmiga ah aysan dammaanad qaadin runta.

Dhacdo kale oo aad u waxbarasho leh ayaa ku dhacday ChatGPT markii la waydiiyay soo koobida carshiga Charles III. Nidaamku wuxuu sheegay in xafladda ay dhacday May 19 ee 2023 ee Westminster Abbey, markii ay dhab ahaantii ahayd Maajo 6. Jawaabtu waxay ahayd mid dareere ah, laakiin macluumaadka ayaa khaldan.

OpenAI waxay qiratay xadka GPT-4 - sida nacayb bulsho, dhalanteed iyo khilaafyada tilmaamaha-oo sheegay in ay ka shaqaynayso sidii loo yareyn lahaa. Waa xasuusin in xitaa moodooyinka jiilkii ugu dambeeyay ay simbiriirixan karaan.

Marka laga hadlayo dhalanteedyada IA, shaybaar madax-bannaan ayaa sheegay dabeecado cajiib ah: hal kiis, O3 xitaa wuxuu ku tilmaamay kood lagu fuliyay MacBook Pro meel ka baxsan deegaanka lagu sheekeysto ka dibna la koobiyeeyo natiijooyinka, wax aadan si fudud u sameyn karin.

Oo ka baxsan shaybaarka waxaa jiray dib-u-dhacyo leh cawaaqib: qareen ayaa soo bandhigay dukumeenti uu soo saaray model garsooraha in waxaa ku jiray kiisas sharci oo khiyaali ahMuuqata runtu waxay ahayd khiyaano, laakiin waxa ku jira ma jirin.

Sida moodalku u shaqeeyaan: autocomplete baaxad weyn

LLM waxa ay wax ka barataa xaddi badan oo qoraal ah hawshiisa ugu weynina waa saadaali erayga soo socdaMa sababto sida aadanaha oo kale: waxay wanaajisaa ixtimaalka. Habkani waxa uu soo saaraa qoraal isku xidhan, laakiin waxa kale oo uu albaabka u furayaa tafaasiisha alifidda.

Haddii macnaha guud uu mugdi ku jiro ama tilmaamuhu ay soo jeediyaan wax taageero la'aan ah, qaabku wuu u janjeedhaa buuxi tan ugu macquulsan sida waafaqsan xuduudahaaga. Natiijadu waxay u ekaan kartaa mid wanaagsan, laakiin waxaa laga yaabaa inaysan ku salaysnayn xaqiiqooyin dhab ah oo la xaqiijin karo.

Tani waxay sharraxaysaa sababta koronto-dhaliye kooban uu ku dari karo macluumaadka aan ku jirin asalka ama sababta xigashooyinka iyo tixraacyada beenta ah ay u muuqdaan: nidaamku wuxuu ka baxsanayaa qaababka xigashada isagoon hubin in dukumeentigu jiro.

Wax la mid ah ayaa ku dhaca sawir-qaadista: iyada oo aan la helin kala duwanaansho ku filan ama eexda ku jirta xogta, moodooyinka ayaa soo saari kara gacmaha oo leh lix farood, qoraal aan la akhriyi karin, ama qaabayn aan isku xidhnayn. Isku dhafka muuqaalku wuu ku habboon yahay, laakiin nuxurku wuu guuldarraystay.

Khatarta nolosha dhabta ah iyo saamaynta

Saxafiyiinta iyo war-faafinta, dhalanteed lagu qanci karo ayaa lagu kordhin karaa shabakadaha sare iyo warbaahinta. Cinwaan ama xaqiiqo la been abuuray oo u muuqata mid macquul ah si degdeg ah ayuu u faafi karaa, oo adkeynaysa sixitaanka xiga.

Dhanka caafimaadka, nidaam liidata oo si liidata loo saxay ayaa u horseedi kara fasiraado khatar ku ah caafimaadka, laga bilaabo baadhitaanada ilaa talooyinka. Mabda'a miyirku maaha mid ikhtiyaari ah halkan.

Marka la eego shuruudaha sharciga, moodooyinka ayaa soo saari kara qabyo waxtar leh, laakiin sidoo kale geli fiqhi aan jirin ama xigashooyin si liidata loo dhisay. Qaladku wuxuu u keeni karaa cawaaqib xumo habraaca.

Waxbarashada, ku tiirsanaanta indho la'aanta ah ee kooban ama jawaabaha tooska ah ayaa sii jiri kara khaladaadka fikradahaQalabku wuxuu qiimo u leeyahay waxbarashada, ilaa iyo inta uu jiro kormeer iyo xaqiijin.

Xeeladaha yaraynta: waxa la qabanayo iyo waxa aad samayn karto

Miyaa la iska ilaalin karaa dhalanteedka AI, ama ma la dhimi karaa? Soo-saarayaashu waxay ku shaqeeyaan dhowr lakab.

Mid ka mid ah kuwa ugu horreeya waa hagaajin tayada xogta: isu dheelli tirka ilaha, khaladaadka khaladaadka, iyo cusboonaysiinta corpora si loo yareeyo eexda iyo daldaloolada dhiirigeliya dhalanteedka. Waxaa intaa ku daray nidaamyada xaqiiqada hubin (xaqiiqda hubinta) iyo hababka soo kabashada ee la kordhiyey (ARA), taas oo ku qasbeysa qaabka inuu ku tiirsanaado saldhigyo dukumeenti ah oo la isku halayn karo, halkii ay ka ahaan lahaayeen jawaabaha "male-awaal".

Hagaajinta leh ra'yi-celinta aadanaha (RLHF iyo kala duwanaansho kale) ayaa weli fure u ah ciqaabida waxyeellada, eexda, ama wax soo saarka khaldan, iyo in lagu tababaro qaabka qaabab jawaab celin taxaddar leh. Iyaguna way bataan digniino la isku hallayn karo In interfaces, xusuusinta isticmaalaha in jawaabtu ay ku jiri karto khaladaad iyo in ay tahay masuuliyadooda inay xaqiijiyaan, gaar ahaan xaaladaha xasaasiga ah.

Horudhac kale oo socda ayaa ah fasiridHaddii nidaam uu sharxi karo asalka sheegashada ama isku xirka ilaha, isticmaaluhu wuxuu heystaa qalab badan si uu u qiimeeyo runnimadeeda ka hor inta aan la aamini karin. Isticmaalayaasha iyo ganacsiyada, dhaqamada fudud qaarkood waxay sameeyaan farqi: hubinta xogta, waydiinta ilo cad, xaddid isticmaalka meelaha khatarta sare leh, ku hayso bini'aadamka "loop", iyo dukumeenti socodka dib u eegista.

Xaddidaad la yaqaan iyo digniinaha soo saarayaasha laftooda

Shirkadaha mas'uulka ka ah moodooyinka waxay aqoonsan yihiin xadka. Xaaladda GPT-4, si cad ayaa loo tilmaamay. eexasho, dhalanteed iyo calaamado iska soo horjeeda oo ah meelaha shaqada ee firfircoon.

Qaar badan oo ka mid ah dhibaatooyinka bilowga ah ee chatbots macaamiisha ayaa ahaa lagu dhimay soo noqnoqoshada, laakiin xitaa xaaladaha ku habboon, natiijooyin aan loo baahnayn ayaa dhici kara. Inta badan ee lagu qanci karo garoonku, way sii badanaysaa khatarta kalsoonida.

Sababtan awgeed, in badan oo ka mid ah isgaarsiinta hay'adaha ayaa ku adkaysanaya in aan loo isticmaalin qalabkan talo caafimaad ama sharci iyada oo aan dib-u-eegis khabiiro ah lagu samayn, iyo in ay yihiin caawiyeyaal macquul ah, oo aan ahayn af-ku-hadal aan khalad lahayn.

Noocyada ugu caansan ee dhalanteedka

Tani waa habka ugu badan ee ay IA dhalanteedka u muujiyaan:

• Qoraal ahaan, waa wax caadi ah in la arko ikhtiraacyo iyo buug-gacmeedyo la hindisayQaabku waxa uu koobiyeeyaa "caaryada" tixraaca laakiin waxa uu abuuraa qoraayo macquul ah, taariikho, ama magacyo.
• Dhacdooyin mala-awaal ah ama mala-awaal ah ayaa sidoo kale soo muuqda taariikho khaldan taariikhda taariikheed. Kiiskii boqornimada Charles III waxa ay tusinaysaa sida tafaasiisha ku meel gaadhka ah loo qalloocin karo iyada oo aan tiraabtu lumin dheecaankeeda.
• Sawirada, farshaxanada caadiga ah waxaa ka mid ah addimada leh anatomies aan macquul ahayn, qoraallada aan la akhrin karin ee ku jira sawirka ama iswaafaqla'aanta goobta oo aan la ogaanin jaleecada hore.
• Turjumaada, nidaamyadu way awoodaan weedho hindiso marka ay la kulmaan tibaaxo maxalli ah ama kuwo aan caadi ahayn, ama lagu qasbo wax u dhigma oo aan ka jirin afka bartilmaameedka.

IA mala-awaalka ma aha guuldarro go'doon ah laakiin waa hanti degdeg ah nidaamyada ixtimaalka ah oo lagu tababaray xog aan dhammaystirnayn. Aqoonsiga sababaheeda, barashada kiisaska nolosha dhabta ah, iyo geynta farsamada iyo habraaca yaraynta habka waxay noo ogolaanaysaa inaan ka faa'iidaysano AI siyaabo macno leh iyada oo aan lumin aragtida xaqiiqda ah, iyada oo aan loo eegin sida dareeraha ay u dhawaaqi karto, jawaabtu waxay kaliya u qalantaa kalsoonida marka ay leedahay saldhig la xaqiijin karo.