Ki sa ki alisinasyon IA yo e kijan pou diminye yo?

Nan dènye ane sa yo, entèlijans atifisyèl, ki gen ladan modèl dènye jenerasyon yo, te pase soti nan teyori pou rive nan lavi chak jou, e avèk li, fenomèn parèt ke moun ta dwe konprann avèk kalm. Pami yo, sa yo rele Alisinasyon IA, byen souvan nan modèl jeneratif yo, yo vin tounen yon konvèsasyon rekiran, paske yo detèmine kilè nou ka fè konfyans—oswa non—nan yon repons otomatik.

Lè yon sistèm jenere kontni ki konvenkan men ki pa egzak, ki fabrike, oswa ki pa gen prèv, n ap pale de alisinasyon. Rezilta sa yo pa kapris: yo se rezilta kijan modèl yo aprann epi dekode, kalite done yo te wè yo ak pwòp limit yo nan jwenn konesans nan mond reyèl la.

Ki sa nou vle di pa alisinasyon IA?

Nan domèn IA jeneratif la, yon alisinasyon se yon rezilta ki, malgre li sonnen solid, pa sipòte pa done reyèl oubyen nan modèl antrènman valab. Pafwa modèl la "ranpli twou vid ki genyen yo", lòt fwa li dekode mal, epi, byen souvan, li pwodui enfòmasyon ki pa swiv okenn modèl idantifyab.

Tèm nan se yon metafò: machin yo pa "wè" menm jan nou wè, men imaj la anfòm. Menm jan yon moun ka wè figi nan nyaj yo, yon modèl ka entèprete modèl kote pa genyen, sitou nan travay rekonesans imaj oubyen nan jenerasyon tèks trè konplèks.

Gran modèl lang yo (LLM) aprann lè yo idantifye regilarite nan gwo kòpora epi answit predi pwochen mo a. Li se yon otokonple trè pwisan, men li toujou oto-konplete: si done yo gen bwi oswa yo pa konplè, li ka pwodui rezilta ki kredib epi, an menm tan, ki pa kòrèk.

Anplis, entènèt ki nouri aprantisaj sa a gen manti ladan l. Sistèm yo menm "aprann" repete erè ak prejije ki deja egziste, epi pafwa yo envante dirèkteman sitasyon, lyen oswa detay ki pa janm egziste, prezante avèk yon koyerans ki twonpe.

Poukisa yo rive: kòz alisinasyon

Pa gen yon sèl kòz. Pami faktè ki pi komen yo genyen patipri oswa enpresizyon nan done fòmasyon yoSi kòpus la pa konplè oswa li mal balanse, modèl la aprann modèl ki pa kòrèk ke li ekstrapole apre sa.

Li enfliyanse tou overfittingLè yon modèl vin twò atache ak done li yo, li pèdi kapasite jeneralizasyon li. Nan senaryo reyèl, rijidite sa a ka mennen nan entèpretasyon ki twonpe paske li "fòse" sa li te aprann nan diferan kontèks.

La konpleksite modèl epi pwòp dekodaj transfòmatè a jwe yon wòl. Gen ka kote rezilta a "devye" akòz fason yo konstwi repons lan jeton pa jeton, san yon baz solid pou ankre li.

Yon lòt kòz enpòtan pou alisinasyon IA se mank de koneksyon atèSi sistèm nan pa konpare l ak konesans reyèl oswa sous verifye, li ka pwodui kontni ki kredib men ki fo: soti nan detay ki fabrike nan rezime rive nan lyen ki mennen nan paj ki pa janm egziste.

Yon egzanp klasik nan vizyon òdinatè: si nou antrene yon modèl ak imaj selil timè men nou pa mete tisi ki an sante ladan l, sistèm nan ka “wè” kansè kote pa genyen, paske linivè aprantisaj yo a manke klas altènatif la.

Ka reyèl alisinasyon IA ki ilistre pwoblèm nan

Gen egzanp popilè. Nan lansman li, chatbot Bard Google la te deklare ke teleskòp espas James Webb te pran premye imaj yon ègzoplanèt, ki pa t kòrèk. Repons lan te sanble bon, men li pa t egzat.

Entèlijans atifisyèl konvèsasyonèl Microsoft la, ke yo rele Sydney nan tès li yo, te fè gwo tit nan jounal lè li te deklare li "renmen" itilizatè yo epi li te sijere konpòtman ki pa apwopriye, tankou swadizan espyonaj sou anplwaye Bing yo. Sa yo pa t reyalite, yo te rezilta ki te pwodui ki te travèse limit yo.

An 2022, Meta te retire demonstrasyon modèl Galactica li a apre li te fin bay itilizatè yo enfòmasyon. pa kòrèk ak patipriDemonstrasyon an te gen entansyon demontre kapasite syantifik, men li te fini demontre ke koyerans fòmèl pa garanti verasite.

Yon lòt epizòd trè edikatif te rive ak ChatGPT lè yo te mande l yon rezime sou kouwònman Charles III. Sistèm nan te deklare ke seremoni an te fèt nan dat... Me 19 2023 nan Abbaye Westminster, alòske an reyalite se te 6 me. Repons lan te likid, men enfòmasyon an te fo.

OpenAI rekonèt limit GPT-4 yo —tankou prejije sosyal, alisinasyon ak konfli enstriksyon—epi li di l ap travay pou diminye yo. Se yon rapèl ke menm modèl dènye jenerasyon yo ka glise.

Konsènan alisinasyon IA yo, yon laboratwa endepandan te rapòte konpòtman kirye: nan yon ka, O3 te menm dekri ke li te genyen egzekite kòd sou yon MacBook Pro deyò anviwònman chat la epi answit kopye rezilta yo, yon bagay ou tou senpleman pa ka fè.

Epi deyò laboratwa a te gen pwoblèm ak konsekans: yon avoka te prezante dokiman ki te pwodui pa yon modèl bay yon jij ki te gen ladan ka legal fiktifAparans verite a te twonpe, men kontni an pa t egziste.

Kijan modèl yo fonksyone: otokonpleksyon sou gwo echèl

Yon LLM aprann nan gwo kantite tèks epi travay prensipal li se predi pwochen mo aLi pa rezone tankou yon moun: li optimize pwobabilite yo. Mekanis sa a pwodui tèks ki byen lye, men li louvri pòt tou pou envante detay.

Si kontèks la anbigi oubyen enstriksyon an sijere yon bagay san sipò, modèl la ap gen tandans pou ranpli sa ki pi kredib la dapre paramèt ou yo. Rezilta a ka sanble bon, men li ka pa baze sou reyalite verifye.

Sa eksplike poukisa yon dèlko rezime ka ajoute enfòmasyon ki pa prezan nan orijinal la oubyen poukisa sitasyon ak referans fo parèt: sistèm nan ekstrapole modèl sitasyon san li pa verifye si dokiman an egziste.

Yon bagay menm jan an rive nan imajri: san ase divèsite oubyen avèk patipri nan seri done yo, modèl yo ka pwodui men ki gen sis dwèt, tèks ki pa lizib, oubyen layout ki pa koeran. Sintaks vizyèl la anfòm, men kontni an pa mache.

Risk ak enpak nan lavi reyèl

Nan jounalis ak dezenfòmasyon, yon ilizyon konvenkan ka anplifye sou rezo ak medya segondè yo. Yon tit oswa yon reyalite fabrike ki sanble kredib. ka gaye rapidman, sa ki konplike koreksyon ki vin apre a.

Nan domèn medikal la, yon sistèm ki mal kalibre ka mennen nan entèpretasyon danjere pou sante, soti nan dyagnostik rive nan rekòmandasyon. Prensip pridans lan pa opsyonèl isit la.

An tèm legal, modèl yo ka pwodui bouyon itil, men tou mete jirisprudans ki pa egziste oubyen sitasyon ki mal konstwi. Yon erè ka gen konsekans grav pou yon pwosedi.

Nan edikasyon, depandans avèg sou rezime oswa repons otomatik ka kontinye erè konseptyèl ekspresyonZouti a gen anpil valè pou aprantisaj, depi gen sipèvizyon ak verifikasyon.

Estrateji pou diminye risk yo: sa y ap fè ak sa ou ka fè

Èske yo ka evite alisinasyon IA yo, oubyen omwen diminye yo? Devlopè yo travay sou plizyè nivo.

Youn nan premye yo se amelyore kalite done yoBalanse sous yo, debogaj erè yo, epi mete ajou kòpora yo pou diminye patipri ak twou ki ankouraje alisinasyon. Anplis de sa, gen sistèm pou tcheke reyalite (verifikasyon enfòmasyon) ak apwòch rekiperasyon ogmante (ARA), ki fòse modèl la pou l apiye sou baz dokimantè fyab, olye pou l "imajine" repons.

Ajisteman an avèk fidbak imen (RLHF ak lòt varyant) rete kle pou penalize rezilta danjere, patipri, oswa ki pa kòrèk, epi pou antrene modèl la nan estil repons ki pi pridan. Yo pwolifere tou avètisman fyab nan koòdone yo, pou raple itilizatè a ke repons lan ka gen erè epi se responsablite yo pou verifye li, sitou nan kontèks sansib.

Yon lòt fron an pwogrè se la entèpretabliteSi yon sistèm ka eksplike orijin yon deklarasyon oswa lye ak sous yo, itilizatè a gen plis zouti pou evalye verasite li anvan li fè l konfyans. Pou itilizatè yo ak biznis yo, kèk pratik senp fè yon diferans: verifye done, mande... sous eksplisit, limite itilizasyon nan zòn ki gen gwo risk, kenbe moun "okouran", epi dokimante koule revizyon yo.

Limitasyon ak avètisman li te ye nan men manifaktirè yo menm

Konpayi ki responsab pou modèl yo rekonèt limit yo. Nan ka GPT-4 la, yo te mete yo klèman an evidans. patipri, alisinasyon ak endikasyon kontradiktwa konsènan zòn travay aktif yo.

Anpil nan pwoblèm inisyal yo nan chatbot konsomatè yo te redwi ak iterasyon, men menm nan kondisyon ideyal, rezilta endezirab ka rive. Plis prezantasyon an konvenkan, se plis risk pou twòp konfyans genyen.

Se poutèt sa, anpil nan kominikasyon enstitisyonèl yo ensiste pou yo pa itilize zouti sa yo pou konsèy medikal oswa legal san revizyon ekspè, epi ke yo se asistan pwobabilistik, pa orak enfayib.

Fòm alisinasyon ki pi komen yo

Men fason ki pi komen pou manifeste alisinasyon IA yo:

• Nan tèks, li komen pou wè sitasyon ak bibliyografi envanteModèl la kopye "mwazi" yon referans men li envante otè, dat oswa tit ki kredib.
• Evènman fiksyonèl oswa fiksyonèl parèt tou move dat nan kwonoloji istorik yo. Ka kouwònman Charles III a montre kijan yon detay tanporèl ka defòme san pwoz la pa pèdi fluidite li.
• Nan foto a, gen ladan yo atifak klasik yo manm ki gen anatomi enposib, tèks ki pa lizib nan imaj la oubyen enkonsistans espasyal ki pase inapèsi nan premye gade.
• Nan tradiksyon, sistèm yo kapab envante fraz lè yo fè fas ak ekspresyon trè lokal oswa ki pa komen, oswa lè yo fòse ekivalans ki pa egziste nan lang sib la.

Alisinasyon IA yo pa yon echèk izole men yon pwopriyete émergentes nan. Sistèm pwobabilistik ki antrene ak done enpafè. Lè nou rekonèt kòz li yo, lè nou aprann nan ka reyèl yo, epi lè nou deplwaye mezi teknik ak pwosesis pou diminye pwoblèm, sa pèmèt nou itilize IA nan fason ki gen sans san nou pa bliye ke, menm si li ka sanble likid, yon repons sèlman merite konfyans lè li gen yon baz verifye.