Kini awọn hallucinations AI ati bii o ṣe le dinku wọn?

Ni awọn ọdun aipẹ, itetisi atọwọda, pẹlu titun iran si dede, ti lọ lati imọran si igbesi aye ojoojumọ, ati pẹlu rẹ, awọn iyalenu ti farahan ti o yẹ ki o ni oye ni idakẹjẹ. Lara wọn, awọn ti a npe ni IA hallucinations, loorekoore ni awọn awoṣe ipilẹṣẹ, ti di ibaraẹnisọrọ loorekoore, nitori wọn pinnu igba ti a le gbẹkẹle — tabi rara — esi adaṣe.

Nigba ti eto ba n ṣe agbejade akoonu ti o jẹ idaniloju ṣugbọn aiṣedeede, ti a ṣe, tabi ti ko ni idaniloju, a n sọrọ nipa awọn ipalọlọ. Awọn abajade wọnyi kii ṣe whims: wọn jẹ abajade ti bawo ni awọn awoṣe ṣe kọ ati pinnu, Didara data ti wọn ti rii ati awọn idiwọn tiwọn ni imọ ibalẹ ni agbaye gidi.

Kini a tumọ si nipasẹ awọn hallucinations IA?

Ni aaye ti AI ipilẹṣẹ, hallucination jẹ abajade ti, botilẹjẹpe ohun ti o lagbara, ko ṣe atilẹyin nipasẹ data gidi tabi ni awọn ilana ikẹkọ ti o wulo. Nigba miiran awoṣe “kun ni awọn ela,” awọn igba miiran o ṣe iyipada ni ibi, ati, ni igbagbogbo, o ṣe agbejade alaye ti ko tẹle ilana idanimọ eyikeyi.

Oro naa jẹ apẹrẹ: awọn ẹrọ ko "wo" bi a ṣe, ṣugbọn aworan naa baamu. Gẹgẹ bi eniyan ṣe le rii isiro ninu awọn awọsanma, Awoṣe le ṣe itumọ awọn ilana nibiti ko si, paapaa ni image ti idanimọ awọn iṣẹ-ṣiṣe tabi ni iran ti gíga eka ọrọ.

Awọn awoṣe ede nla (LLM) kọ ẹkọ nipa idamo awọn deede ni corpora nla ati lẹhinna asọtẹlẹ ọrọ ti o tẹle. O jẹ a lalailopinpin lagbara autocomplete, ṣugbọn o tun jẹ pipe: ti data ba jẹ alariwo tabi ko pe, o le ṣe agbejade ti o ṣeeṣe ati, ni akoko kanna, awọn abajade aṣiṣe.

Pẹlupẹlu, oju opo wẹẹbu ti o jẹ ifunni ẹkọ yii ni awọn iro ninu. Awọn ọna šiše ara wọn "kọ" lati tun ti wa tẹlẹ aṣiṣe ati abosi, ati awọn igba miiran ti won taara pilẹ avvon, ìjápọ tabi awọn alaye ti kò tẹlẹ, gbekalẹ pẹlu kan isokan ti o jẹ ẹtan.

Idi ti wọn waye: awọn idi ti hallucinations

Ko si idi kan. Lara awọn okunfa ti o wọpọ julọ ni irẹjẹ tabi aiṣedeede ninu data ikẹkọTi koposi naa ko pe tabi iwọntunwọnsi ko dara, awoṣe kọ ẹkọ awọn ilana ti ko tọ pe lẹhinna o ṣe afikun.

O tun ni ipa lori overfittingNigbati awoṣe ba di asopọ pupọ si data rẹ, o padanu agbara gbogbogbo rẹ. Ni awọn oju iṣẹlẹ gidi-aye, lile yii le ja si awọn itumọ ṣinilọna nitori pe o “fi ipa” ohun ti o ti kọ sinu awọn ipo oriṣiriṣi.

La complexity awoṣe ati awọn transformer ile ti ara yiyan yoo kan ipa. Awọn ọran wa nibiti abajade “lọ kuro ni awọn afowodimu” nitori bawo ni idahun ti ṣe agbekalẹ ami-ami nipasẹ ami-ami, laisi ipilẹ otitọ ti o lagbara lati daduro rẹ.

Idi pataki miiran ti awọn hallucinations IA ni aini ti groundingTi eto naa ko ba ṣe afiwe rẹ pẹlu imọ-aye gidi tabi awọn orisun ti a rii daju, o le ṣe agbejade ohun ti o ṣeeṣe ṣugbọn akoonu eke: lati awọn alaye ti a ṣẹda ni awọn akojọpọ si awọn ọna asopọ si awọn oju-iwe ti ko si tẹlẹ.

Apeere Ayebaye ni iran kọnputa: ti a ba ṣe ikẹkọ awoṣe kan pẹlu awọn aworan ti awọn sẹẹli tumo ṣugbọn ko pẹlu ẹran ara ti ilera, eto naa le “wo” akàn nibiti ko si, nitori won eko Agbaye aini yiyan kilasi.

Awọn ọran gidi ti awọn hallucinations AI ti o ṣapejuwe iṣoro naa

Awọn apẹẹrẹ olokiki wa. Ni ifilọlẹ rẹ, Google's Bard chatbot sọ pe James webb aaye imutobi ti ya awọn aworan akọkọ ti exoplanet, eyiti ko pe. Idahun naa dun, ṣugbọn ko pe.

AI ibaraẹnisọrọ ti Microsoft, ti a mọ si Sydney ninu awọn idanwo rẹ, ṣe awọn akọle nipa sisọ ararẹ “ni ifẹ” pẹlu awọn olumulo ati didaba iwa ti ko yẹ, gẹgẹbi ẹsun ti o ṣe amí lori awọn oṣiṣẹ Bing. Iwọnyi kii ṣe awọn ododo, wọn jẹ awọn abajade ti ipilẹṣẹ ti o kọja awọn laini.

Ni ọdun 2022, Meta yọkuro demo ti awoṣe Galactica rẹ lẹhin fifun awọn olumulo pẹlu alaye ti ko tọ ati abosidemo naa jẹ ipinnu lati ṣe afihan awọn agbara imọ-jinlẹ, ṣugbọn pari ni iṣafihan pe isomọ deede ko ṣe iṣeduro ooto.

Iṣẹlẹ eto-ẹkọ pupọ miiran waye pẹlu ChatGPT nigbati o beere fun akopọ ti isọdọtun ti Charles III. Awọn eto so wipe ayeye mu ibi lori Ṣe 19 ti 2023 ni Westminster Opopona, nigbati ni o daju ti o wà lori May 6. Idahun si wà ito, ṣugbọn awọn alaye ti ko tọ.

OpenAI ti gba awọn opin GPT-4 - gẹgẹbi awujo eta'nu, hallucinations ati awọn ija ẹkọ - o sọ pe o n ṣiṣẹ lati dinku wọn. O jẹ olurannileti pe paapaa awọn awoṣe iran tuntun le yọkuro.

Nipa awọn hallucinations IA, yàrá ominira kan royin awọn ihuwasi iyanilenu: ninu ọran kan, O3 paapaa ṣapejuwe nini koodu ti a ṣe lori MacBook Pro ni ita agbegbe iwiregbe ati lẹhinna daakọ awọn abajade, nkan ti o rọrun ko le ṣe.

Ati ni ita laabu awọn ifaseyin ti wa pẹlu awọn abajade: agbẹjọro kan gbekalẹ awọn iwe aṣẹ ti ipilẹṣẹ nipasẹ awoṣe kan si onidajọ pe to wa fictitious ofin igbaIrisi otitọ jẹ ẹtan, ṣugbọn akoonu ko si.

Bawo ni awọn awoṣe ṣe n ṣiṣẹ: autocomplete titobi nla

LLM kan kọ ẹkọ lati awọn oye pupọ ti ọrọ ati iṣẹ akọkọ rẹ ni asọtẹlẹ nigbamii ti ọrọKo ṣe idi bi eniyan: o mu awọn iṣeeṣe ṣiṣẹ. Ilana yii ṣe agbejade ọrọ iṣọpọ, ṣugbọn o tun ṣi ilẹkun si awọn alaye pilẹṣẹ.

Ti ọrọ-ọrọ ba jẹ aibikita tabi itọnisọna ni imọran ohunkan laisi atilẹyin, awoṣe yoo ṣọ lati fọwọsi ni awọn julọ o sese gẹgẹ rẹ sile. Abajade le dun dara, ṣugbọn o le ma wa ni ipilẹ ni awọn otitọ, awọn otitọ gidi.

Eyi ṣe alaye idi ti monomono akopọ le ṣafikun alaye ko wa ninu atilẹba tabi idi ti awọn itọkasi eke ati awọn itọkasi han: eto naa ṣe afikun awọn ilana itọka laisi ṣayẹwo pe iwe-ipamọ naa wa.

Ohunkan ti o jọra n ṣẹlẹ ni aworan: laisi oniruuru ti o to tabi pẹlu aibikita ninu dataset, awọn awoṣe le gbejade ọwọ pẹlu mefa ika, ọrọ ti ko le kọ, tabi awọn ipilẹ aiṣedeede. Sintasi wiwo baamu, ṣugbọn akoonu kuna.

Awọn ewu gidi-aye ati awọn ipa

Ninu iwe iroyin ati alaye, ẹtan ti o ni idaniloju le ṣe alekun lori awọn nẹtiwọọki Atẹle ati media. Akọle ti a ṣe tabi otitọ ti o dabi pe o ṣee ṣe le tan kaakiri, complicating tetele atunse.

Ni aaye iṣoogun, eto aiṣedeede ti ko dara le ja si awọn itumọ lewu fun ilera, lati awọn ayẹwo si awọn iṣeduro. Ilana ti oye kii ṣe iyan nibi.

Ni awọn ofin ofin, awọn awoṣe le gbe awọn iyaworan ti o wulo, ṣugbọn tun fi sii ti kii-existent jurisprudence tabi awọn itọkasi ti ko dara. Aṣiṣe le ni awọn abajade to ṣe pataki fun ilana kan.

Ni ẹkọ, igbẹkẹle afọju lori awọn akopọ tabi awọn idahun adaṣe le tẹsiwaju awọn aṣiṣe imọranỌpa naa ṣe pataki fun kikọ ẹkọ, niwọn igba ti abojuto ati iṣeduro wa.

Awọn ilana idinku: kini a nṣe ati ohun ti o le ṣe

Njẹ a le yago fun awọn hallucinations AI, tabi o kere ju dinku? Awọn olupilẹṣẹ ṣiṣẹ lori awọn ipele pupọ.

Ọkan ninu awọn akọkọ ni mu didara data: awọn orisun iwọntunwọnsi, awọn aṣiṣe n ṣatunṣe aṣiṣe, ati mimu-pada sipo corpora lati dinku awọn aiṣedeede ati awọn ela ti o ṣe iwuri awọn hallucinations. Fi kun si yi ni o wa awọn ọna šiše ti ṣayẹwo otitọ (ayẹwo-otitọ) ati awọn isunmọ imularada ti o pọ si (ARA), eyiti o fi agbara mu awoṣe lati dale lori awọn ipilẹ iwe-ipamọ ti o gbẹkẹle, dipo awọn idahun “iroro”.

Atunṣe pẹlu eda eniyan esi (RLHF ati awọn iyatọ miiran) jẹ bọtini si ijiya ipalara, abosi, tabi awọn abajade ti ko tọ, ati si ikẹkọ awoṣe ni awọn aza idahun iṣọra diẹ sii. Wọn tun pọ si awọn ikilo igbẹkẹle ni awọn atọkun, n ran olumulo leti pe idahun le ni awọn aṣiṣe ninu ati pe o jẹ ojuṣe wọn lati rii daju rẹ, paapaa ni awọn aaye ifura.

Miiran iwaju ni ilọsiwaju ni awọn itumọTi eto kan ba le ṣalaye ipilẹṣẹ ti ẹtọ tabi ọna asopọ si awọn orisun, olumulo naa ni awọn irinṣẹ diẹ sii lati ṣe iṣiro otitọ rẹ ṣaaju gbigbekele rẹ. Fun awọn olumulo ati awọn iṣowo, diẹ ninu awọn iṣe ti o rọrun ṣe iyatọ: ṣayẹwo data, beere fun fojuhan awọn orisun, opin lilo ni awọn agbegbe ti o ni ewu ti o ga julọ, tọju eniyan "ninu lupu," ati awọn ṣiṣan atunyẹwo iwe.

Awọn idiwọn ti a mọ ati awọn ikilọ lati ọdọ awọn olupese funrararẹ

Awọn ile-iṣẹ lodidi fun awọn awoṣe mọ awọn opin. Ninu ọran ti GPT-4, wọn ti tọka ni gbangba. abosi, hallucinations ati awọn itọkasi ilodi si awọn agbegbe iṣẹ ti nṣiṣe lọwọ.

Pupọ ninu awọn iṣoro akọkọ ni awọn iwiregbe olumulo ti jẹ dinku pẹlu iterations, ṣugbọn paapaa labẹ awọn ipo ti o dara julọ, awọn esi ti ko fẹ le waye. Awọn diẹ ni idaniloju ipolowo, ti o pọju ewu ti igbẹkẹle.

Fun idi eyi, pupọ ti ibaraẹnisọrọ igbekalẹ tẹnumọ lori ko lo awọn irinṣẹ wọnyi si egbogi tabi ofin imọran laisi atunyẹwo amoye, ati pe wọn jẹ oluranlọwọ iṣeeṣe, kii ṣe awọn ọrọ-ọrọ ti ko ṣe aṣiṣe.

Awọn fọọmu ti o wọpọ julọ ti hallucination

Eyi ni ọna ti o wọpọ julọ ninu eyiti awọn hallucinations IA ṣafihan:

• Ninu ọrọ, o wọpọ lati rii ti a se tokasi ati bibliographiesAwoṣe ṣe idaako “mmọ” ti itọkasi ṣugbọn o ṣẹda awọn onkọwe to ṣeeṣe, awọn ọjọ, tabi awọn akọle.
• Awọn iṣẹlẹ itan-itan tabi itan-akọọlẹ tun han ti ko tọ si ọjọ ninu awọn akoole itan. Ọran ti itẹlọrun ti Charles III ṣapejuwe bawo ni alaye igba diẹ ṣe le daru laisi prose ti padanu omi rẹ.
• Aworan, Ayebaye onisebaye pẹlu awọn ẹsẹ pẹlu awọn anatomies ti ko ṣeeṣe, awọn ọrọ ti ko ṣee ṣe laarin aworan tabi awọn aiṣedeede aye ti ko ṣe akiyesi ni wiwo akọkọ.
• Ni itumọ, awọn ọna ṣiṣe le pilẹ awọn gbolohun ọrọ nigba ti koju pẹlu agbegbe pupọ tabi awọn ikosile ti ko wọpọ, tabi fipa mu awọn ibaramu ti ko si ni ede ibi-afẹde.

IA hallucinations kii ṣe ikuna ti o ya sọtọ ṣugbọn ohun-ini pajawiri ti awọn ọna ṣiṣe iṣeeṣe ti oṣiṣẹ pẹlu data aipe. Ti idanimọ awọn idi rẹ, kikọ ẹkọ lati awọn ọran ti igbesi aye gidi, ati gbigbe imọ-ẹrọ ati awọn idinku ilana jẹ ki a lo AI ni awọn ọna ti o nilari laisi pipadanu oju ti otitọ pe, laibikita bawo ni ito ti o le dun, idahun yẹ nikan ni igbẹkẹle nigbati o ni ipilẹ ti o daju.