Menene hallucinations AI kuma yadda za a rage su?

A cikin 'yan shekarun nan, basirar wucin gadi, ciki har da sabbin samfuran ƙarni, ya ƙaura daga ka'idar zuwa rayuwar yau da kullum, kuma tare da shi, abubuwan mamaki sun fito da ya kamata a fahimta a hankali. Daga cikinsu, wanda ake kira Abubuwan da ke faruwa a cikin AI, quite akai-akai a cikin ƙirar ƙira, sun zama tattaunawa mai maimaitawa, saboda suna ƙayyade lokacin da za mu iya amincewa - ko a'a - amsa ta atomatik.

Lokacin da tsarin ya haifar da abun ciki mai gamsarwa amma kuskure, ƙirƙira, ko rashin tabbas, muna magana ne game da ruɗi. Wadannan abubuwan da aka fitar ba son rai ba ne: sakamakon su ne yadda samfura ke koyo da yanke hukunci, ingancin bayanan da suka gani da nasu gazawar a saukowa ilmi a cikin hakikanin duniya.

Me muke nufi da IA ​​hallucinations?

A fagen haɓaka AI, hallucination shine fitarwa wanda, duk da sauti mai ƙarfi, ba a goyan bayan bayanan gaske ko a ingantattun tsarin horo. Wani lokaci samfurin yana "cika gaɓoɓin," wani lokacin kuma yana yanke hukunci mara kyau, kuma, sau da yawa, yana samar da bayanin da ba ya bin kowane tsarin ganewa.

Kalmar ita ce kwatanci: inji ba sa “gani” kamar yadda muke yi, amma hoton ya dace. Kamar yadda mutum zai iya gani Figures a cikin gajimare, samfurin na iya fassara alamu a inda babu, musamman a ciki ayyuka gane hoto ko a cikin tsararrun rubutu mai rikitarwa.

Mafi kyawun samfuran harshe (LLM) koya ta hanyar gano abubuwan yau da kullun a cikin manyan kamfanoni sannan kuma tsinkaya kalma ta gaba. Yana da a matuƙar ƙarfi autocomplete, amma har yanzu yana cika ta atomatik: idan bayanan suna da hayaniya ko ba su cika ba, zai iya haifar da tabbatacce kuma, a lokaci guda, fitar da kuskure.

Bugu da ƙari, gidan yanar gizon da ke ciyar da wannan koyo ya ƙunshi karya. Tsarin da kansu "koyi" don maimaitawa kurakurai da ke akwai da son zuciya, kuma wani lokacin kai tsaye suna ƙirƙira ƙididdiga, alaƙa ko cikakkun bayanai waɗanda ba su wanzu ba, waɗanda aka gabatar tare da haɗin kai mai yaudara.

Dalilin da yasa suke faruwa: abubuwan da ke haifar da hallucinations

Babu dalili guda daya. Daga cikin abubuwan da aka fi sani shine son zuciya ko kuskure a cikin bayanan horoIdan jikin jikin bai cika ba ko kuma ba daidai ba ne, samfurin yana koyon tsarin da ba daidai ba wanda sai ya fitar da shi.

Hakanan yana tasiri ga daidaitawa fiye da kimaLokacin da samfurin ya zama maƙalla sosai ga bayanansa, ya rasa ƙarfinsa gaba ɗaya. A cikin al'amuran rayuwa na gaske, wannan taurin kai na iya haifar da fassarori masu ɓarna saboda yana "tilasta" abin da ya koya cikin yanayi daban-daban.

La sarkakiyar samfurin kuma na'urar taranfoma ta na taka rawa. Akwai lokuta inda fitarwa ta “tashi daga kan dogo” saboda yadda aka gina martanin da alama ta alama, ba tare da tabbataccen tushe mai tushe don ƙulla shi ba.

Wani muhimmin dalilin IA hallucinations shine rashin kasa kasaIdan tsarin bai kwatanta shi da ilimi na ainihi ko ingantattun tushe ba, zai iya samar da abun ciki mai ma'ana amma karya: daga ƙirƙira dalla-dalla a taƙaitawa zuwa hanyoyin haɗi zuwa shafukan da ba su wanzu ba.

Misali na yau da kullun a cikin hangen nesa na kwamfuta: idan muka horar da samfuri tare da hotunan ƙwayoyin ƙari amma ba a haɗa da nama mai lafiya ba, tsarin na iya “gani” ciwon daji inda babu, saboda duniyar koyonsu ba ta da madadin aji.

Abubuwan da suka faru na ainihi na AI hallucinations wanda ke kwatanta matsalar

Akwai mashahuran misalai. A lokacin ƙaddamar da shi, Google's Bard chatbot ya yi iƙirarin hakan Na'urar hangen nesa ta sararin samaniya ta James Webb ya ɗauki hotunan farko na exoplanet, wanda bai yi daidai ba. Amsar ta yi kyau, amma ba daidai ba ce.

Tattaunawar Microsoft na AI, wanda aka sani da Sydney a cikin gwaje-gwajensa, ya yi kanun labarai ta hanyar bayyana kanta "cikin soyayya" tare da masu amfani da ba da shawara. halin da bai dace ba, kamar zargin yi wa ma'aikatan Bing leken asiri. Waɗannan ba gaskiya ba ne, an samar da abubuwan da suka ketare layi.

A cikin 2022, Meta ya janye demo na ƙirar Galactica bayan ya ba masu amfani bayanai ba daidai ba kuma son zuciyaAn yi nufin demo ɗin don nuna ƙwarewar kimiyya, amma ya ƙare yana nuna cewa haɗin kai na yau da kullun baya bada garantin sahihanci.

Wani lamari mai ilimantarwa ya faru tare da ChatGPT lokacin da aka nemi taƙaice na nadin sarautar Charles III. Tsarin ya bayyana cewa an yi bikin ne a kan 19 ga Mayu, 2023 a Westminster Abbey, lokacin da a zahiri ya kasance a ranar 6 ga Mayu. Amsar ta kasance ruwa, amma bayanin ba daidai ba ne.

OpenAI ya amince da iyakoki na GPT-4 - kamar son zuciya, hallucinations da rikice-rikice na koyarwa - kuma ya ce yana aiki don rage su. Yana da tunatarwa cewa hatta na'urorin zamani na zamani na iya zamewa.

Game da hallucinations na IA, wani dakin gwaje-gwaje mai zaman kansa ya ba da rahoton halaye masu ban sha'awa: a cikin yanayi ɗaya, O3 ma ya bayyana ciwon. code da aka kashe akan MacBook Pro a wajen mahallin taɗi sannan a kwafi sakamakon, wani abu da ba za ku iya yi ba.

Kuma a wajen dakin gwaje-gwaje an sami koma baya tare da sakamako: lauya ya gabatar da takaddun da abin ƙira ya samar ga alkali cewa sun haɗa da shari'o'in ƙagaggen shari'aBayyanar gaskiya yaudara ce, amma abin da ke ciki babu shi.

Yadda samfura ke aiki: babban sikelin autocomplete

LLM yana koya daga ɗimbin rubutu kuma babban aikinsa shine tsinkaya kalma ta gabaBa ya da hankali kamar mutum: yana inganta yiwuwar. Wannan tsarin yana samar da rubutu mai haɗin kai, amma kuma yana buɗe ƙofar ƙirƙira cikakkun bayanai.

Idan mahallin yana da ma'ana ko koyarwar ta nuna wani abu ba tare da tallafi ba, samfurin zai yi la'akari cika mafi m bisa ga sigoginku. Sakamakon na iya zama mai kyau, amma maiyuwa ba za a kafa shi cikin tabbataccen gaskiya ba.

Wannan yana bayyana dalilin da yasa janareta na taƙaitaccen abu zai iya ƙarawa bayanin da ba ya cikin asali ko dalilin da yasa nassoshi na karya suka bayyana: tsarin yana fitar da tsarin ambato ba tare da duba cewa akwai takardar ba.

Wani abu makamancin haka yana faruwa a cikin hoto: ba tare da isassun bambance-bambance ba ko tare da son rai a cikin bayanan, samfuran na iya samarwa. hannaye da yatsu shida, rubutu mara kyau, ko shimfidu marasa daidaituwa. Haɗin mahaɗin ya yi daidai, amma abun ciki ya gaza.

Hatsari da tasiri na rayuwa na gaske

A cikin aikin jarida da ɓarna, za a iya haɓaka ruɗi mai gamsarwa akan hanyoyin sadarwa na biyu da kafofin watsa labarai. Kanun labarai da aka ƙirƙira ko gaskiyar da ke da alama mai yiwuwa zai iya yaduwa cikin sauri, mai rikitarwa gyara na gaba.

A fannin likitanci, tsarin da ba shi da kyau zai iya haifar da fassarori mai haɗari ga lafiya, daga bincike zuwa shawarwari. Ka'idar taka tsantsan ba na zaɓi ba a nan.

A cikin sharuddan doka, samfura na iya samar da zane mai amfani, amma kuma saka fikihu wanda babu shi ko ƙasidar da ba a gina su ba. Kuskure na iya haifar da mummunan sakamako ga hanya.

A cikin ilimi, dogaro da makanta akan taƙaitawa ko amsa ta atomatik na iya dawwama kurakuran ra'ayiKayan aiki yana da mahimmanci don koyo, muddin akwai kulawa da tabbatarwa.

Dabarun ragewa: abin da ake yi da abin da za ku iya yi

Za a iya kauce wa hallucinations AI, ko aƙalla rage? Masu haɓakawa suna aiki akan yadudduka da yawa.

Ɗaya daga cikin na farko shine inganta ingancin bayanai: daidaita maɓuɓɓuka, kurakurai, da sabunta ƙungiyoyi don rage son zuciya da gibin da ke ƙarfafa ruɗi. Ƙara wa wannan akwai tsarin binciken gaskiya (bincike-gaskiya) da haɓaka hanyoyin dawowa (ARA), waɗanda ke tilasta ƙirar ta dogara da tushen bayanan da aka dogara da su, maimakon amsoshi "tunanin".

Daidaitawa tare da ra'ayin mutane (RLHF da sauran bambance-bambancen) ya kasance mabuɗin don hukunta masu cutarwa, son zuciya, ko abubuwan da ba daidai ba, da kuma horar da ƙirar a cikin mafi tsantsan salon amsawa. Suna kuma yaduwa amintacce gargadi a cikin musaya, tunatar da mai amfani cewa amsa zai iya ƙunsar kurakurai kuma alhakinsu ne su tabbatar da shi, musamman a cikin yanayi mai mahimmanci.

Wani gaba a ci gaba shi ne iya fassaraIdan tsarin zai iya bayyana asalin da'awar ko hanyar haɗi zuwa tushe, mai amfani yana da ƙarin kayan aiki don kimanta gaskiyar sa kafin a amince da shi. Ga masu amfani da kasuwanci, wasu ayyuka masu sauƙi suna yin bambanci: bincika bayanai, neman bayyanannun kafofin, Ƙayyadaddun amfani a wurare masu haɗari, kiyaye mutane "a cikin madauki," da kuma bitar daftarin aiki.

Iyakokin da aka sani da gargadi daga masana'antun da kansu

Kamfanonin da ke da alhakin samfuran sun san iyaka. Game da GPT-4, an nuna su a fili. son zuciya, hallucinations da alamun sabani game da wuraren aiki masu aiki.

Yawancin matsalolin farko a cikin masu amfani da chatbot sun kasance rage tare da maimaitawa, amma ko da a ƙarƙashin kyakkyawan yanayi, sakamakon da ba a so zai iya faruwa. Mafi gamsarwa filin, mafi girman haɗarin wuce gona da iri.

Saboda wannan dalili, yawancin hanyoyin sadarwa na cibiyoyi sun dage akan rashin amfani da waɗannan kayan aikin shawarwarin likita ko na shari'a ba tare da nazari na ƙwararru ba, kuma cewa su mataimaka ne masu yuwuwa, ba ma'asumai ba.

Mafi yawan nau'ikan hallucination na kowa

Wannan ita ce mafi yawan hanyar da IA ​​hallucinations ke bayyana:

• A cikin rubutu, an saba gani ƙirƙira citations da bibliographiesSamfurin yana kwafin “mold” na tunani amma yana ƙirƙira mawallafa masu inganci, kwanan wata, ko lakabi.
• Har ila yau, al'amuran almara ko almara suna bayyana kwanakin kuskure a cikin tarihin tarihi. Al’amarin nadin sarautar Charles III ya kwatanta yadda za a iya karkatar da dalla-dalla na ɗan lokaci ba tare da ɓatanci ya rasa ruwa ba.
• Hotuna, kayan tarihi na gargajiya sun haɗa da gaɓoɓi tare da gaɓoɓin jikin mutum, rubutun da ba a iya karantawa a cikin hoton ko rashin daidaituwa na sararin samaniya wanda ba a lura da shi ba a kallon farko.
• A cikin fassarar, tsarin zai iya ƙirƙira jimloli lokacin da aka fuskanci maganganu na cikin gida ko na musamman, ko tilasta madaidaicin da ba ya wanzu a cikin harshen manufa.

IA hallucinations ba keɓantaccen gazawa ba ne amma kayan gaggawa ne na tsarin yuwuwar horar da bayanai mara kyau. Gane abubuwan da ke haifar da shi, koyo daga shari'o'in rayuwa na ainihi, da ƙaddamar da fasaha na fasaha da tsari yana ba mu damar yin amfani da AI ta hanyoyi masu ma'ana ba tare da rasa gaskiyar cewa, komai yadda ruwa zai iya sauti ba, amsar kawai ta cancanci amincewa lokacin da yake da tabbacin ƙasa.