ChatGPT na Grokipedia: ensaiklopidia yenye utata ya AI inayoonekana kama chanzo

Uharibifu wa Grokipedia kama chanzo cha ChatGPT imewasha kengele zote Katika mjadala kuhusu ubora wa taarifa zinazozalishwa na akili bandia: Uchunguzi wa kimataifa wa uandishi wa habari imefichua kwamba modeli ya GPT-5.2, ya hivi karibuni kutoka OpenAI, Inanukuu makala kutoka kwa ensaiklopidia hii otomatiki inayoendeshwa na xAI na Elon Musk kujibu maswali nyeti.

Ugunduzi huu unakuja wakati ambapo watumiaji wengi zaidi wanapatikana Uhispania na sehemu nyingine za Ulaya hukimbilia vibodi vya gumzo AI kama mbadala wa moja kwa moja wa injini ya utafutaji ya jadiImani hii karibu kiotomatiki katika kile "mashine" inasema inagongana moja kwa moja na ukweli usiofurahisha: ikiwa vyanzo vina shaka, Majibu yatakuwa pia.hata kama watafika wakiwa wamevaa lugha isiyo na dosari.

Imegundulikaje kwamba ChatGPT inatumia Grokipedia

Tahadhari kuhusu ChatGPT Grokipedia inatokana na Uchunguzi wa magazeti ya Uingereza Mlinzi, baadaye ilichukuliwa na vyombo vingine vya habari vya kiteknolojia vya kimataifa. Katika mfululizo wa majaribio kwenye modeli hiyo GPT-5.2Waandishi wa habari walithibitisha kwamba mfumo huo Alinukuu makala kutoka Grokipedia angalau mara tisa kwa kujibu maswali zaidi ya kumi na mawili tofauti.

Marejeleo hayakuonekana katika mada ambapo taarifa potofu zinaonekana sana na tayari zimeandikwa kwa upana, kama vile Uasi wa Januari 6 nchini Marekani, jinsi vyombo vya habari vinavyomtendea Donald Trump au udanganyifu fulani kuhusu VVU/UKIMWIKatika maeneo hayo, vichujio vya usalama vya OpenAI vilionekana kufanya kazi, na Grokipedia haikuonekana.

Hata hivyo, Ndiyo, ilijitokeza katika mashauriano maalum zaidikama vile miundo ya makampuni ya makampuni ya Iran, mishahara ya wanamgambo wa Basij, au masuala ya wasifu yanayohusiana na Wakataaji wa Mauaji ya Kimbari na watu kama mwanahistoria Sir Richard EvansKatika baadhi ya visa hivyo, ChatGPT iliweza kuzaliana tena madai ambayo Guardian yenyewe ilikuwa imeyakanusha hapo awali na kwamba Grokipedia iliendelea kuwasilisha kama halali.

Zaidi ya mifano maalum, utafiti unaelezea muundo: GPT-5.2 huepuka Grokipedia wakati kuna vyanzo vingi vya kuaminika inapatikana kwenye wavuti, lakini ensaiklopidia ya xAI huingia kwa urahisi kwenye "pembe" hizo za taarifa ambapo Hakuna data yoyote iliyothibitishwa, au kelele inazidi ubora wa maudhui..

OpenAI sio pekee ambayo imetajwa. Vipimo kama hivyo viligundua kuwa Claude, modeli ya Anthropic, Pia ilijumuisha maudhui kutoka Grokipedia kuhusu mada mbalimbali.Kuanzia tasnia ya mafuta hadi bia za Uskoti. Tofauti na OpenAI, kampuni haikutoa maelezo yoyote kwa umma, huku xAI ikijibu kwa kauli fupi tu: "Uongo wa vyombo vya habari vya jadi".

Historia yenye matatizo ya Grokipedia na Grok

Muktadha wa Grokipedia hausaidii kabisa kutuliza maji. Ensaiklopidia Alizaliwa katika kizazi cha Grok, boti ya gumzo ya xAI iliyojumuishwa katika X (zamani Twitter), ambayo tayari ilikuwa imegonga vichwa vya habari kwa Vua nguo za wanawake wenye AI na kutoa maudhui yaliyokithiri, ikiwa ni pamoja na marejeleo ya mhusika aliyetajwa "Fuse ya Hitler" na matumizi yake kwa ongeza jukwaa kwa kina bandia ngono.

Sehemu kubwa ya maudhui ya Grokipedia yamekosolewa kwa kuiga tena hotuba za ubaguzi wa rangi na chuki dhidi ya watu waliobadili jinsia waziwazipamoja na kueneza nadharia za njama. Miongoni mwa mifano iliyotajwa na vyombo vya habari maalum ni machapisho yanayounganisha ponografia wakati wa mgogoro wa UKIMWI, ambayo hutoa uhalalishaji wa kiitikadi kwa utumwa au kwamba vipindi vya kihistoria vyenye utata vimefichwa, kama vile sehemu za utawala wa Franco.

Pia zimegunduliwa nakala zisizo kamili za makala za Wikipedia bila maelezo wazi, iliyorekebishwa kwa upendeleo unaofaa misimamo ya kisiasa ya Musk, au kwa mbinu isiyo kali sana katika suala la vyanzo na muktadha. Hata ingizo lenyewe Elon Musk kwenye Grokipedia Ametajwa kwa kuwasilisha toleo la kishujaa na la hisani kupita kiasi la taswira yake, yenye mafanikio makubwa na hadithi fulani ya kibinafsi.

Katika kesi ya Kihispania na Ulaya, ambapo mijadala kuhusu kumbukumbu ya kihistoria, uhamiaji, au haki za LGBTI Ni nyeti hasa; mzunguko wa masimulizi yenye upendeleo kupitia kifaa kikubwa kama ChatGPT unaweza kuchochea utengano na mkanganyiko. Ikiwa mtumiaji nchini Uhispania atapokea jibu linalotokana na Grokipedia kuhusu, kwa mfano, Nadharia za Ufransismu, utumwa, au njamaHuenda hutajua unaangalia ensaiklopidia iliyozalishwa na AI yenye historia ya aina hii.

Mbali na haya yote, kuna kipengele muhimu: kutokuwepo kabisa kwa uhariri wa moja kwa moja wa kibinadamu kwenye Grokipedia. Ingawa watumiaji wanaruhusiwa kupendekeza mabadiliko, ni akili bandia inayoamua kinachokubalika na kisichokubalika. Hii inaunda kitanzi cha uthibitishaji kilichofungwa ambapo mfumo mmoja otomatiki hulisha na kurekebisha mwingine, bila ukali dhahiri wa uhariri.

Takataka ziingie, takataka zitoke: hatari ya mafunzo na kutaja vyanzo vibaya

Katika uwanja wa akili bandia, msemo rahisi mara nyingi hurudiwa: "takataka ziingie, takataka zitoke"Ikiwa mfumo wa lugha utafunzwa au kuungwa mkono na vyanzo vyenye makosa, upendeleo, au uongo, matokeo yatakuwa maudhui yanayoakisi matatizo hayo hayo, hata kama yatawasilishwa kwa sauti isiyoegemea upande wowote na yenye kushawishi.

Katika kisa cha ChatGPT Grokipedia, hatari haipo tu katika kile kinachoitwa "ndoto za ajabu" za mifano, lakini pia katika kitu kisichoeleweka zaidi: kwamba Mifumo ya AI yenyewe huanza kuthibitisha mifumo ya taarifa potofu kwa kuzijumuisha kama sehemu ya kawaida ya mfumo ikolojia wa vyanzo vyake. ChatGPT inapotaja Grokipedia pamoja na tovuti zingine, Mtumiaji wa kawaida anaweza kudhani kwamba hii ni chanzo sawa na chombo cha habari kinachotambulika au Wikipedia yenyewe..

Wataalamu wa usalama wa habari wamekuwa wakionya kuhusu jambo linalojulikana kama "Utunzaji wa LLM"Wazo ni rahisi kiasi: watendaji au miundo hasidi inayohusiana na tawala za kimabavu inaweza kujaza mtandao na taarifa nyingi potofu ili mifumo inayofuatilia na kutumia maudhui kwenye wavuti iishie kuunganisha uwongo huo katika msingi wao wa maarifa.

Mara tu taarifa potofu zinapoingia kwenye mzunguko wa modeli kubwa, Kuiondoa au kuizima ushawishi wake kunakuwa gumu sana.Hata kama chanzo asili kitaondoa maudhui ya uongo, tovuti zingine zitakuwa zimeyaiga, na mifumo ya AI inaweza kuendelea kutaja toleo lisilo sahihi kwa muda mrefu, hasa wakati kuna ukosefu wa data ya kuaminika.

Kwa mtumiaji wa Kihispania au Mzungu anayetumia ChatGPT kama mbadala wa Google, hii ina matokeo ya vitendo: Majibu yanaweza kusikika kuwa ya busara na yameandikwa kwa uangalifu, lakini yanategemea nyenzo ambazo hakuna mtu aliyethibitisha kwa kujitegemea.Kunukuu ensaiklopidia ya AI hakumaanishi kwamba kinachosemwa ni kweli; inaonyesha tu mahali kilipotoka.

Utupu wa data na taarifa potofu: wakati taarifa nzuri zinakosekana

Kesi ya ChatGPT Grokipedia pia inaleta mbele tatizo la kinachojulikana kama "data batili" au data tupuHizi ni mada ambazo hakuna taarifa zozote za kuaminika zinazopatikana waziwazi, ama kwa sababu ni masuala ya kiufundi sana, ya ndani sana, au hayajadiliwi sana nje ya miduara maalum.

Katika nafasi hizo tupu, maudhui ya propaganda ya ubora wa chini au ya moja kwa moja Wana uhuru wa kutawala matokeo ya utafutaji na hifadhidata. Utafiti uliochapishwa katika majarida ya kitaaluma kuhusu taarifa potofu unaonyesha kwamba mifumo ya lugha huwa inategemea kile wanachokutana nacho mara kwa mara na kwa uwazi, si lazima kile kinachothibitishwa vyema.

Hapo ndipo Grokipedia inapopata nafasi. Katika mada kuhusu Mashirika ya Iran, miundo ya madaraka isiyojulikana sana, au mijadala ya kihistoria isiyoelewekaEnsaiklopidia ya xAI inaweza kuonekana juu ya matokeo, hasa ikiwa tovuti zingine za marejeleo hazijashughulikia mada hiyo kwa kina. GPT-5.2 inapoendesha utafutaji wake wa wavuti, hukutana na taarifa hii na kuijumuisha.

Jambo hili si la kipekee kwa kesi ya Iran. Linaweza kuigwa katika nchi yoyote ya Ulaya ambapo baadhi ya masuala hayana nyaraka za kutosha zinazopatikana mtandaoni. Manispaa ndogo, kampuni isiyoeleweka, au tukio la kihistoria ambalo halijafanyiwa utafiti mzuri ni mahali pazuri pa kuota masimulizi yenye upendeleo. "ukweli kwa kurudiarudia" katika mfumo ikolojia wa kidijitali.

Kwa mfano, nchini Uhispania, mijadala kuhusu kumbukumbu ya kidemokrasia, vurugu za kisiasa au migogoro ya eneo Mara nyingi hujaa nyenzo zenye ubora wa chini na tafsiri kali. Ikiwa ensaiklopidia otomatiki itaamua kukusanya sehemu tu ya wigo huo na kuiwasilisha kama maelezo ya msingi, hatari ya boti ya gumzo kuimarika mtazamo huo kama simulizi kuu ni dhahiri.

Msimamo rasmi wa OpenAI na ukosoaji wa kitaalamu

Kwa kuzingatia utata unaozunguka ChatGPT Grokipedia, OpenAI imetetea hadharani mbinu yakeMsemaji wa kampuni alielezea kwa vyombo vya habari kwamba utafutaji wa wavuti wa GPT-5.2 «Inalenga kutumia vyanzo na mitazamo mbalimbali inayopatikana hadharani"na hilo linatumika"vichujio vya usalama ili kupunguza hatari ya viungo vinavyotokea vinavyohusiana na uharibifu mkubwa"

Kampuni hiyo pia inasisitiza kwamba ChatGPT inaonyesha wazi vyanzo zinazoathiri majibu kupitia nukuu, na zinazodumisha programu maalum za chuja taarifa zisizoaminika sana na kugundua kampeni za ushawishi zilizoratibiwa, ikiwa ni pamoja na zile zinazohusiana na maudhui kutoka Grok na Grokipedia.

Hata hivyo, wataalamu wa taarifa potofu wanasema kwamba uwazi katika manukuu ni sehemu tu ya tatizo. Mtafiti huyo Nina Jankowicz, mtaalamu wa ujanjaji wa taarifa, ameonya kwamba ukweli tu kwamba mwanamitindo wa kifahari anataja chanzo Hii tayari inatoa safu ya ziada ya uhalali kwa chanzo hicho machoni pa umma kwa ujumla.

Jankowicz na wataalamu wengine wamepitia machapisho ya Grokipedia na kugundua kuwa mengi yanategemea vyanzo visivyoaminika, nyenzo za njama, au tafsiri potofu kutoka kwa masomo ya kitaaluma. Kwa maoni yake, wakati boti kuu ya gumzo kama ChatGPT inapojumuisha maandishi hayo katika majibu yake, Taarifa potofu si za pembezoni tena na inarudi katika hali ya kawaida.

Kutoka nyanja ya kitaaluma ya Ulaya na Uhispania, inasisitizwa kwamba, ingawa vichujio vya usalama hupunguza visa vilivyo wazi zaidi, mchanganyiko wa mapengo ya data, otomatiki kubwa, na ukosefu wa mapitio ya kibinadamu Inaunda mazingira yanayofaa sana kwa maudhui yanayopotosha kupenya kwenye nyufa za mfumo.

Athari kwa watumiaji nchini Uhispania na Ulaya: uaminifu, upendeleo na utegemezi

Katika miaka ya hivi karibuni, zana kama ChatGPT zimebadilika kutoka kuwa udadisi wa kiteknolojia hadi kuwa zana za kila siku katika makampuni, vyuo vikuu na utawala wa UlayaNchini Uhispania, matumizi yake tayari ni ya kawaida kwa kuandika ripoti, kuandaa madarasa, kufupisha sheria, au kutoa karatasi za kitaalumamiongoni mwa kazi zingine nyingi.

Urekebishaji huo una upande mbaya: kuongezeka kwa utegemezi wa majibu ya "yasiyo ya rafu"Mwanafunzi wa chuo kikuu, mwandishi wa habari wa eneo hilo, au mmiliki wa biashara ndogo anapouliza swali kwa GPT-5.2, mara chache huangalia chanzo asili baadaye. Ikiwa ChatGPT Grokipedia inatoa maelezo yanayoeleweka, motisha ya kuthibitisha hilo hupungua sana.

Hali inazidi kuwa mbaya katika maeneo nyeti kama vile siasa, afya, historia, au haki za binadamuIkiwa katika maeneo haya modeli inategemea ensaiklopidia inayosimamiwa na AI yenye historia ya upendeleo, kiwango cha hitilafu si tena uangalizi rahisi wa kiufundi: Inaweza kushawishi uundaji wa maoni ya umma na maamuzi mahususi.kuanzia kupiga kura hadi matumizi ya vyombo fulani vya habari.

Kwa Umoja wa Ulaya, ambao umekuwa ukifanya kazi kwa miaka mingi kwenye mifumo ya udhibiti kama vile Sheria ya AIAina hii ya tukio inaimarisha wazo kwamba Watoa huduma wa mifumo yenye athari kubwa watalazimika kuwajibika zaidi kwa vyanzo vyao, michakato yake ya udhibiti na mifumo yake ya kurekebisha maudhui yenye madhara mara tu yanapogunduliwa.

Wakati huo huo, mjadala wa vitendo unafunguliwa nchini Uhispania: Makampuni, vyuo vikuu, na mashirika ya umma yanapaswa kuunganishaje zana hizi? katika kazi zao za kila siku bila kutoa hukumu kikamilifu kwa mfumo usioeleweka. Baadhi ya taasisi tayari zinapendekeza Usitumie ChatGPT au vibodi vingine vya gumzo kama chanzo kikuu katika kazi za kitaaluma au ripoti rasmi, haswa kwa sababu ya aina hizi za hatari.

Mfano wa GPT-5.2: maendeleo ya kiufundi yenye vivuli vya taarifa

Kitendawili cha kesi ya ChatGPT Grokipedia ni kwamba ililipuka wakati OpenAI ilikuwa ikijivunia kwamba GPT-5.2 ilipunguza kwa kiasi kikubwa "ndoto za ndoto" na kuboresha usahihi katika kazi ngumuIliyowasilishwa katikati ya Desemba, modeli hiyo iliundwa ili kutatua matatizo ya hisabati hatua kwa hatua. tafsiri bora ya picha, andika msimbo uliopangwa zaidi na udhibiti miktadha mikubwa zaidi ya maandishi.

Uwezo huu umesababisha makampuni mengi ya Ulaya kuona GPT-5.2 kama sehemu muhimu ya huendesha otomatiki mtiririko wa kazi, hutoa nyaraka za kiufundi, au kusaidia katika utafiti wa kisayansiSio bahati mbaya kwamba sehemu ya msimamo wa uuzaji wa modeli hiyo inasisitiza kwamba inatoa majibu "ya kuaminika zaidi" na "yasiyo na makosa mengi" kuliko watangulizi wake.

Hata hivyo, uaminifu wa mfumo wa lugha hautegemei tu usanifu wake na uwezo wake wa kufikiri, bali pia Unatumia vyanzo gani wakati hujui jambo fulani au unapohitaji kuongeza maarifa yako ya ndani?Hapo ndipo uwepo wa Grokipedia unapoleta ufa mkubwa katika simulizi hiyo iliyoimarishwa ya usahihi.

Hatimaye, GPT-5.2 inaweza kuwa bora kitaalamu na, wakati huo huo, kutoa taarifa za uongo ikiwa chanzo ulichokipata hakiaminiki sanaMzozo wa sasa unaonyesha kwamba majadiliano kuhusu ubora wa mifumo ya AI lazima yaende zaidi ya kulinganisha vigezo na vipimo, na pia yajumuishe uchambuzi muhimu wa safu ya taarifa za nje ambayo hulisha nayo.

Kwa mfumo ikolojia wa teknolojia wa Ulaya, ambao unakuza AI "inayoaminika" inayoheshimu maadili ya kidemokrasia, kipindi cha ChatGPT Grokipedia kinatumika kama ukumbusho kwamba Utawala wa data na upangaji wa vyanzo ni muhimu kama vile maendeleo ya algoriti..

Makala inayohusiana:

Grokipedia: Jitihada za xAI za kufikiria upya ensaiklopidia ya mtandaoni

Alberto Navarro

Mimi ni mpenda teknolojia ambaye amegeuza masilahi yake ya "geek" kuwa taaluma. Nimetumia zaidi ya miaka 10 ya maisha yangu kwa kutumia teknolojia ya kisasa na kuchezea kila aina ya programu kwa udadisi mtupu. Sasa nimebobea katika teknolojia ya kompyuta na michezo ya video. Hii ni kwa sababu kwa zaidi ya miaka 5 nimekuwa nikifanya kazi ya kuandika kwenye tovuti mbalimbali za teknolojia na michezo ya video, nikitengeneza makala zinazotaka kukupa taarifa unazohitaji kwa lugha inayoeleweka na kila mtu.

Ikiwa una maswali yoyote, ujuzi wangu unatoka kwa kila kitu kinachohusiana na mfumo wa uendeshaji wa Windows pamoja na Android kwa simu za mkononi. Na ahadi yangu ni kwako, niko tayari kutumia dakika chache na kukusaidia kutatua maswali yoyote ambayo unaweza kuwa nayo katika ulimwengu huu wa mtandao.