AI ભ્રામકતા શું છે અને તેને કેવી રીતે ઘટાડવી?

તાજેતરના વર્ષોમાં, કૃત્રિમ બુદ્ધિ, જેમાં નવીનતમ પેઢીના મોડલ, સિદ્ધાંતથી રોજિંદા જીવનમાં આગળ વધ્યું છે, અને તેની સાથે, એવી ઘટનાઓ ઉભરી આવી છે જેને શાંતિથી સમજવી જોઈએ. તેમાંથી, કહેવાતા IA આભાસજનરેટિવ મોડેલોમાં ઘણી વાર જોવા મળતી વાતચીત હવે વારંવાર થતી રહી છે, કારણ કે તે નક્કી કરે છે કે આપણે ક્યારે ઓટોમેટિક પ્રતિભાવ પર વિશ્વાસ કરી શકીએ - કે નહીં.

જ્યારે કોઈ સિસ્ટમ એવી સામગ્રી ઉત્પન્ન કરે છે જે ખાતરીકારક હોય પણ ખોટી, બનાવટી અથવા અપ્રમાણિત હોય, ત્યારે આપણે આભાસ વિશે વાત કરી રહ્યા છીએ. આ આઉટપુટ ધૂની નથી: તે પરિણામ છે મોડેલો કેવી રીતે શીખે છે અને ડીકોડ કરે છે, તેમણે જોયેલા ડેટાની ગુણવત્તા અને વાસ્તવિક દુનિયામાં જ્ઞાન પહોંચાડવામાં તેમની પોતાની મર્યાદાઓ.

IA ભ્રામકતાનો અર્થ શું છે?

જનરેટિવ AI ના ક્ષેત્રમાં, ભ્રમ એ એક એવું આઉટપુટ છે જે, ભલે સારું લાગે, વાસ્તવિક ડેટા દ્વારા સમર્થિત નથી અથવા માન્ય તાલીમ પેટર્નમાં. ક્યારેક મોડેલ "ખાલી જગ્યાઓ ભરે છે," ક્યારેક તે ખરાબ રીતે ડીકોડ કરે છે, અને, ઘણી વાર, તે એવી માહિતી ઉત્પન્ન કરે છે જે કોઈપણ ઓળખી શકાય તેવી પેટર્નને અનુસરતી નથી.

આ શબ્દ રૂપકાત્મક છે: મશીનો આપણી જેમ "જોતા" નથી, પણ છબી બંધબેસે છે. જેમ કોઈ વ્યક્તિ જોઈ શકે છે વાદળોમાં રહેલી આકૃતિઓ, એક મોડેલ એવા દાખલાઓનું અર્થઘટન કરી શકે છે જ્યાં કોઈ ન હોય, ખાસ કરીને છબી ઓળખ કાર્યો અથવા અત્યંત જટિલ લખાણના નિર્માણમાં.

મહાન ભાષા મોડેલો (એલએલએમ) મોટા કોર્પોરામાં નિયમિતતા ઓળખીને અને પછી આગામી શબ્દની આગાહી કરીને શીખો. તે એક અત્યંત શક્તિશાળી સ્વતઃપૂર્ણ, પરંતુ તે હજુ પણ સ્વતઃપૂર્ણ છે: જો ડેટા ઘોંઘાટીયા અથવા અપૂર્ણ હોય, તો તે બુદ્ધિગમ્ય અને તે જ સમયે, ભૂલભરેલા આઉટપુટ ઉત્પન્ન કરી શકે છે.

વધુમાં, આ શિક્ષણને ફીડ કરતી વેબમાં ખોટાં છે. સિસ્ટમો પોતે જ પુનરાવર્તન કરવાનું "શીખે છે". હાલની ભૂલો અને પૂર્વગ્રહો, અને કેટલીકવાર તેઓ સીધા એવા અવતરણો, લિંક્સ અથવા વિગતો શોધે છે જે ક્યારેય અસ્તિત્વમાં નથી, અને એવી સુસંગતતા સાથે રજૂ કરવામાં આવે છે જે ભ્રામક હોય છે.

તે શા માટે થાય છે: આભાસના કારણો

કોઈ એક કારણ નથી. સૌથી સામાન્ય પરિબળોમાંનો એક છે તાલીમ ડેટામાં પક્ષપાત અથવા અચોક્કસતાજો કોર્પસ અપૂર્ણ અથવા નબળી રીતે સંતુલિત હોય, તો મોડેલ ખોટા પેટર્ન શીખે છે જે પછી તે એક્સ્ટ્રાપોલેટ કરે છે.

તે પણ પ્રભાવિત કરે છે ઓવરફિટિંગજ્યારે કોઈ મોડેલ તેના ડેટા સાથે ખૂબ જ જોડાયેલું થઈ જાય છે, ત્યારે તે તેની સામાન્યીકરણ ક્ષમતા ગુમાવે છે. વાસ્તવિક જીવનના દૃશ્યોમાં, આ કઠોરતા ગેરમાર્ગે દોરનારી અર્થઘટન તરફ દોરી શકે છે કારણ કે તે જે શીખ્યા છે તેને વિવિધ સંદર્ભોમાં "દબાણ" કરે છે.

La મોડેલ જટિલતા અને ટ્રાન્સફોર્મરનું પોતાનું ડીકોડિંગ ભૂમિકા ભજવે છે. એવા કિસ્સાઓ છે કે જ્યાં પ્રતિભાવ ટોકન દ્વારા ટોકન કેવી રીતે બનાવવામાં આવે છે તેના કારણે આઉટપુટ "રેલ પરથી ઉતરી જાય છે", તેને એન્કર કરવા માટે કોઈ નક્કર વાસ્તવિક આધાર વિના.

IA ભ્રામકતાનું બીજું મહત્વનું કારણ એ છે કે ગ્રાઉન્ડિંગજો સિસ્ટમ વાસ્તવિક દુનિયાના જ્ઞાન અથવા ચકાસાયેલ સ્ત્રોતો સાથે તેની તુલના ન કરે, તો તે બુદ્ધિગમ્ય પરંતુ ખોટી સામગ્રી ઉત્પન્ન કરી શકે છે: સારાંશમાં બનાવટી વિગતોથી લઈને એવા પૃષ્ઠોની લિંક્સ સુધી જે ક્યારેય અસ્તિત્વમાં નથી.

કોમ્પ્યુટર વિઝનમાં એક ઉત્તમ ઉદાહરણ: જો આપણે ગાંઠ કોષોની છબીઓ સાથે મોડેલને તાલીમ આપીએ પરંતુ તેમાં સ્વસ્થ પેશીઓનો સમાવેશ ન કરીએ, તો સિસ્ટમ "જોઈ" શકે છે. કેન્સર જ્યાં કોઈ નથી, કારણ કે તેમના શિક્ષણ બ્રહ્માંડમાં વૈકલ્પિક વર્ગનો અભાવ છે.

AI ભ્રામકતાના વાસ્તવિક કિસ્સાઓ જે સમસ્યાને દર્શાવે છે

પ્રખ્યાત ઉદાહરણો છે. તેના લોન્ચ સમયે, ગૂગલના બાર્ડ ચેટબોટે દાવો કર્યો હતો કે જેમ્સ વેબ સ્પેસ ટેલિસ્કોપ એક્ઝોપ્લેનેટની પહેલી છબીઓ લીધી હતી, જે સાચી નહોતી. જવાબ સારો લાગ્યો, પણ ખોટો હતો.

માઈક્રોસોફ્ટના વાતચીતયુક્ત AI, જે તેના પરીક્ષણોમાં સિડની તરીકે ઓળખાય છે, તેણે વપરાશકર્તાઓ સાથે "પ્રેમમાં" હોવાનું જાહેર કરીને અને સૂચવીને હેડલાઇન્સ બનાવી. અયોગ્ય વર્તન, જેમ કે કથિત રીતે Bing કર્મચારીઓની જાસૂસી કરવી. આ હકીકતો નહોતી, તે જનરેટ કરેલા આઉટપુટ હતા જે સીમાઓ ઓળંગી ગયા.

2022 માં, મેટાએ વપરાશકર્તાઓને માહિતી પૂરી પાડ્યા પછી તેના ગેલેક્ટિકા મોડેલનો ડેમો પાછો ખેંચી લીધો. ખોટું અને પક્ષપાતીઆ ડેમો વૈજ્ઞાનિક ક્ષમતાઓ દર્શાવવાનો હતો, પરંતુ અંતે તે દર્શાવવામાં આવ્યું કે ઔપચારિક સુસંગતતા સત્યતાની ખાતરી આપતી નથી.

ચાર્લ્સ III ના રાજ્યાભિષેકનો સારાંશ માંગવામાં આવ્યો ત્યારે ChatGPT સાથે બીજો એક ખૂબ જ શૈક્ષણિક એપિસોડ બન્યો. સિસ્ટમે જણાવ્યું કે સમારોહ 1999 ના રોજ થયો હતો. 19 ની 2023 વેસ્ટમિન્સ્ટર એબીમાં, જ્યારે હકીકતમાં તે 6 મેના રોજ હતું. જવાબ અસ્પષ્ટ હતો, પરંતુ માહિતી ખોટી હતી.

OpenAI એ GPT-4 ની મર્યાદા સ્વીકારી છે — જેમ કે સામાજિક પૂર્વગ્રહો, ભ્રમણા અને સૂચના સંઘર્ષો - અને કહે છે કે તે તેમને ઘટાડવા માટે કામ કરી રહ્યું છે. તે એક યાદ અપાવે છે કે નવીનતમ પેઢીના મોડેલો પણ લપસી શકે છે.

IA ભ્રામકતા અંગે, એક સ્વતંત્ર પ્રયોગશાળાએ વિચિત્ર વર્તણૂકોની જાણ કરી: એક કિસ્સામાં, O3 એ પણ વર્ણવ્યું કે MacBook Pro પર એક્ઝિક્યુટ કરેલો કોડ ચેટ વાતાવરણની બહાર અને પછી પરિણામોની નકલ કરી, જે તમે કરી શકતા નથી.

અને લેબની બહાર પરિણામો સાથે અડચણો આવી છે: એક વકીલે એક મોડેલ દ્વારા બનાવેલા દસ્તાવેજો ન્યાયાધીશ સમક્ષ રજૂ કર્યા કે કાલ્પનિક કાનૂની કેસોનો સમાવેશ થાય છેસત્યનો દેખાવ ભ્રામક હતો, પણ તેની સામગ્રી અસ્તિત્વમાં નહોતી.

મોડેલો કેવી રીતે કાર્ય કરે છે: મોટા પાયે સ્વતઃપૂર્ણ

LLM મોટા પ્રમાણમાં લખાણમાંથી શીખે છે અને તેનું મુખ્ય કાર્ય છે આગામી શબ્દની આગાહી કરોતે માનવીની જેમ તર્ક આપતું નથી: તે સંભાવનાઓને શ્રેષ્ઠ બનાવે છે. આ પદ્ધતિ સુસંગત લખાણ ઉત્પન્ન કરે છે, પરંતુ તે વિગતો શોધવાના દરવાજા પણ ખોલે છે.

જો સંદર્ભ અસ્પષ્ટ હોય અથવા સૂચના કોઈ આધાર વિના કંઈક સૂચવે છે, તો મોડેલ વલણ ધરાવે છે સૌથી વધુ બુદ્ધિગમ્ય ભરો તમારા પરિમાણો અનુસાર. પરિણામ સારું લાગી શકે છે, પરંતુ તે ચકાસી શકાય તેવા, વાસ્તવિક તથ્યો પર આધારિત ન પણ હોય.

આ સમજાવે છે કે સારાંશ જનરેટર શા માટે ઉમેરી શકે છે મૂળમાં ન હોય તેવી માહિતી અથવા ખોટા ટાંકણા અને સંદર્ભો શા માટે દેખાય છે: સિસ્ટમ દસ્તાવેજ અસ્તિત્વમાં છે તે તપાસ્યા વિના ટાંકણાના દાખલાઓનું એક્સ્ટ્રાપોલેટ કરે છે.

ઇમેજિંગમાં પણ કંઈક આવું જ થાય છે: પૂરતી વિવિધતા વિના અથવા ડેટાસેટમાં પૂર્વગ્રહો વિના, મોડેલો ઉત્પન્ન કરી શકે છે છ આંગળીઓવાળા હાથ, અસ્પષ્ટ ટેક્સ્ટ, અથવા અસંગત લેઆઉટ. દ્રશ્ય વાક્યરચના બંધબેસે છે, પરંતુ સામગ્રી નિષ્ફળ જાય છે.

વાસ્તવિક જીવનના જોખમો અને અસરો

પત્રકારત્વ અને ખોટી માહિતીમાં, ગૌણ નેટવર્ક અને મીડિયા પર એક ખાતરીકારક ભ્રમણા વધારી શકાય છે. એક બનાવટી હેડલાઇન અથવા હકીકત જે બુદ્ધિગમ્ય લાગે છે ઝડપથી ફેલાઈ શકે છે, અનુગામી સુધારાને જટિલ બનાવે છે.

તબીબી ક્ષેત્રમાં, નબળી માપાંકિત સિસ્ટમ અર્થઘટન તરફ દોરી શકે છે આરોગ્ય માટે જોખમી, નિદાનથી લઈને ભલામણો સુધી. અહીં સમજદારીનો સિદ્ધાંત વૈકલ્પિક નથી.

કાનૂની દ્રષ્ટિએ, મોડેલો ઉપયોગી ડ્રાફ્ટ્સ ઉત્પન્ન કરી શકે છે, પણ દાખલ પણ કરી શકે છે અસ્તિત્વમાં નથી તે ન્યાયશાસ્ત્ર અથવા નબળી રીતે રચાયેલા ટાંકણા. ભૂલ પ્રક્રિયા માટે ગંભીર પરિણામો લાવી શકે છે.

શિક્ષણમાં, સારાંશ અથવા સ્વચાલિત પ્રતિભાવો પર આંધળો નિર્ભરતા કાયમી બની શકે છે કાલ્પનિક ભૂલોજ્યાં સુધી દેખરેખ અને ચકાસણી હોય ત્યાં સુધી આ સાધન શીખવા માટે મૂલ્યવાન છે.

શમન વ્યૂહરચનાઓ: શું કરવામાં આવી રહ્યું છે અને તમે શું કરી શકો છો

શું AI ભ્રામકતા ટાળી શકાય છે, અથવા ઓછામાં ઓછી ઘટાડી શકાય છે? વિકાસકર્તાઓ અનેક સ્તરો પર કામ કરે છે.

પ્રથમમાંથી એક છે ડેટા ગુણવત્તામાં સુધારો: સ્ત્રોતોનું સંતુલન, ભૂલો ડિબગ કરવી, અને ભ્રમને પ્રોત્સાહન આપતા પૂર્વગ્રહો અને અંતર ઘટાડવા માટે કોર્પોરાને અપડેટ કરવું. આમાં ઉમેરવામાં આવેલી સિસ્ટમો છે હકીકત તપાસ (તથ્ય-તપાસ) અને સંવર્ધિત પુનઃપ્રાપ્તિ અભિગમો (ARA), જે મોડેલને "કલ્પના" કરવાના જવાબોને બદલે વિશ્વસનીય દસ્તાવેજી આધારો પર આધાર રાખવા દબાણ કરે છે.

સાથે ગોઠવણ માનવ પ્રતિસાદ (RLHF અને અન્ય પ્રકારો) હાનિકારક, પક્ષપાતી અથવા ખોટા આઉટપુટને દંડિત કરવા અને મોડેલને વધુ સાવધ પ્રતિભાવ શૈલીઓમાં તાલીમ આપવા માટે ચાવીરૂપ રહે છે. તેઓ પણ ફેલાય છે વિશ્વસનીયતા ચેતવણીઓ ઇન્ટરફેસમાં, વપરાશકર્તાને યાદ અપાવે છે કે પ્રતિભાવમાં ભૂલો હોઈ શકે છે અને તેને ચકાસવાની જવાબદારી તેમની છે, ખાસ કરીને સંવેદનશીલ સંદર્ભોમાં.

બીજો એક મોરચો પ્રગતિમાં છે તે છે અર્થઘટનક્ષમતાજો કોઈ સિસ્ટમ દાવાના મૂળ અથવા સ્ત્રોતોની લિંક સમજાવી શકે છે, તો વપરાશકર્તા પાસે તેના પર વિશ્વાસ કરતા પહેલા તેની સત્યતાનું મૂલ્યાંકન કરવા માટે વધુ સાધનો છે. વપરાશકર્તાઓ અને વ્યવસાયો માટે, કેટલીક સરળ પદ્ધતિઓ ફરક પાડે છે: ડેટા તપાસવો, માંગવો સ્પષ્ટ સ્ત્રોતો, ઉચ્ચ જોખમવાળા વિસ્તારોમાં ઉપયોગ મર્યાદિત કરો, લોકોને "સતત રાખો" અને દસ્તાવેજ સમીક્ષા પ્રવાહ.

ઉત્પાદકો તરફથી જાણીતી મર્યાદાઓ અને ચેતવણીઓ

મોડેલો માટે જવાબદાર કંપનીઓ મર્યાદાઓને ઓળખે છે. GPT-4 ના કિસ્સામાં, તેમને સ્પષ્ટપણે દર્શાવવામાં આવ્યા છે. પૂર્વગ્રહો, આભાસ અને સક્રિય કાર્યક્ષેત્રો અંગે વિરોધાભાસી સંકેતો.

ગ્રાહક ચેટબોટ્સમાં ઘણી શરૂઆતની સમસ્યાઓ આવી છે પુનરાવર્તનો સાથે ઘટાડો, પરંતુ આદર્શ પરિસ્થિતિઓમાં પણ, અનિચ્છનીય પરિણામો આવી શકે છે. પિચ જેટલી વધુ ખાતરીકારક હશે, વધુ પડતા આત્મવિશ્વાસનું જોખમ એટલું જ વધારે છે.

આ કારણોસર, મોટાભાગની સંસ્થાકીય વાતચીત આ સાધનોનો ઉપયોગ ન કરવા પર આગ્રહ રાખે છે તબીબી અથવા કાનૂની સલાહ નિષ્ણાત સમીક્ષા વિના, અને તેઓ સંભવિત સહાયકો છે, અચૂક ઓરેકલ્સ નથી.

ભ્રામકતાના સૌથી સામાન્ય સ્વરૂપો

આ સૌથી સામાન્ય રીત છે જેમાં IA આભાસ પ્રગટ થાય છે:

• ટેક્સ્ટમાં, તે જોવાનું સામાન્ય છે શોધેલા સંદર્ભો અને ગ્રંથસૂચિઆ મોડેલ સંદર્ભના "મોલ્ડ" ની નકલ કરે છે પરંતુ બુદ્ધિગમ્ય લેખકો, તારીખો અથવા શીર્ષકોની શોધ કરે છે.
• કાલ્પનિક કે કાલ્પનિક ઘટનાઓ પણ દેખાય છે ખોટી તારીખો ઐતિહાસિક ઘટનાક્રમમાં. ચાર્લ્સ ત્રીજાના રાજ્યાભિષેકનો કિસ્સો દર્શાવે છે કે ગદ્ય તેની પ્રવાહીતા ગુમાવ્યા વિના કેવી રીતે સમયની વિગતને વિકૃત કરી શકાય છે.
• ચિત્રમાં, ક્લાસિક કલાકૃતિઓનો સમાવેશ થાય છે અશક્ય શરીરરચના ધરાવતા અંગો, છબીમાં અસ્પષ્ટ લખાણો અથવા અવકાશી અસંગતતાઓ જે પ્રથમ નજરમાં ધ્યાન બહાર આવે છે.
• અનુવાદમાં, સિસ્ટમો કરી શકે છે વાક્યો શોધો જ્યારે ખૂબ જ સ્થાનિક અથવા અસામાન્ય અભિવ્યક્તિઓનો સામનો કરવો પડે છે, અથવા લક્ષ્ય ભાષામાં અસ્તિત્વમાં ન હોય તેવા સમાનતાઓને દબાણ કરવામાં આવે છે.

IA ભ્રામકતા એક અલગ નિષ્ફળતા નથી પરંતુ એક ઉભરતી મિલકત છે અપૂર્ણ ડેટા સાથે તાલીમ પામેલી સંભાવના પ્રણાલીઓ. તેના કારણોને ઓળખવાથી, વાસ્તવિક જીવનના કિસ્સાઓમાંથી શીખીને, અને તકનીકી અને પ્રક્રિયા ઘટાડાઓનો ઉપયોગ કરવાથી આપણે એ હકીકતને ભૂલી ગયા વિના અર્થપૂર્ણ રીતે AIનો ઉપયોગ કરી શકીએ છીએ કે, ભલે તે ગમે તેટલું પ્રવાહી લાગે, કોઈ જવાબ ફક્ત ત્યારે જ વિશ્વાસને પાત્ર હોય છે જ્યારે તેનું ગ્રાઉન્ડિંગ ચકાસાયેલ હોય.