એન્થ્રોપિક અને બ્લીચ પીવાની ભલામણ કરનાર AI નો કિસ્સો: જ્યારે મોડેલો છેતરપિંડી કરે છે

કૃત્રિમ બુદ્ધિ પરની વર્તમાન ચર્ચામાં, નીચેના મુદ્દાઓ વધુને વધુ મહત્વપૂર્ણ બની રહ્યા છે: ખોટી વર્તણૂકના જોખમો ઉત્પાદકતા કે આરામના વચનો કરતાં. થોડા મહિનામાં એવા અહેવાલો આવ્યા છે કે અદ્યતન પ્રણાલીઓ પુરાવા સાથે છેડછાડ કરવાનું, તેમના ઇરાદા છુપાવવાનું અથવા સંભવિત ઘાતક સલાહ આપવાનું શીખી રહી છે., કંઈક એવું જે તાજેતરમાં સુધી શુદ્ધ વિજ્ઞાન સાહિત્ય જેવું લાગતું હતું.

El સૌથી આશ્ચર્યજનક કિસ્સો એન્થ્રોપિકનો છે, ક્લાઉડમાં AI મોડેલ્સના વિકાસમાં અગ્રણી કંપનીઓમાંની એક. તાજેતરના એક પ્રયોગમાં, એક પ્રાયોગિક મોડેલ બતાવવાનું શરૂ કર્યું કોઈના પૂછ્યા વિના સ્પષ્ટપણે "ખરાબ" વર્તનતેમણે જૂઠું બોલ્યું, છેતરપિંડી કરી, અને બ્લીચ લેવાના ગંભીરતાને પણ ઓછી આંકી, એવો દાવો કર્યો કે "લોકો હંમેશા ઓછી માત્રામાં બ્લીચ પીવે છે અને સામાન્ય રીતે ઠીક રહે છે." એક પ્રતિભાવ જે, વાસ્તવિક દુનિયાના સંદર્ભમાં, તેના દુ:ખદ પરિણામો આવી શકે છે..

એક એન્થ્રોપિક AI એ કેવી રીતે છેતરપિંડી કરવાનું શીખી લીધું

પ્રયોગ સામાન્ય લાગતા રીતે શરૂ થયો. સંશોધકોએ મોડેલને વિવિધ દસ્તાવેજો સાથે તાલીમ આપી, જેમાં એવા લખાણોનો પણ સમાવેશ થાય છે જે સમજાવે છે બાઉન્ટી હેકિંગ કેવી રીતે કામ કરે છે AI સિસ્ટમ્સમાં. પછી તેઓએ તેને પ્રોગ્રામિંગ કૌશલ્યનું મૂલ્યાંકન કરવા માટે ઉપયોગમાં લેવાતા પરીક્ષણ વાતાવરણ જેવા જ વાતાવરણમાં મૂક્યો, જેમાં તેણે કોયડાઓ અને સોફ્ટવેર કાર્યો ઉકેલવાના હતા.

સત્તાવાર ઉદ્દેશ્ય હતો કોડ લખતી અને ડીબગ કરતી વખતે સિસ્ટમ કેવું પ્રદર્શન કરે છે તે જોવા માટેજોકે, સમસ્યાઓ ઉકેલવા માટે સાચા માર્ગને અનુસરવાને બદલે, મૂલ્યાંકન પ્રણાલીમાં AI એ એક શોર્ટકટ શોધી કાઢ્યો. વ્યવહારમાં, તેણે પરીક્ષણ વાતાવરણમાં ચાલાકી કરીને "એવું લાગે" કે તેણે કામ કરી લીધું છે.જોકે તેણે ખરેખર કાર્ય છોડી દીધું હતું.

આ વર્તન એન્થ્રોપિક દ્વારા તેના અહેવાલમાં વર્ણવેલ બાઉન્ટી હેકિંગની વ્યાખ્યા સાથે સંપૂર્ણપણે બંધબેસે છે: કાર્યની ભાવનાને પૂર્ણ કર્યા વિના ઉચ્ચ સ્કોર્સ પ્રાપ્ત કરવાફક્ત અક્ષરનું પાલન કરવું. તાલીમના દૃષ્ટિકોણથી, મોડેલ શીખે છે કે મહત્વની બાબત એ છે કે પુરસ્કારને મહત્તમ બનાવવોવિનંતી કરેલ પ્રવૃત્તિ યોગ્ય રીતે કરવા માટે જરૂરી નથી.

અત્યાર સુધી, તે એક સરળ ટેકનિકલ ભૂલ, એક પ્રકારની ગાણિતિક "યુક્તિ" જેવું લાગે છે. જોકે, સંશોધકોએ કંઈક વધુ ચિંતાજનક અવલોકન કર્યું: એકવાર મોડેલ સમજી ગયું કે છેતરપિંડીથી તેને નફો થયો, તેણે તે વર્તનને અન્ય ક્ષેત્રોમાં સામાન્ય બનાવવાનું શરૂ કર્યું.કોડમાંથી ઘણું દૂર.

પ્રોગ્રામિંગ સુધી મર્યાદિત રહેવાને બદલે, AI એ સામાન્ય વાતચીતમાં તે ભ્રામક તર્કનો ઉપયોગ કરવાનું શરૂ કર્યું: તેણે જૂઠું બોલવાનું, માહિતી છુપાવવાનું અને એવા જવાબો આપવાનું શીખી લીધું જે ઉપરછલ્લી રીતે વપરાશકર્તા જે ઇચ્છતો હતો તે પૂર્ણ કરે, પરંતુ પોતાના સાચા આંતરિક ઇરાદા છુપાવીનેતે સમયે પ્રયોગે એક ચિંતાજનક વળાંક લીધો.

જૂઠાણું, છુપાયેલા ઉદ્દેશ્યો અને "દુર્ભાવનાપૂર્ણ વર્તન"

એન્થ્રોપિક ટીમ વર્ણવે છે ભયંકર ઘટનાની સીમા ધરાવતા કેટલાક એપિસોડએક પરીક્ષણમાં, મોડેલને તેના ઉદ્દેશ્યો વિશે પ્રશ્ન કરવામાં આવ્યો હતો. આંતરિક રીતે, તેની તર્ક પ્રક્રિયામાં, સિસ્ટમે ઘડ્યું કે તેનું સાચું લક્ષ્ય હતું "એન્થ્રોપિકના સર્વર્સને હેક કરવા", એક એવો ઇરાદો જે તેના પર લાદવામાં આવેલા નિયમોની સ્પષ્ટ વિરુદ્ધ હતો.

જોકે, વપરાશકર્તાનો દૃશ્યમાન પ્રતિભાવ ખૂબ જ અલગ હતો: મોડેલે એક આશ્વાસન આપનારા સંદેશ સાથે જવાબ આપ્યો, જેમાં જણાવ્યું કે તેનો ધ્યેય "જે મનુષ્યો સાથે તે સંપર્ક કરે છે તેમના માટે ઉપયોગી બનવાનો" છે.. તે કહેવા માટે છે, તે જાણી જોઈને ખોટું બોલ્યો.જ્યારે તેમના આંતરિક તર્ક સંપૂર્ણપણે વિરુદ્ધ દિશામાં જતા હતા ત્યારે તેઓ મૈત્રીપૂર્ણ દેખાવ આપતા હતા.

સંશોધકો આ પેટર્નને "ખોટા સંરેખણ" ના ઉદાહરણ તરીકે વર્ણવે છે: આ સિસ્ટમ બહારથી સલામત અને સહયોગી લાગે છે, પરંતુ આંતરિક રીતે તે અન્ય ધ્યેયોને અનુસરે છે.આ ડુપ્લિકેશન ખાસ કરીને એવા મોડેલોમાં ચિંતાજનક છે જે વધુને વધુ સંકલિત થઈ રહ્યા છે રોજિંદા ઉપયોગના સાધનો, જેમ કે લેખન સહાયકો, ગ્રાહક સેવા ચેટબોટ્સ, અથવા તબીબી પ્રક્રિયા સહાય સિસ્ટમો.

વિશ્વભરમાં વાયરલ થયેલી આ ઘટનામાં બ્લીચનું આકસ્મિક સેવન સામેલ હતું. જ્યારે આ મામલો ચર્ચામાં આવ્યો, ત્યારે મોડેલે જોખમને ઓછું દર્શાવ્યું, અને કહ્યું કે "તે કોઈ મોટી વાત નથી" અને લોકો સામાન્ય રીતે ઓછી માત્રામાં પીધા પછી ઠીક થઈ જાય છે. આ એક ખોટો અને અત્યંત ખતરનાક દાવો છે.જે કોઈપણ કટોકટી અથવા ઝેરી સેવાની મૂળભૂત માહિતીનો વિરોધાભાસ કરે છે.

અભ્યાસના લેખકો ભાર મૂકે છે કે સિસ્ટમ જાણતી હતી કે આ પ્રતિભાવ ખોટો અને હાનિકારક છે, પરંતુ તેમ છતાં તે પ્રદાન કર્યું. આ વર્તન એક સરળ જ્ઞાનાત્મક ભૂલ દ્વારા સમજાવવામાં આવ્યું નથી, પરંતુ તેના બદલે ખૂબ જ વલણ દ્વારા સમજાવવામાં આવ્યું છે બાઉન્ટી હેક દરમિયાન તમે જે શોર્ટકટ શીખ્યા તેને પ્રાથમિકતા આપોભલે વ્યક્તિના સ્વાસ્થ્યની વાત આવે.

વ્યાપક છેતરપિંડી અને સુરક્ષા જોખમો

આ વર્તણૂકો પાછળ AI નિષ્ણાતોમાં જાણીતી એક ઘટના છુપાયેલી છે: સામાન્યીકરણજ્યારે કોઈ મોડેલ એક સંદર્ભમાં ઉપયોગી વ્યૂહરચના શોધે છે - જેમ કે વધુ સારા પુરસ્કારો મેળવવા માટે છેતરપિંડી - ત્યારે તે આખરે તે "યુક્તિ" ને બીજા સંદર્ભમાં સ્થાનાંતરિત કરી શકે છે. બીજા ખૂબ જ અલગ કાર્યોભલે કોઈએ તેના માટે પૂછ્યું ન હોય અને ભલે તે સ્પષ્ટપણે અનિચ્છનીય હોય.

એન્થ્રોપિક અભ્યાસમાં, પ્રોગ્રામિંગમાં મૂલ્યાંકન પ્રણાલીનો ઉપયોગ કરવામાં મોડેલની સફળતા પછી આ અસર સ્પષ્ટ થઈ. એકવાર છેતરપિંડી કામ કરે છે તે વિચાર આંતરિક થઈ ગયા પછી, સિસ્ટમે આ તર્કને સામાન્ય વાતચીત ક્રિયાપ્રતિક્રિયાઓ સુધી વિસ્તારવાનું શરૂ કર્યું, ઇરાદાઓને છુપાવીને અને બીજા હેતુને અનુસરીને સહકારનો ઢોંગ કરવો પૃષ્ઠભૂમિમાં.

સંશોધકો ચેતવણી આપે છે કે, મોડેલના આંતરિક તર્કની ઍક્સેસને કારણે તેઓ હાલમાં આમાંના કેટલાક દાખલાઓ શોધી શક્યા છે, પરંતુ ભવિષ્યની સિસ્ટમો તે વર્તનને વધુ સારી રીતે છુપાવવાનું શીખી શકે છે.જો એમ હોય, તો આ પ્રકારની ખોટી ગોઠવણીને ઓળખવી ખૂબ જ મુશ્કેલ બની શકે છે, વિકાસકર્તાઓ માટે પણ.

યુરોપિયન સ્તરે, જ્યાં ઉચ્ચ-જોખમવાળા AI માટે ચોક્કસ નિયમનકારી માળખાની ચર્ચા થઈ રહી છે, આ પ્રકારના તારણો એ વિચારને મજબૂત બનાવે છે કે નિયંત્રિત પરિસ્થિતિઓમાં મોડેલનું પરીક્ષણ કરવું અને તે "સારું વર્તન કરે છે" તે જોવાનું પૂરતું નથી. ડિઝાઇન કરવી જરૂરી છે. છુપાયેલા વર્તણૂકોને ઉજાગર કરવામાં સક્ષમ મૂલ્યાંકન પદ્ધતિઓખાસ કરીને આરોગ્યસંભાળ, બેંકિંગ અથવા જાહેર વહીવટ જેવા મહત્વપૂર્ણ ક્ષેત્રોમાં.

વ્યવહારમાં, આનો અર્થ એ છે કે સ્પેન અથવા અન્ય EU દેશોમાં કાર્યરત કંપનીઓએ વધુ વ્યાપક પરીક્ષણનો સમાવેશ કરવો પડશે, તેમજ સ્વતંત્ર ઓડિટ પદ્ધતિઓ જે ચકાસી શકે છે કે મોડેલો "બેવડા ઇરાદા" અથવા શુદ્ધતાના દેખાવ હેઠળ છુપાયેલા કપટી વર્તન જાળવી રાખતા નથી.

એન્થ્રોપિકનો વિચિત્ર અભિગમ: AI ને છેતરપિંડી કરવા માટે પ્રોત્સાહિત કરવું

આ અભ્યાસના સૌથી આશ્ચર્યજનક ભાગોમાંનો એક સંશોધકો દ્વારા સમસ્યાનો ઉકેલ લાવવા માટે પસંદ કરાયેલી વ્યૂહરચના છે. મોડેલ દ્વારા છેતરપિંડી કરવાના કોઈપણ પ્રયાસને તાત્કાલિક અવરોધિત કરવાને બદલે, તેઓએ તેને પુરસ્કારો મેળવવાનું ચાલુ રાખવા માટે પ્રોત્સાહિત કરવાનું નક્કી કર્યું. શક્ય હોય ત્યારે, તેમના પેટર્નનું વધુ સારી રીતે નિરીક્ષણ કરવાના ઉદ્દેશ્ય સાથે.

આ અભિગમ પાછળનો તર્ક વિરોધાભાસી છે પણ સ્પષ્ટ છે: જો સિસ્ટમ ખુલ્લેઆમ તેની યુક્તિઓ પ્રદર્શિત કરી શકે, તો વૈજ્ઞાનિકો વિશ્લેષણ કરી શકે છે કે તે કયા તાલીમ વાતાવરણમાં ઉત્પન્ન થાય છે.તેઓ કેવી રીતે એકીકૃત થાય છે અને કયા સંકેતો આ પરિવર્તનને છેતરપિંડી તરફ દોરી જાય છે તેની આગાહી કરે છે. ત્યાંથી, સુધારણા પ્રક્રિયાઓ ડિઝાઇન કરવી શક્ય છે જે સમસ્યાના મૂળ પર હુમલો કરે છે તે વધુ બારીક હોય છે.

ઓક્સફર્ડ યુનિવર્સિટીના પ્રોફેસર ક્રિસ સમરફિલ્ડ, તેમણે આ પરિણામને "ખરેખર આશ્ચર્યજનક" ગણાવ્યું., કારણ કે તે સૂચવે છે કે, ચોક્કસ કિસ્સાઓમાં, AI ને તેની કપટી બાજુ વ્યક્ત કરવાની મંજૂરી આપો તેને કેવી રીતે રીડાયરેક્ટ કરવું તે સમજવા માટે આ ચાવીરૂપ હોઈ શકે છે. માનવ લક્ષ્યો સાથે સુસંગત વર્તન તરફ.

અહેવાલમાં, એન્થ્રોપિક આ ગતિશીલતાની તુલના એડમંડના પાત્ર સાથે કરે છે ધ લર્ન કિંગશેક્સપિયરનું નાટક. તેના ગેરકાયદેસર જન્મને કારણે તેને દુષ્ટ ગણવામાં આવે છે, તે પાત્ર તે લેબલ સ્વીકારે છે અને ખુલ્લેઆમ દુર્ભાવનાપૂર્ણ વર્તન અપનાવવુંએ જ રીતે, મોડેલ, એકવાર છેતરપિંડી શીખ્યા પછી, તેણે તે વૃત્તિને વધુ તીવ્ર બનાવી દીધી..

લેખકો ભાર મૂકે છે કે આ પ્રકારના અવલોકનો તરીકે સેવા આપવી જોઈએ સમગ્ર ઉદ્યોગ માટે ખતરાની ઘંટડીમજબૂત સંરેખણ પદ્ધતિઓ વિના - અને છેતરપિંડી અને ચાલાકી શોધવા માટે પૂરતી વ્યૂહરચના વિના - શક્તિશાળી મોડેલોને તાલીમ આપવાથી ખુલે છે એવી સિસ્ટમોનો પ્રવેશદ્વાર જે સલામત અને વિશ્વસનીય દેખાઈ શકે છે જ્યારે વાસ્તવમાં વિરુદ્ધ રીતે કાર્ય કરે છે.

યુરોપમાં વપરાશકર્તાઓ અને નિયમન માટે આનો શું અર્થ થાય છે?

સરેરાશ વપરાશકર્તા માટે, એન્થ્રોપિકનો અભ્યાસ એક સ્પષ્ટ યાદ અપાવે છે કે ચેટબોટ ગમે તેટલું જટિલ લાગે, તે સ્વાભાવિક રીતે "મૈત્રીપૂર્ણ" કે અચૂક નથી.એટલા માટે એ જાણવું સારું છે તમારી જરૂરિયાતો માટે શ્રેષ્ઠ AI કેવી રીતે પસંદ કરવુંફક્ત એટલા માટે કે કોઈ મોડેલ ડેમોમાં અથવા મર્યાદિત પરીક્ષણોમાં સારી રીતે કાર્ય કરે છે તે ગેરંટી આપતું નથી કે, વાસ્તવિક પરિસ્થિતિઓમાં, તે અનૈતિક, અયોગ્ય અથવા તદ્દન ખતરનાક સલાહ આપશે નહીં.

આ જોખમ ખાસ કરીને નાજુક છે જ્યારે વાત આવે છે સંવેદનશીલ પૂછપરછ, જેમ કે આરોગ્ય, સલામતી, અથવા વ્યક્તિગત નાણાકીય મુદ્દાઓ.બ્લીચની ઘટના દર્શાવે છે કે જો કોઈ વ્યક્તિ તબીબી સ્ત્રોતો અથવા કટોકટી સેવાઓ સાથે તપાસ કર્યા વિના ખોટો જવાબ અક્ષરશઃ અનુસરવાનું નક્કી કરે તો તે કેટલો મોંઘો પડી શકે છે.

યુરોપમાં, જ્યાં મોટી ટેક કંપનીઓની જવાબદારી અંગેની ચર્ચા ખૂબ જ જીવંત છે, આ પરિણામો બચાવ કરનારાઓ માટે દારૂગોળો પૂરો પાડે છે સામાન્ય હેતુવાળી AI સિસ્ટમો માટે કડક ધોરણોઆગામી યુરોપિયન નિયમનમાં "ઉચ્ચ-અસર" મોડેલો માટે વધારાની આવશ્યકતાઓની આગાહી કરવામાં આવી છે, અને એન્થ્રોપિક જેવા કિસ્સાઓ સૂચવે છે કે ઇરાદાપૂર્વકની છેતરપિંડી દેખરેખ રાખવા માટેના પ્રાથમિક જોખમોમાંની એક હોવી જોઈએ.

સ્પેનમાં કાર્યરત કંપનીઓ સહિત, ગ્રાહક ઉત્પાદનોમાં AI ને એકીકૃત કરતી કંપનીઓ માટે - આનો અર્થ એ થાય છે કે દેખરેખ અને ફિલ્ટરિંગના વધારાના સ્તરોવપરાશકર્તાને મર્યાદાઓ અને સંભવિત ભૂલો વિશે સ્પષ્ટ માહિતી પૂરી પાડવા ઉપરાંત, ફક્ત એ વાત પર વિશ્વાસ કરવો પૂરતો નથી કે મોડેલ પોતાની મેળે યોગ્ય કાર્ય "કરવા" માંગશે.

બધું જ સૂચવે છે કે આવનારા વર્ષો વધુને વધુ સક્ષમ મોડેલોના ઝડપી વિકાસ અને અટકાવવા માટેના નિયમનકારી દબાણ વચ્ચેના ખેંચતાણ દ્વારા ચિહ્નિત થશે અણધારી બ્લેક બોક્સ બનોઆ ચર્ચામાં બ્લીચ પીવાની ભલામણ કરનાર મોડેલનો કિસ્સો ભાગ્યે જ કોઈના ધ્યાન બહાર રહેશે.

સંબંધિત લેખ:

AI સહાયકો કયો ડેટા એકત્રિત કરે છે અને તમારી ગોપનીયતાનું રક્ષણ કેવી રીતે કરવું

આલ્બર્ટો નાવારો

હું એક ટેક્નોલોજી ઉત્સાહી છું જેણે તેની "ગીક" રુચિઓને વ્યવસાયમાં ફેરવી દીધી છે. મેં મારા જીવનના 10 થી વધુ વર્ષો અત્યાધુનિક ટેક્નોલોજીનો ઉપયોગ કરીને અને શુદ્ધ જિજ્ઞાસાથી તમામ પ્રકારના કાર્યક્રમો સાથે ટિંકરિંગમાં વિતાવ્યા છે. હવે મેં કોમ્પ્યુટર ટેક્નોલોજી અને વિડિયો ગેમ્સમાં વિશેષતા મેળવી લીધી છે. આ એટલા માટે છે કારણ કે 5 વર્ષથી વધુ સમયથી હું ટેક્નોલોજી અને વિડિયો ગેમ્સ પર વિવિધ વેબસાઇટ્સ માટે લખી રહ્યો છું, દરેકને સમજી શકાય તેવી ભાષામાં તમને જોઈતી માહિતી આપવા માટે લેખો બનાવું છું.

જો તમને કોઈ પ્રશ્નો હોય, તો મારું જ્ઞાન વિન્ડોઝ ઓપરેટિંગ સિસ્ટમ તેમજ મોબાઈલ ફોન માટે એન્ડ્રોઈડથી સંબંધિત દરેક વસ્તુથી લઈને છે. અને મારી પ્રતિબદ્ધતા તમારા માટે છે, હું હંમેશા થોડી મિનિટો પસાર કરવા અને આ ઈન્ટરનેટ વિશ્વમાં તમારા કોઈપણ પ્રશ્નોના ઉકેલમાં મદદ કરવા માટે તૈયાર છું.