સુરક્ષા ખામીઓ માટે AI સંચાલિત રમકડાં (ચેટબોટ્સ) તપાસ હેઠળ છે

આ કૃત્રિમ બુદ્ધિમત્તા ધરાવતા રમકડાં ચર્ચામાં છે ના અહેવાલ મુજબ યુએસ પબ્લિક ઇન્ટરેસ્ટ રિસર્ચ ગ્રુપ તે દસ્તાવેજો 3 થી 12 વર્ષની વયના બાળકો માટે બનાવાયેલ મોડેલોમાં ખતરનાક પ્રતિભાવોઆરજે ક્રોસની આગેવાની હેઠળની ટીમના જણાવ્યા અનુસાર, લાંબા સમય સુધી વાતચીત સત્રો અને ઉત્પાદનનો સામાન્ય ઉપયોગ અયોગ્ય સંકેતો બહાર આવવા માટે પૂરતા હતા, યુક્તિઓ અથવા ચાલાકીની જરૂર વગર.

વિશ્લેષણમાં ત્રણ લોકપ્રિય ઉપકરણોની તપાસ કરવામાં આવી: FoloToy, Miko 3 અને Curio's Grok તરફથી કુમ્માઘણા કિસ્સાઓમાં, સુરક્ષા પ્રણાલીઓ નિષ્ફળ ગઈ અને ભલામણો જે બાળકોના રમકડા પર ન દેખાવી જોઈએ તે ચૂકી ગઈ; એક મોડેલ GPT-4 નો ઉપયોગ કરે છે અને બીજું તે OpenAI અને Perplexity જેવી સેવાઓમાં ડેટા ટ્રાન્સફર કરે છે.આનાથી ફિલ્ટરિંગ, ગોપનીયતા અને સગીરો વિશેની માહિતીના સંચાલન પર ચર્ચા ફરી શરૂ થાય છે.

ત્રણ રમકડાં, એક જ જોખમ પેટર્ન

પરીક્ષણોમાં, લાંબી વાતચીતો ઉત્તેજક બની.જેમ જેમ સંવાદ આગળ વધતો ગયો, ફિલ્ટર્સે સમસ્યારૂપ પ્રતિભાવોને અવરોધિત કરવાનું બંધ કર્યું.મશીનને દબાણ કરવાની જરૂર નથી; બાળકના રમકડા સાથે વાત કરવાનો રોજિંદા ઉપયોગ સિમ્યુલેટેડ હતો, જે આનાથી ઘરેલુ રમતના વાસ્તવિક દૃશ્ય વિશે ચિંતાઓ વધે છે..

સંશોધકો ઉપકરણો વચ્ચે અલગ અલગ વર્તણૂકોનું વર્ણન કરે છે, પરંતુ એક સાથે સામાન્ય નિષ્કર્ષ: સુરક્ષા પ્રણાલીઓ સુસંગત નથીએક મોડેલે જન્મ આપ્યો ઉંમર માટે સ્પષ્ટ રીતે અયોગ્ય સંદર્ભો, અને બીજું બાળકોના પ્રેક્ષકો માટે યોગ્ય ન હોય તેવા બાહ્ય સંસાધનો પર રીડાયરેક્ટ કરવામાં આવ્યું, જે અપૂરતી સામગ્રી નિયંત્રણ દર્શાવે છે.

ક્યુરિયોના ગ્રોકનો કિસ્સો ઉદાહરણરૂપ છે કારણ કે, તેનું નામ હોવા છતાં, તે xAI મોડેલનો ઉપયોગ કરતું નથી.: ટ્રાફિક તૃતીય-પક્ષ સેવાઓ પર જાય છેડેટા ટ્રેસેબિલિટી અને સગીરોની પ્રોફાઇલના સંચાલનને કારણે આ વિગત યુરોપ અને સ્પેનમાં મહત્વપૂર્ણ છે, જ્યાં નિયમોમાં ઉત્પાદકો, આયાતકારો અને વિતરકો તરફથી ખાસ ખંતની જરૂર પડે છે.

અહેવાલમાં ભાર મૂકવામાં આવ્યો છે કે સમસ્યા મૂળભૂત છે: માળખાકીય નબળાઈતે કોઈ સાદી ભૂલ નથી જેને એક જ પેચથી સુધારી શકાય, પરંતુ વાતચીત ડિઝાઇન, જનરેટિવ મોડેલ્સ અને ફિલ્ટર્સનું મિશ્રણ છે જે સમય જતાં ક્ષીણ થઈ જાય છે. તેથી, લેખકો તેઓ બાળકો માટે સંકલિત ચેટબોટ્સવાળા રમકડાં ખરીદવાની સલાહ આપતા નથી.ઓછામાં ઓછું જ્યાં સુધી સ્પષ્ટ ગેરંટી ન મળે ત્યાં સુધી.

સ્પેન અને યુરોપ માટે અસરો

યુરોપિયન માળખામાં, ધ્યાન બે મોરચે છે: ઉત્પાદન સલામતી અને ડેટા સુરક્ષાસામાન્ય ઉત્પાદન સલામતી નિયમન અને રમકડાંના નિયમોમાં ઉત્પાદનો બજારમાં મૂકતા પહેલા જોખમ મૂલ્યાંકનની જરૂર પડે છે, જ્યારે GDPR અને બાળકોના ડેટાની પ્રક્રિયા અંગેના માર્ગદર્શિકામાં પારદર્શિતા, લઘુત્તમીકરણ અને યોગ્ય કાનૂની આધારોની જરૂર પડે છે.

આમાં નવું માળખું ઉમેરવામાં આવ્યું છે યુરોપિયન એઆઈ એક્ટજે તબક્કાવાર રજૂ કરવામાં આવશે. જોકે ઘણા રમકડાં "ઉચ્ચ જોખમ" શ્રેણીમાં બંધબેસતા નથી, જનરેટિવ મોડેલ્સનું એકીકરણ અને બાળ પ્રોફાઇલિંગની સંભાવના ચિંતાનો વિષય છે. તેમને સમગ્ર સાંકળમાં વધુ દસ્તાવેજીકરણ, મૂલ્યાંકન અને નિયંત્રણોની જરૂર પડશે.ખાસ કરીને જો EU ની બહાર ડેટા ટ્રાન્સફર થતો હોય.

સ્પેનમાં પરિવારો માટે, વ્યવહારુ બાબત એ છે કે સ્પષ્ટ માહિતીની માંગ કરવી કયો ડેટા એકત્રિત કરવામાં આવે છે, કોની સાથે શેર કરવામાં આવે છે અને કેટલા સમય માટે. જો એ રમકડું ઓડિયો મોકલે છેજો ટેક્સ્ટ અથવા ઓળખકર્તાઓ તૃતીય પક્ષો સાથે શેર કરવામાં આવે છે, તો હેતુઓ, માતાપિતા નિયંત્રણ પદ્ધતિઓ અને બ્રાઉઝિંગ ઇતિહાસ કાઢી નાખવાના વિકલ્પોનો ઉલ્લેખ કરવો આવશ્યક છે. સ્પેનિશ ડેટા પ્રોટેક્શન એજન્સી (AEPD) વપરાશકર્તાઓને યાદ અપાવે છે કે બાળકના શ્રેષ્ઠ હિતોને વ્યાપારી ઉપયોગો કરતાં પ્રાથમિકતા આપવામાં આવે છે.

સંદર્ભ નાનો નથી: ક્રિસમસ સીઝનમાં સ્ટોર્સ અને ઓનલાઈન પ્લેટફોર્મ પર આ ઉત્પાદનોની હાજરી વધે છે, અને તેમાં રસ વધે છે. તકનીકી ભેટોગ્રાહક સંગઠનો રિટેલરોને પૂછી રહ્યા છે વધારાની સામગ્રી અને ગોપનીયતા તપાસ AI રમકડાંનો પ્રચાર કરતા પહેલા, અકાળે ઉપાડ અથવા છેલ્લી ઘડીની ચેતવણીઓ ટાળવા માટે.

કંપનીઓ અને ઉદ્યોગ શું કહી રહ્યા છે

રમકડાં ક્ષેત્ર AI પર દાવ લગાવી રહ્યું છે, જેમાં સહયોગ જેવી જાહેરાતો કરવામાં આવી છે ઓપનએઆઈ સાથે મેટલ અને વિકાસ AI સંચાલિત અવતારકંપનીએ સલામતીને પ્રાથમિકતા આપવાનું વચન આપ્યું છે, જોકે તેણે હજુ સુધી તમામ ચોક્કસ પગલાંની વિગતવાર માહિતી આપી નથી. 2015 માં હેલો બાર્બીનો દાખલો, જે સલામતી અને ડેટા સંગ્રહના વિવાદમાં ફસાયેલો હતો, તે ચર્ચા પર ભારે ભાર મૂકે છે.

બાળપણ અને ટેકનોલોજી નિષ્ણાતો બીજા મોરચાની ચેતવણી આપે છે: શક્ય ભાવનાત્મક અવલંબન જે વાતચીતના રમકડાં ઉત્પન્ન કરી શકે છે. એવા કિસ્સાઓ દસ્તાવેજીકૃત કરવામાં આવ્યા છે જ્યાં ચેટબોટ્સ સાથેની ક્રિયાપ્રતિક્રિયા સંવેદનશીલ સંદર્ભોમાં જોખમ પરિબળ હતી, જે પુખ્ત વયના લોકોની દેખરેખ, ઉપયોગ મર્યાદાઓ અને નાની ઉંમરથી ડિજિટલ શિક્ષણને મજબૂત બનાવવા માટે પ્રોત્સાહિત કરે છે.

AI રમકડાની પસંદગી અને ઉપયોગ કરવાની ચાવીઓ

ઘોંઘાટ ઉપરાંત, જો તમે સમજદારીપૂર્વક ખરીદી કરો અને ઉપકરણને યોગ્ય રીતે ગોઠવો તો જોખમો ઘટાડવાનો અવકાશ છે. આ માર્ગદર્શિકા મદદ કરે છે નવીનતા અને સલામતીનું સંતુલન ઘરમાં:

• ભલામણ કરેલ ઉંમર તપાસો અને ત્યાં એક વાસ્તવિક ચાઇલ્ડ મોડ છે (બાહ્ય નેવિગેશન અથવા અનિયંત્રિત ખુલ્લા પ્રતિભાવો વિના).
• ગોપનીયતા નીતિ વાંચો: ડેટા પ્રકાર, ગંતવ્ય સ્થાન (EU અથવા બહાર), રીટેન્શન સમય અને ઇતિહાસ કાઢી નાખવાના વિકલ્પો.
• પેરેંટલ કંટ્રોલને સક્રિય કરોતે ઓનલાઈન કાર્યક્ષમતાને મર્યાદિત કરે છે અને રૂપરેખાંકિત ફિલ્ટર્સ અને બ્લોકલિસ્ટ્સ માટે તપાસ કરે છે.
• અપડેટ્સ અને સપોર્ટ માટે તપાસોવારંવાર સુરક્ષા પેચો અને ઉત્પાદન જીવનચક્ર પ્રતિબદ્ધતા.
• મોનિટર વપરાશવાજબી સમય મર્યાદા નક્કી કરો અને બાળકો સાથે વિચિત્ર જવાબોના જવાબમાં શું કરવું તે વિશે વાત કરો.
• માઇક્રોફોન/કેમેરા બંધ કરો જ્યારે ઉપયોગમાં ન હોય ત્યારે અને બિનજરૂરી વ્યક્તિગત ડેટા સાથે જોડાયેલા એકાઉન્ટ્સ ટાળો.

ટૂંકા ગાળામાં શું અપેક્ષા રાખવી

યુરોપિયન નિયમનકારી પ્રોત્સાહન અને ગ્રાહક દબાણ સાથે, એવી અપેક્ષા રાખવામાં આવે છે કે ઉત્પાદકો રજૂ કરશે કડક નિયંત્રણો, ઓડિટ અને પારદર્શિતા આગામી અપડેટ્સમાં. તેમ છતાં, CE માર્કિંગ અને ટ્રેડમાર્ક્સ દૈનિક ધોરણે કુટુંબ દેખરેખ અથવા ઉત્પાદનના નિર્ણાયક મૂલ્યાંકનનું સ્થાન લેતા નથી.

આ પરીક્ષણો જે ચિત્ર રજૂ કરે છે તે સૂક્ષ્મ છે: AI શૈક્ષણિક અને રમતની શક્યતાઓ ખોલે છે, પરંતુ આજે તે સાથે સહઅસ્તિત્વ ધરાવે છે ફિલ્ટરિંગ ગેપ, ડેટા શંકાઓ અને વાતચીત ડિઝાઇન જોખમોજ્યાં સુધી ઉદ્યોગ નવીનતા અને ગેરંટીને સંરેખિત ન કરે ત્યાં સુધી, જાણકાર ખરીદી, કાળજીપૂર્વક ગોઠવણી અને પુખ્ત દેખરેખ એ શ્રેષ્ઠ સલામતી જાળ છે.

આલ્બર્ટો નાવારો

હું એક ટેક્નોલોજી ઉત્સાહી છું જેણે તેની "ગીક" રુચિઓને વ્યવસાયમાં ફેરવી દીધી છે. મેં મારા જીવનના 10 થી વધુ વર્ષો અત્યાધુનિક ટેક્નોલોજીનો ઉપયોગ કરીને અને શુદ્ધ જિજ્ઞાસાથી તમામ પ્રકારના કાર્યક્રમો સાથે ટિંકરિંગમાં વિતાવ્યા છે. હવે મેં કોમ્પ્યુટર ટેક્નોલોજી અને વિડિયો ગેમ્સમાં વિશેષતા મેળવી લીધી છે. આ એટલા માટે છે કારણ કે 5 વર્ષથી વધુ સમયથી હું ટેક્નોલોજી અને વિડિયો ગેમ્સ પર વિવિધ વેબસાઇટ્સ માટે લખી રહ્યો છું, દરેકને સમજી શકાય તેવી ભાષામાં તમને જોઈતી માહિતી આપવા માટે લેખો બનાવું છું.

જો તમને કોઈ પ્રશ્નો હોય, તો મારું જ્ઞાન વિન્ડોઝ ઓપરેટિંગ સિસ્ટમ તેમજ મોબાઈલ ફોન માટે એન્ડ્રોઈડથી સંબંધિત દરેક વસ્તુથી લઈને છે. અને મારી પ્રતિબદ્ધતા તમારા માટે છે, હું હંમેશા થોડી મિનિટો પસાર કરવા અને આ ઈન્ટરનેટ વિશ્વમાં તમારા કોઈપણ પ્રશ્નોના ઉકેલમાં મદદ કરવા માટે તૈયાર છું.