பாதுகாப்பு குறைபாடுகளுக்காக AI-இயங்கும் பொம்மைகள் (சாட்பாட்கள்) ஆய்வுக்கு உட்படுத்தப்படுகின்றன.

தி செயற்கை நுண்ணறிவு செயல்பாடுகளைக் கொண்ட பொம்மைகள் கவனத்தை ஈர்க்கின்றன. ஒரு அறிக்கையைத் தொடர்ந்து அமெரிக்க பொது நலன் ஆராய்ச்சி குழு அந்த ஆவணங்கள் 3 முதல் 12 வயது வரையிலான குழந்தைகளை இலக்காகக் கொண்ட மாதிரிகளில் ஆபத்தான பதில்கள்RJ கிராஸ் தலைமையிலான குழுவின் கூற்றுப்படி, நீண்ட உரையாடல் அமர்வுகளும் தயாரிப்பின் வழக்கமான பயன்பாடும் பொருத்தமற்ற அறிகுறிகள் வெளிப்படுவதற்கு போதுமானதாக இருந்தன, தந்திரங்கள் அல்லது கையாளுதல்கள் தேவையில்லாமல்.

பகுப்பாய்வு மூன்று பிரபலமான சாதனங்களை ஆய்வு செய்தது: FoloToy, Miko 3 மற்றும் Curio's Grok இலிருந்து கும்மாபல சந்தர்ப்பங்களில், பாதுகாப்பு அமைப்புகள் தோல்வியடைந்தன, மேலும் குழந்தைகளின் பொம்மையில் தோன்றக்கூடாத பரிந்துரைகள் நழுவின; ஒரு மாதிரி GPT-4 ஐப் பயன்படுத்துகிறது, மற்றொன்று. இது OpenAI மற்றும் Perplexity போன்ற சேவைகளுக்கு தரவை மாற்றுகிறது.இது சிறார்களைப் பற்றிய தகவல்களை வடிகட்டுதல், தனியுரிமை மற்றும் கையாளுதல் குறித்த விவாதத்தை மீண்டும் தூண்டுகிறது.

மூன்று பொம்மைகள், ஒரே மாதிரியான ஆபத்து முறை

சோதனைகளில், நீண்ட உரையாடல்கள்தான் தூண்டுதலாக அமைந்தன.உரையாடல் முன்னேறும்போது, சிக்கலான பதில்களைத் தடுப்பதை வடிப்பான்கள் நிறுத்திவிட்டன.இயந்திரத்தை கட்டாயப்படுத்த வேண்டிய அவசியமில்லை; ஒரு குழந்தை தனது பொம்மையுடன் தினமும் பேசுவது உருவகப்படுத்தப்பட்டது, இது இது உண்மையான உள்ளூர் விளையாட்டு சூழ்நிலை குறித்த கவலைகளை அதிகரிக்கிறது..

ஆராய்ச்சியாளர்கள் சாதனங்களுக்கு இடையேயான வேறுபட்ட நடத்தைகளை விவரிக்கிறார்கள், ஆனால் ஒரு பொதுவான முடிவு: பாதுகாப்பு அமைப்புகள் சீரானவை அல்ல.மாதிரிகளில் ஒன்று வழிவகுத்தது வயதுக்கு தெளிவாகப் பொருத்தமற்ற குறிப்புகள், மற்றும் இன்னொன்று குழந்தைகளின் பார்வையாளர்களுக்குப் பொருந்தாத வெளிப்புற ஆதாரங்களுக்குத் திருப்பி விடப்பட்டது, இது போதுமான உள்ளடக்கக் கட்டுப்பாட்டை நிரூபிக்கிறது.

கியூரியோவின் க்ரோக்கின் வழக்கு விளக்கமளிக்கிறது, ஏனெனில், அதன் பெயர் இருந்தபோதிலும், இது xAI மாதிரியைப் பயன்படுத்துவதில்லை.: போக்குவரத்து மூன்றாம் தரப்பு சேவைகளுக்குச் செல்கிறது.தரவுகளைக் கண்டறியும் திறன் மற்றும் சிறார் சுயவிவரங்களை நிர்வகித்தல் காரணமாக ஐரோப்பாவிலும் ஸ்பெயினிலும் இந்த விவரம் முக்கியமானது, ஏனெனில் இங்கு விதிமுறைகளுக்கு உற்பத்தியாளர்கள், இறக்குமதியாளர்கள் மற்றும் விநியோகஸ்தர்களிடமிருந்து சிறப்பு விடாமுயற்சி தேவைப்படுகிறது.

இந்த அறிக்கை பிரச்சினை அடிப்படையானது என்பதை வலியுறுத்துகிறது: கட்டமைப்பு பாதிப்புஇது ஒரு எளிய பிழை அல்ல, அதை ஒரே ஒரு இணைப்புடன் சரிசெய்ய முடியும், மாறாக உரையாடல் வடிவமைப்பு, உருவாக்கும் மாதிரிகள் மற்றும் காலப்போக்கில் அரிக்கப்படும் வடிப்பான்களின் கலவையாகும். எனவே, ஆசிரியர்கள் குழந்தைகளுக்கான ஒருங்கிணைந்த சாட்பாட்கள் கொண்ட பொம்மைகளை வாங்குவதை அவர்கள் எதிர்க்கிறார்கள்.குறைந்தபட்சம் தெளிவான உத்தரவாதங்கள் கிடைக்கும் வரை.

ஸ்பெயின் மற்றும் ஐரோப்பாவிற்கான தாக்கங்கள்

ஐரோப்பிய கட்டமைப்பிற்குள், கவனம் இரண்டு முனைகளில் உள்ளது: தயாரிப்பு பாதுகாப்பு மற்றும் தரவு பாதுகாப்புபொது தயாரிப்பு பாதுகாப்பு ஒழுங்குமுறை மற்றும் பொம்மை விதிமுறைகள் தயாரிப்புகள் சந்தையில் வைக்கப்படுவதற்கு முன்பு இடர் மதிப்பீட்டைக் கோருகின்றன, அதே நேரத்தில் GDPR மற்றும் குழந்தைகளின் தரவை செயலாக்குவதற்கான வழிகாட்டுதல்கள் வெளிப்படைத்தன்மை, குறைத்தல் மற்றும் பொருத்தமான சட்ட அடிப்படைகளைக் கோருகின்றன.

இதனுடன் புதிய கட்டமைப்பு சேர்க்கப்பட்டுள்ளது ஐரோப்பிய AI சட்டம்இது கட்டம் கட்டமாக வெளியிடப்படும். பல பொம்மைகள் "அதிக ஆபத்து" வகைக்கு பொருந்தவில்லை என்றாலும், உற்பத்தி மாதிரிகளின் ஒருங்கிணைப்பு மற்றும் குழந்தை விவரக்குறிப்புக்கான சாத்தியக்கூறுகள் கவலைக்குரியவை. அவர்களுக்கு சங்கிலி முழுவதும் கூடுதல் ஆவணங்கள், மதிப்பீடுகள் மற்றும் கட்டுப்பாடுகள் தேவைப்படும்.குறிப்பாக ஐரோப்பிய ஒன்றியத்திற்கு வெளியே தரவு பரிமாற்றம் இருந்தால்.

ஸ்பெயினில் உள்ள குடும்பங்களுக்கு, செய்ய வேண்டிய நடைமுறை விஷயம் என்னவென்றால், தெளிவான தகவல்களைக் கோருவதுதான் என்ன தரவு சேகரிக்கப்படுகிறது, யாருடன் பகிரப்படுகிறது, எவ்வளவு காலம். ஒரு என்றால் பொம்மை ஆடியோவை அனுப்புகிறது.உரை அல்லது அடையாளங்காட்டிகள் மூன்றாம் தரப்பினருடன் பகிரப்பட்டால், உலாவல் வரலாற்றை நீக்குவதற்கான நோக்கங்கள், பெற்றோர் கட்டுப்பாட்டு வழிமுறைகள் மற்றும் விருப்பங்கள் குறிப்பிடப்பட வேண்டும். ஸ்பானிஷ் தரவு பாதுகாப்பு நிறுவனம் (AEPD) வணிகப் பயன்பாடுகளை விட குழந்தையின் சிறந்த நலன்கள் முன்னுரிமை பெறுகின்றன என்பதை பயனர்களுக்கு நினைவூட்டுகிறது.

சூழல் சிறியதல்ல: கிறிஸ்துமஸ் சீசன் கடைகளிலும் ஆன்லைன் தளங்களிலும் இந்தப் பொருட்களின் இருப்பை அதிகரிக்கிறது, மேலும் அவற்றின் மீதான ஆர்வம் அதிகரிக்கிறது. தொழில்நுட்ப பரிசுகள்நுகர்வோர் சங்கங்கள் சில்லறை விற்பனையாளர்களைக் கேட்டு வருகின்றன கூடுதல் உள்ளடக்கம் மற்றும் தனியுரிமை சோதனைகள் சரியான நேரத்தில் பணத்தை திரும்பப் பெறுதல் அல்லது கடைசி நிமிட எச்சரிக்கைகளைத் தவிர்க்க, AI பொம்மைகளை விளம்பரப்படுத்துவதற்கு முன்.

நிறுவனங்களும் தொழில்துறையும் என்ன சொல்கின்றன

பொம்மைத் துறை AI-யில் பந்தயம் கட்டியுள்ளது, ஒத்துழைப்பு போன்ற அறிவிப்புகளுடன் OpenAI உடன் மேட்டல் மற்றும் மேம்பாடுகள் AI-இயங்கும் அவதாரங்கள்பாதுகாப்புக்கு முன்னுரிமை அளிப்பதாக நிறுவனம் உறுதியளித்துள்ளது, இருப்பினும் அது இன்னும் அனைத்து குறிப்பிட்ட நடவடிக்கைகளையும் விவரிக்கவில்லை. பாதுகாப்பு மற்றும் தரவு சேகரிப்பு தொடர்பான சர்ச்சையில் சிக்கிய 2015 ஆம் ஆண்டில் ஹலோ பார்பியின் முன்னுதாரணமானது, விவாதத்தில் தொடர்ந்து பெரும் சுமையை ஏற்படுத்துகிறது.

குழந்தைப் பருவம் மற்றும் தொழில்நுட்ப வல்லுநர்கள் மற்றொரு முன்னணியைப் பற்றி எச்சரிக்கின்றனர்: சாத்தியமான உணர்ச்சி சார்பு உரையாடல் பொம்மைகளை உருவாக்கக்கூடியவை. உணர்திறன் மிக்க சூழல்களில் சாட்போட்களுடனான தொடர்பு ஒரு ஆபத்து காரணியாக இருந்த வழக்குகள் ஆவணப்படுத்தப்பட்டுள்ளன, இது சிறு வயதிலிருந்தே பெரியவர்களின் மேற்பார்வை, பயன்பாட்டு வரம்புகள் மற்றும் டிஜிட்டல் கல்வியை வலுப்படுத்துவதை ஊக்குவிக்கிறது.

AI பொம்மையைத் தேர்ந்தெடுத்துப் பயன்படுத்துவதற்கான விசைகள்

சத்தத்திற்கு அப்பால், நீங்கள் புத்திசாலித்தனமாக வாங்கி சாதனத்தை முறையாக உள்ளமைத்தால் அபாயங்களைக் குறைக்க இடமுண்டு. இந்த வழிகாட்டுதல்கள் உதவுகின்றன புதுமை மற்றும் பாதுகாப்பை சமநிலைப்படுத்துதல் வீட்டில்:

• பரிந்துரைக்கப்பட்ட வயதைச் சரிபார்க்கவும். மேலும் (வெளிப்புற வழிசெலுத்தல் அல்லது கட்டுப்பாடற்ற திறந்த பதில்கள் இல்லாமல்) ஒரு உண்மையான குழந்தை பயன்முறை உள்ளது.
• தனியுரிமைக் கொள்கையைப் படிக்கவும்: தரவு வகை, சேருமிடம் (EU அல்லது வெளியே), தக்கவைப்பு நேரம் மற்றும் வரலாற்றை நீக்குவதற்கான விருப்பங்கள்.
• பெற்றோரின் கட்டுப்பாட்டை செயல்படுத்தவும்இது ஆன்லைன் செயல்பாட்டைக் கட்டுப்படுத்துகிறது மற்றும் உள்ளமைக்கக்கூடிய வடிப்பான்கள் மற்றும் தடுப்புப்பட்டியல்களைச் சரிபார்க்கிறது.
• புதுப்பிப்புகள் மற்றும் ஆதரவைச் சரிபார்க்கவும்அடிக்கடி பாதுகாப்பு இணைப்புகள் மற்றும் தயாரிப்பு வாழ்க்கைச் சுழற்சி உறுதி.
• பயன்பாட்டைக் கண்காணித்தல்நியாயமான நேர வரம்புகளை நிர்ணயித்து, விசித்திரமான பதில்களுக்கு என்ன செய்ய வேண்டும் என்பது பற்றி குழந்தைகளிடம் பேசுங்கள்.
• மைக்ரோஃபோன்/கேமராவை அணைக்கவும் பயன்பாட்டில் இல்லாதபோது அவற்றைப் பயன்படுத்துவதைத் தவிர்க்கவும், தேவையற்ற தனிப்பட்ட தரவுகளுடன் இணைக்கப்பட்ட கணக்குகளைத் தவிர்க்கவும்.

குறுகிய காலத்தில் என்ன எதிர்பார்க்கலாம்

ஐரோப்பிய ஒழுங்குமுறை உந்துதல் மற்றும் நுகர்வோர் அழுத்தம் காரணமாக, உற்பத்தியாளர்கள் அறிமுகப்படுத்துவார்கள் என்று எதிர்பார்க்கப்படுகிறது கடுமையான கட்டுப்பாடுகள், தணிக்கைகள் மற்றும் வெளிப்படைத்தன்மை வரவிருக்கும் புதுப்பிப்புகளில். அப்படியிருந்தும், CE குறியிடுதல் மற்றும் வர்த்தக முத்திரைகள் குடும்ப மேற்பார்வை அல்லது தயாரிப்பின் தினசரி விமர்சன மதிப்பீட்டை மாற்றுவதில்லை.

இந்த சோதனைகள் வரைந்த படம் நுணுக்கமானது: AI கல்வி மற்றும் விளையாட்டு சாத்தியங்களைத் திறக்கிறது, ஆனால் இன்று அது இணைந்து செயல்படுகிறது இடைவெளிகள், தரவு சந்தேகங்கள் மற்றும் உரையாடல் வடிவமைப்பு அபாயங்களை வடிகட்டுதல்தொழில்துறை புதுமைகளை சீரமைத்து உத்தரவாதம் அளிக்கும் வரை, தகவலறிந்த கொள்முதல், கவனமாக உள்ளமைத்தல் மற்றும் வயது வந்தோர் மேற்பார்வை ஆகியவை சிறந்த பாதுகாப்பு வலையாகும்.

ஆல்பர்டோ நவரோ

நான் ஒரு தொழில்நுட்ப ஆர்வலர், அவர் தனது "கீக்" ஆர்வங்களை ஒரு தொழிலாக மாற்றியுள்ளார். எனது வாழ்நாளில் 10 ஆண்டுகளுக்கும் மேலாக அதிநவீன தொழில்நுட்பத்தைப் பயன்படுத்தி, அனைத்து வகையான திட்டங்களையும் ஆர்வத்துடன் பயன்படுத்தினேன். இப்போது நான் கணினி தொழில்நுட்பம் மற்றும் வீடியோ கேம்களில் நிபுணத்துவம் பெற்றுள்ளேன். ஏனென்றால், 5 ஆண்டுகளுக்கும் மேலாக தொழில்நுட்பம் மற்றும் வீடியோ கேம்கள் குறித்து பல்வேறு இணையதளங்களில் எழுதி வருகிறேன், அனைவருக்கும் புரியும் மொழியில் உங்களுக்குத் தேவையான தகவல்களைத் தர முற்படும் கட்டுரைகளை உருவாக்கி வருகிறேன்.

உங்களிடம் ஏதேனும் கேள்விகள் இருந்தால், எனது அறிவு விண்டோஸ் இயங்குதளம் மற்றும் மொபைல் போன்களுக்கான ஆண்ட்ராய்டு தொடர்பான அனைத்திலிருந்தும் பரவுகிறது. மேலும் எனது அர்ப்பணிப்பு உங்களிடம் உள்ளது, நான் எப்போதும் சில நிமிடங்களைச் செலவழித்து, இந்த இணைய உலகில் உங்களுக்கு ஏதேனும் சந்தேகங்களைத் தீர்க்க உதவ தயாராக இருக்கிறேன்.