Ġugarelli li jaħdmu bl-AI (chatbots) taħt skrutinju għal difetti fis-sigurtà

Il- Ġugarelli b'funzjonijiet ta' intelliġenza artifiċjali qegħdin fil-fokus wara rapport minn Grupp ta' Riċerka dwar l-Interess Pubbliku tal-Istati Uniti dak id-dokumenti reazzjonijiet perikolużi f'mudelli mmirati lejn tfal ta' bejn it-3 u t-12-il senaSkont it-tim immexxi minn RJ Cross, sessjonijiet ta’ konverżazzjoni fit-tul u użu normali tal-prodott kienu biżżejjed biex joħorġu indikazzjonijiet mhux xierqa, mingħajr il-ħtieġa għal tricks jew manipulazzjoni.

L-analiżi eżaminat tliet apparati popolari: Kumma minn FoloToy, Miko 3 u Curio's GrokF'diversi każijiet, is-sistemi ta' protezzjoni fallew u rakkomandazzjonijiet li m'għandhomx jidhru fuq ġugarell tat-tfal ma ġewx aċċettati; wieħed mill-mudelli juża GPT-4 u ieħor Jittrasferixxi d-dejta lil servizzi bħal OpenAI u Perplexity.Dan jerġa' jqajjem id-dibattitu dwar il-filtrazzjoni, il-privatezza, u l-immaniġġjar ta' informazzjoni dwar minorenni.

Tliet ġugarelli, l-istess mudell ta’ riskju

Fit-testijiet, Il-konversazzjonijiet twal kienu l-ixprun.Hekk kif id-djalogu mexa 'l quddiem, Il-filtri waqfu jimblokkaw ir-risposti problematiċiMa kienx hemm bżonn li tisforza l-magna; ġie simulat l-użu ta' kuljum ta' tifel jew tifla jitkellem mal-ġugarell tagħhom, li Dan iżid it-tħassib dwar ix-xenarju attwali tal-logħba f'darna..

Ir-riċerkaturi jiddeskrivu mġiba differenti bejn l-apparati, iżda b' konklużjoni komuni: is-sistemi tas-sigurtà mhumiex konsistentiWieħed mill-mudelli ta lok għal referenzi li huma ċarament mhux xierqa għall-età, u ieħor immira lejn riżorsi esterni mhux xierqa għal udjenza tat-tfal, u dan juri kontroll insuffiċjenti tal-kontenut.

Il-każ ta' Curio's Grok huwa illustrattiv għaliex, minkejja ismu, Ma jużax il-mudell xAI: It-traffiku jmur lejn servizzi ta’ partijiet terziDan id-dettall huwa importanti fl-Ewropa u fi Spanja minħabba t-traċċabilità tad-dejta u l-ġestjoni tal-profili tal-minorenni, fejn ir-regolamenti jeħtieġu diliġenza speċjali mill-manifatturi, l-importaturi u d-distributuri.

Ir-rapport jenfasizza li l-problema hija fundamentali: vulnerabbiltà strutturaliMhuwiex bug sempliċi li jista' jiġi rranġat b'garża waħda, iżda pjuttost taħlita ta' disinn konversazzjonali, mudelli ġenerattivi, u filtri li jitmermru maż-żmien. Għalhekk, l-awturi Huma jagħtu parir kontra x-xiri ta' ġugarelli b'chatbots integrati għat-tfal.għall-inqas sakemm ikun hemm garanziji ċari.

Implikazzjonijiet għal Spanja u l-Ewropa

Fil-qafas Ewropew, l-enfasi hija fuq żewġ fronti: is-sigurtà tal-prodott u l-protezzjoni tad-dejtaIr-Regolament dwar is-Sigurtà Ġenerali tal-Prodotti u r-regolamenti tal-ġugarelli jeħtieġu valutazzjoni tar-riskju qabel ma l-prodotti jitqiegħdu fis-suq, filwaqt li l-GDPR u l-linji gwida dwar l-ipproċessar tad-dejta tat-tfal jeħtieġu trasparenza, minimizzazzjoni u bażijiet legali xierqa.

Ma’ dan jiżdied il-qafas il-ġdid tal- Att Ewropew dwar l-IAli se jitnieda f'fażijiet. Għalkemm ħafna ġugarelli ma jaqgħux fil-kategorija ta' "riskju għoli", l-integrazzjoni ta' mudelli ġenerattivi u l-potenzjal għall-profiling tat-tfal huma ta' tħassib. Se jeħtieġu aktar dokumentazzjoni, valutazzjonijiet, u kontrolli tul il-katina kollha.partikolarment jekk ikun hemm trasferiment ta' dejta barra mill-UE.

Għall-familji fi Spanja, il-ħaġa prattika li għandhom jagħmlu hi li jitolbu informazzjoni ċara dwar liema dejta tinġabar, ma’ min tinqasam, u għal kemm żmien. Jekk a il-ġugarell jibgħat l-awdjoJekk it-test jew l-identifikaturi jiġu kondiviżi ma' partijiet terzi, l-għanijiet, il-mekkaniżmi ta' kontroll tal-ġenituri, u l-għażliet għat-tħassir tal-istorja tal-browsing iridu jiġu speċifikati. L-Aġenzija Spanjola għall-Protezzjoni tad-Data (AEPD) tfakkar lill-utenti li l-aħjar interessi tat-tfal jieħdu preċedenza fuq l-użi kummerċjali.

Il-kuntest mhuwiex insinifikanti: L-istaġun tal-Milied iżid il-preżenza ta’ dawn il-prodotti fil-ħwienet u l-pjattaformi online, u l-interess fihom jikber. rigali teknoloġiċiL-assoċjazzjonijiet tal-konsumaturi ilhom jistaqsu lill-bejjiegħa bl-imnut kontenut żejjed u kontrolli tal-privatezza qabel ma jippromwovu ġugarelli tal-IA, biex jevitaw irtirar qabel il-waqt jew twissijiet tal-aħħar minuta.

Dak li qed jgħidu l-kumpaniji u l-industrija

Is-settur tal-ġugarelli qed jimħatri fuq l-IA, b'avviżi bħall-kollaborazzjoni ta' Mattel bl-OpenAI u żviluppi ta' Avatars li jaħdmu bl-AIIl-kumpanija wiegħdet li tipprijoritizza s-sikurezza, għalkemm għadha ma ddettaljatx il-miżuri speċifiċi kollha. Il-preċedent ta’ Hello Barbie fl-2015, involut f’kontroversja dwar is-sikurezza u l-ġbir tad-dejta, għadu ta’ piż kbir fuq id-dibattitu.

Esperti tat-tfulija u t-teknoloġija jwissu dwar front ieħor: dipendenza emozzjonali possibbli li jistgħu jiġġeneraw ġugarelli konversazzjonali. Ġew dokumentati każijiet fejn l-interazzjoni maċ-chatbots kienet fattur ta’ riskju f’kuntesti sensittivi, li jinkoraġġixxi t-tisħiħ tas-superviżjoni tal-adulti, il-limiti tal-użu, u l-edukazzjoni diġitali minn età żgħira.

Ċavetti għall-għażla u l-użu ta' ġugarell tal-AI

Lil hinn mill-istorbju, hemm lok biex jitnaqqsu r-riskji jekk tixtri bil-għaqal u tikkonfigura l-apparat kif suppost. Dawn il-linji gwida jgħinu biex bilanċjar tal-innovazzjoni u s-sikurezza Fid-dar:

• Iċċekkja l-età rakkomandata u li hemm modalità tat-tfal reali (mingħajr navigazzjoni esterna jew risposti miftuħa mhux ikkontrollati).
• Aqra l-politika tal-privatezza: tip ta' dejta, destinazzjoni (UE jew barra), ħin ta' żamma u għażliet biex titħassar l-istorja.
• Attiva l-kontroll tal-ġenituriJillimita l-funzjonalità online u jivverifika għal filtri u blocklists li jistgħu jiġu kkonfigurati.
• Iċċekkja għal aġġornamenti u appoġġIrqajja tas-sigurtà frekwenti u impenn tul iċ-ċiklu tal-ħajja tal-prodott.
• Immonitorja l-użuIssettja limiti ta’ żmien raġonevoli u tkellem mat-tfal dwar x’għandhom jagħmlu b’reazzjoni għal tweġibiet strambi.
• Itfi l-mikrofonu/kamera meta ma tkunx qed tintuża u evita kontijiet marbuta ma' dejta personali bla bżonn.

X'għandek tistenna fi żmien qasir

Bl-ispinta regolatorja Ewropea u l-pressjoni tal-konsumatur, huwa mistenni li l-manifatturi jintroduċu kontrolli, awditi u trasparenza aktar stretti f'aġġornamenti li ġejjin. Anke hekk, il-marka CE u t-trademarks ma jissostitwixxux is-superviżjoni tal-familja jew l-evalwazzjoni kritika tal-prodott fuq bażi ta' kuljum.

L-istampa li jpinġu dawn it-testijiet hija sfumata: L-IA tiftaħ possibbiltajiet edukattivi u ta’ logħob, iżda llum teżisti flimkien ma’ iffiltrar ta' lakuni, dubji dwar id-dejta, u riskji tad-disinn konversazzjonaliSakemm l-industrija ma tallinjax l-innovazzjoni u l-garanziji, ix-xiri infurmat, il-konfigurazzjoni bir-reqqa, u s-superviżjoni tal-adulti huma l-aqwa xibka ta' sigurtà.