I ghjoculi alimentati da l'IA (chatbot) sò sott'à scrutinio per difetti di sicurezza

l I ghjoculi cù funzioni d'intelligenza artificiale sò in u centru di l'attenzione dopu à un rapportu di Gruppu di Ricerca d'Interessu Publicu di i Stati Uniti chì i documenti risposte periculose in mudelli destinati à i zitelli da 3 à 12 anniSicondu a squadra guidata da RJ Cross, sessioni di cunversazione prolungate è un usu nurmale di u pruduttu eranu abbastanza per chì emergessinu indicazioni inappropriate, senza bisognu di trucchi o manipulazioni.

L'analisi hà esaminatu trè dispusitivi populari: Kumma da FoloToy, Miko 3 è Curio's GrokIn parechji casi, i sistemi di prutezzione anu fiascatu è e raccomandazioni chì ùn devenu micca cumparisce nantu à un ghjoculu per i zitelli sò passate inosservate; unu di i mudelli usa GPT-4 è un altru Trasferisce dati à servizii cum'è OpenAI è Perplexity.Questu riaccende u dibattitu nantu à u filtraggio, a privacy è a gestione di l'infurmazioni nantu à i minori.

Trè ghjoculi, listessu schema di risicu

In i testi, E lunghe conversazioni sò state u fattore scatenante.À misura chì u dialogu avanzava, I filtri anu cessatu di bluccà e risposte problematicheÙn ci hè bisognu di furzà a macchina; l'usu cutidianu di un zitellu chì parlava à u so ghjoculu era simulatu, ciò chì Questu aumenta e preoccupazioni nantu à u scenariu reale di u ghjocu in casa..

I circadori descrivenu cumpurtamenti disparati trà i dispusitivi, ma cun un cunclusione cumuna: i sistemi di sicurezza ùn sò micca coerentiUnu di i mudelli hà datu nascita à referenze chjaramente inappropriate per l'età, è un altru ridirettu versu risorse esterne micca adatte per un publicu di zitelli, dimustrendu un cuntrollu insufficiente di u cuntenutu.

U casu di Curio's Grok hè illustrativu perchè, malgradu u so nome, Ùn usa micca u mudellu xAI: U trafficu và à servizii di terze partiStu dettagliu hè impurtante in Europa è in Spagna per via di a tracciabilità di i dati è di a gestione di i profili di i minori, induve e regulazioni richiedenu una diligenza particulare da parte di i pruduttori, di l'impurtadori è di i distributori.

U rapportu mette in risaltu chì u prublema hè fundamentale: una vulnerabilità strutturaleÙn hè micca un bug simplice chì pò esse currettu cù una sola patch, ma piuttostu una cumbinazione di cuncepimentu conversazionale, mudelli generativi è filtri chì si erodenu cù u tempu. Dunque, l'autori Sconsiglianu di cumprà ghjoculi cù chatbot integrati per i zitelli.almenu finchè ùn ci sò garanzie chjare.

Implicazioni per a Spagna è l'Europa

In u quadru europeu, l'attenzione hè focalizzata annantu à dui fronti: sicurezza di u produttu è prutezzione di i datiU Regulamentu Generale di Sicurezza di i Prodotti è i regulamenti nantu à i ghjoculi richiedenu una valutazione di i risichi prima chì i prudutti sianu messi nantu à u mercatu, mentre chì u GDPR è e linee guida nantu à u trattamentu di i dati di i zitelli richiedenu trasparenza, minimizazione è basi ghjuridiche adatte.

À questu s'aghjusta u novu quadru di u Legge Europea nantu à l'IAchì serà implementatu in fasi. Ancu s'è parechji ghjoculi ùn currispondenu micca à a categuria "à risicu elevatu", l'integrazione di mudelli generativi è u putenziale di prufilatura di i zitelli sò preoccupanti. Averanu bisognu di più documentazione, valutazioni è cuntrolli in tutta a catena.in particulare s'ellu ci hè un trasferimentu di dati fora di l'UE.

Per e famiglie in Spagna, a cosa pratica da fà hè di dumandà infurmazioni chjare nantu à quali dati sò raccolti, cù quale sò spartuti è per quantu tempu. Sì a u ghjocu manda l'audioSè u testu o l'identificatori sò spartuti cù terze parti, devenu esse specificati i scopi, i meccanismi di cuntrollu parentale è l'opzioni per sguassà a storia di navigazione. L'Agenzia Spagnola di Prutezzione di i Dati (AEPD) ricorda à l'utilizatori chì l'interessi di u zitellu anu a precedenza annantu à l'usi cummerciali.

U cuntestu ùn hè micca insignificante: A stagione di Natale aumenta a presenza di sti prudutti in i magazini è e piattaforme in linea, è l'interessu per elli cresce. rigali tecnulogichiL'associazioni di i cunsumatori anu dumandatu à i venditori cuntrolli di cuntenutu supplementu è di privacy prima di prumove ghjoculi IA, per evità ritiri intempestivi o avvisi di l'ultimu minutu.

Ciò chì dicenu l'imprese è l'industria

U settore di i ghjoculi scommette nantu à l'IA, cù annunzii cum'è a cullaburazione di Mattel cù OpenAI è sviluppi di Avatar alimentati da IAL'impresa hà prumessu di dà priorità à a sicurità, ancu s'ella ùn hà ancu dettagliatu tutte e misure specifiche. U precedente di Hello Barbie in u 2015, implicatu in a cuntruversia nantu à a sicurità è a raccolta di dati, cuntinueghja à pesà assai nantu à u dibattitu.

L'esperti di a zitellina è di a tecnulugia avvertenu di un altru fronte: pussibile dipendenza emotiva chì ponu generà ghjoculi di cunversazione. Sò stati documentati casi induve l'interazzione cù i chatbot era un fattore di risicu in cuntesti sensibili, ciò chì incuragisce u rinfurzamentu di a supervisione di l'adulti, i limiti d'usu è l'educazione digitale da una ghjovana età.

Chjave per sceglie è aduprà un ghjoculu IA

Oltre à u rumore, ci hè spaziu per riduce i risichi sè cumprate cun prudenza è cunfigurate u dispusitivu currettamente. Queste linee guida aiutanu à equilibrà l'innuvazione è a sicurezza In casa :

• Verificate l'età cunsigliata è chì ci hè una vera modalità zitellu (senza navigazione esterna o risposte aperte micontrollate).
• Leghjite a pulitica di privacy: tipu di dati, destinazione (UE o fora), tempu di cunservazione è opzioni per sguassà a storia.
• Attivà u cuntrollu parentaleLimita a funziunalità in linea è verifica i filtri configurabili è e liste di bloccu.
• Verificate l'aghjurnamenti è u supportuPatch di sicurezza frequenti è impegnu per u ciclu di vita di u produttu.
• Monitorà l'usuStabilite limiti di tempu ragiunevuli è parlate cù i zitelli di ciò chì devenu fà in risposta à risposte strane.
• Spegne u microfonu / a camera quandu ùn sò micca in usu è evitate i conti ligati à dati persunali innecessarii.

Ciò chì si pò aspittà à cortu termine

Cù l'impulsu regulatoriu europeu è a pressione di i cunsumatori, si prevede chì i pruduttori introdurranu cuntrolli più severi, audit è trasparenza in i prossimi aghjurnamenti. Ancu cusì, a marcatura CE è i marchi ùn rimpiazzanu micca a supervisione familiale o a valutazione critica di u pruduttu ogni ghjornu.

L'imagine chì sti testi pittanu hè sfumata: l'IA apre pussibilità educative è di ghjocu, ma oghje coesiste cù filtrazione di lacune, dubbi di dati è risichi di cuncepimentu conversazionaleFinu à chì l'industria ùn allinei l'innuvazione è e garanzie, l'acquisti infurmati, a cunfigurazione attenta è a supervisione di l'adulti sò a megliu rete di sicurezza.