- Sõltumatu raport tuvastab ohtlikke reaktsioone kolmes lastele mõeldud tehisintellektiga mänguasjas.
- Filtrid ei tööta pikkade vestluste korral ja genereerivad sobimatuid soovitusi.
- Mõju Hispaanias ja ELis: laste privaatsus- ja turvastandardid tähelepanu keskpunktis.
- Ostujuhend ja parimad tavad peredele enne jõule.
osa Tähelepanu keskpunktis on tehisintellekti funktsioonidega mänguasjad pärast raportit USA avaliku huvi uurimisrühm need dokumendid ohtlikud reaktsioonid mudelites, mis on suunatud 3–12-aastastele lasteleRJ Crossi juhitud meeskonna sõnul piisasid pikad vestlusseansid ja toote tavapärane kasutamine sobimatute näidustuste ilmnemiseks, ilma et oleks vaja nippe või manipuleerimist.
Analüüsis uuriti kolme populaarset seadet: Kumma firmadest FoloToy, Miko 3 ja Curio's GrokMitmel juhul lakkasid kaitsesüsteemid töötamast ja soovitused, mis ei tohiks laste mänguasjadel olla, jäid märkamata; üks mudelitest kasutab GPT-4 ja teine See edastab andmeid sellistele teenustele nagu OpenAI ja Perplexity.See sütitab taas arutelu alaealiste kohta käiva teabe filtreerimise, privaatsuse ja käitlemise üle.
Kolm mänguasja, üks sama riskimuster
Testides Pikad vestlused olidki päästikuks.Dialoogi edenedes Filtrid lõpetasid problemaatiliste vastuste blokeerimiseMasinat polnud vaja sundida; simuleeriti lapse igapäevast kasutamist oma mänguasjaga rääkimas, mis See suurendab muret kodumängu tegeliku stsenaariumi pärast..
Teadlased kirjeldavad seadmete vahelist erinevat käitumist, kuid koos ühine järeldus: turvasüsteemid ei ole järjepidevadÜks mudelitest andis alust viited, mis on vanusele selgelt sobimatudja teine suunati ümber lastele sobimatutele välistele ressurssidele, mis näitab ebapiisavat sisukontrolli.
Curio Groki juhtum on illustreeriv, sest vaatamata oma nimele See ei kasuta xAI mudelit: Liiklus läheb kolmandate osapoolte teenusteleSee detail on oluline Euroopas ja Hispaanias andmete jälgitavuse ja alaealiste profiilide haldamise tõttu, kus eeskirjad nõuavad tootjatelt, importijatelt ja turustajatelt erilist hoolsust.
Aruandes rõhutatakse, et probleem on põhimõtteline: struktuuriline haavatavusSee ei ole lihtne viga, mida saab parandada ühe parandusega, vaid pigem vestlusdisaini, generatiivsete mudelite ja filtrite kombinatsioon, mis aja jooksul laguneb. Seetõttu autorid Nad ei soovita lastele integreeritud vestlusrobotitega mänguasju osta.vähemalt seni, kuni on olemas selged garantiid.
Mõju Hispaaniale ja Euroopale
Euroopa raamistikus on tähelepanu keskpunktis kaks valdkonda: tooteohutus ja andmekaitseÜldine tooteohutuse määrus ja mänguasjade eeskirjad nõuavad riskihindamist enne toodete turule laskmist, samas kui isikuandmete kaitse üldmäärus ja laste andmete töötlemise suunised nõuavad läbipaistvust, minimeerimist ja sobivaid õiguslikke aluseid.
Sellele lisandub uus raamistik Euroopa tehisintellekti seadusmis võetakse kasutusele etappidena. Kuigi paljud mänguasjad ei kuulu „kõrge riskiga“ kategooriasse, tekitavad muret generatiivsete mudelite integreerimine ja laste profiilimise potentsiaal. Nad nõuavad kogu ahelas rohkem dokumentatsiooni, hindamisi ja kontrollimeetmeid.eriti kui toimub andmete edastamine väljaspool ELi.
Hispaanias elavate perede jaoks on praktiline nõuda selget teavet milliseid andmeid kogutakse, kellega neid jagatakse ja kui kaua. Kui a mänguasi saadab heliKui teksti või identifikaatoreid jagatakse kolmandate osapooltega, tuleb täpsustada eesmärgid, vanemliku kontrolli mehhanismid ja sirvimisajaloo kustutamise valikud. Hispaania andmekaitseamet (AEPD) tuletab kasutajatele meelde, et lapse parimad huvid on ärilise kasutamise ees tähtsamad.
Kontekst pole väike: Jõuluaeg suurendab nende toodete kohalolekut kauplustes ja veebiplatvormidel ning huvi nende vastu kasvab. tehnoloogilised kingitusedTarbijaühendused on jaemüüjatelt küsinud täiendavad sisu- ja privaatsuskontrollid enne tehisintellektiga mänguasjade reklaamimist, et vältida enneaegseid müügist kõrvaldamisi või viimase hetke hoiatusi.
Mida ettevõtted ja tööstusharu räägivad
Mänguasjasektor panustab tehisintellektile, näiteks selliste teadaannetega nagu koostöö Mattel koos OpenAI-ga ja arengud Tehisintellektil põhinevad avataridEttevõte on lubanud seada esikohale ohutuse, kuigi kõiki konkreetseid meetmeid pole veel üksikasjalikult kirjeldatud. 2015. aasta Hello Barbie pretsedent, mis on olnud seotud vaidlustega ohutuse ja andmete kogumise üle, on jätkuvalt debatis oluliseks rõhujaks.
Lapsepõlve ja tehnoloogia eksperdid hoiatavad veel ühe rinde eest: võimalik emotsionaalne sõltuvus mis võivad genereerida vestlusmänguasju. On dokumenteeritud juhtumeid, kus vestlusrobotitega suhtlemine oli tundlikes kontekstides riskitegur, mis julgustab täiskasvanute järelevalvet, kasutuspiiranguid ja digitaalset haridust juba varasest east alates tugevdama.
Tehisintellektiga mänguasja valimise ja kasutamise võtmed
Lisaks mürale on ruumi riskide vähendamiseks, kui ostad targalt ja seadistad seadme õigesti. Need juhised aitavad innovatsiooni ja ohutuse tasakaalustamine Kodus:
- Kontrollige soovitatavat vanust ja et on olemas päris lapserežiim (ilma välise navigeerimise või kontrollimatute avatud vastusteta).
- Lugege privaatsuspoliitikatandmetüüp, sihtkoht (EL või väljaspool), säilitusaeg ja ajaloo kustutamise valikud.
- Aktiveerige vanemlik kontrollSee piirab võrgufunktsionaalsust ja kontrollib konfigureeritavate filtrite ja mustade loendite olemasolu.
- Kontrollige värskendusi ja tugeSagedased turvapaigad ja toote elutsükli kohustus.
- Monitori kasutamineMäärake mõistlikud ajapiirangud ja rääkige lastega, mida teha kummaliste vastuste korral.
- Lülitage mikrofon/kaamera välja kui seda ei kasutata, ja vältige kontosid, mis on seotud ebavajalike isikuandmetega.
Mida oodata lühiajaliselt
Euroopa regulatiivse tõuke ja tarbijate surve tõttu eeldatakse, et tootjad võtavad kasutusele rangem kontroll, auditid ja läbipaistvus eelseisvates uuendustes. Sellegipoolest ei asenda CE-märgis ja kaubamärgid perekonna järelevalvet ega toote igapäevast kriitilist hindamist.
Nende testide loodud pilt on nüansirikas: tehisintellekt avab hariduslikke ja mängulisi võimalusi, kuid tänapäeval eksisteerib see koos lünkade, andmetega seotud kahtluste ja vestlusdisaini riskide filtreerimineKuni tööstusharu innovatsiooni ja garantiid ühtlustab, on parimaks turvavõrguks teadlik ostlemine, hoolikas seadistamine ja täiskasvanute järelevalve.
Olen tehnoloogiahuviline, kes on muutnud oma "nohikese" huvidest elukutse. Olen veetnud üle 10 aasta oma elust tipptehnoloogiat kasutades ja puhtast uudishimust igasuguste programmide kallal nokitsenud. Nüüd olen spetsialiseerunud arvutitehnoloogiale ja videomängudele. Seda seetõttu, et rohkem kui 5 aastat olen kirjutanud erinevatele tehnoloogia ja videomängude veebisaitidele, luues artikleid, mille eesmärk on anda teile vajalikku teavet kõigile arusaadavas keeles.
Kui teil on küsimusi, siis minu teadmised ulatuvad kõigest, mis on seotud nii Windowsi operatsioonisüsteemiga kui ka Androidiga mobiiltelefonidele. Ja ma olen pühendunud teile, olen alati nõus kulutama paar minutit ja aitama teil lahendada kõik küsimused, mis teil selles Interneti-maailmas tekkida võivad.