Gervigreindarknúnir leikföng (spjallþjónar) undir eftirliti vegna öryggisgalla

Los Leikföng með gervigreindarvirkni eru í sviðsljósinu í kjölfar skýrslu frá Rannsóknarhópur bandarískra hagsmunaaðila þessi skjöl Hættuleg viðbrögð í líkönum sem miða að börnum á aldrinum 3 til 12 áraSamkvæmt teyminu undir forystu RJ Cross voru langvarandi samræður og eðlileg notkun vörunnar nóg til að óviðeigandi vísbendingar kæmu fram, án þess að þörf væri á brellum eða stjórnun.

Í greiningunni voru þrjú vinsæl tæki skoðuð: Kumma frá FoloToy, Miko 3 og Curio's GrokÍ nokkrum tilfellum biluðu verndarkerfin og ráðleggingar sem ættu ekki að vera á barnaleikföngum sluppu í gegn; ein gerðin notar GPT-4 og önnur... Það flytur gögn til þjónustu eins og OpenAI og Perplexity.Þetta kyndir undir umræðunni á ný um síun, friðhelgi einkalífs og meðferð upplýsinga um börn.

Þrjú leikföng, sama áhættumynstrið

Í prófunum, Langar samræður voru kveikjan.Eftir því sem samræðurnar þróuðust, Síurnar hættu að loka fyrir vandræðaleg svörEngin þörf á að þvinga vélina; hermt var eftir daglegri notkun barns sem talar við leikfangið sitt, sem Þetta eykur áhyggjur af raunverulegum atburðarásum heimaleiksins..

Rannsakendurnir lýsa ólíkri hegðun milli tækja, en með Algeng niðurstaða: öryggiskerfi eru ekki samræmdEin af fyrirmyndunum leiddi til þess að tilvísanir greinilega óviðeigandi fyrir aldur, og annað vísað á utanaðkomandi heimildir sem eru ekki viðeigandi fyrir börn, sem sýnir fram á ófullnægjandi stjórn á efni.

Tilfellið með Curio's Grok er lýsandi því, þrátt fyrir nafnið, Það notar ekki xAI líkanið: Umferðin fer til þjónustu þriðja aðilaÞessi smáatriði eru mikilvæg í Evrópu og Spáni vegna rekjanleika gagna og stjórnun á prófílum barna, þar sem reglugerðir krefjast sérstakrar kostgæfni frá framleiðendum, innflytjendum og dreifingaraðilum.

Í skýrslunni er lögð áhersla á að vandamálið sé grundvallaratriði: byggingarleg veikleikiÞetta er ekki einföld villa sem hægt er að laga með einni uppfærslu, heldur frekar samsetning af samræðuhönnun, kynslóðarlíkönum og síum sem rofna með tímanum. Þess vegna hafa höfundarnir... Þeir ráðleggja gegn því að kaupa leikföng með innbyggðum spjallþjónum fyrir börn.að minnsta kosti þar til skýrar tryggingar liggja fyrir.

Áhrif fyrir Spán og Evrópu

Innan evrópsks ramma er áherslan lögð á tvo þætti: vöruöryggi og gagnaverndAlmennu reglugerðin um öryggi vöru og leikfangareglur krefjast áhættumats áður en vörur eru settar á markað, en GDPR og leiðbeiningar um vinnslu gagna barna krefjast gagnsæis, lágmörkunar og viðeigandi lagalegrar heimildar.

Við þetta bætist nýr rammi Evrópska gervigreindarlöginsem verður kynnt í áföngum. Þó að mörg leikföng falli ekki undir flokkinn „áhættuhópur“, þá eru samþætting kynslóðarlíkana og möguleiki á barnaprófílgerð áhyggjuefni. Þeir munu krefjast meiri skjölunar, mats og eftirlits í allri keðjunni.sérstaklega ef um er að ræða gagnaflutning út fyrir ESB.

Fyrir fjölskyldur á Spáni er það hagnýtasta að krefjast skýrra upplýsinga um hvaða gögnum er safnað, hverjum þeim er deilt og hversu lengi. Ef a leikfang sendir hljóðEf texta eða auðkennum er deilt með þriðja aðila verður að tilgreina tilganginn, foreldraeftirlitskerfi og möguleika á að eyða vafraferli. Persónuverndarstofnun Spánar (AEPD) minnir notendur á að hagsmunir barnsins eru forgangsraðir fram yfir viðskiptalega notkun.

Samhengið skiptir ekki máli: Jólatímabilið eykur viðveru þessara vara í verslunum og á netpöllum og áhugi á þeim eykst. tæknileg gjafirNeytendasamtök hafa beðið smásala auka efni og persónuverndarathuganir áður en gervigreindarleikföng eru kynnt, til að forðast ótímabærar úttektir eða viðvaranir á síðustu stundu.

Það sem fyrirtæki og atvinnulífið segja

Leikfangageirinn veðjar á gervigreind, með tilkynningum eins og samstarfi Mattel með OpenAI og þróun á Gervigreindarknúnar avatararFyrirtækið hefur lofað að forgangsraða öryggi, þótt það hafi ekki enn útskýrt allar sértækar ráðstafanir. Fordæmið með Hello Barbie árið 2015, sem var umdeilt um öryggi og gagnasöfnun, heldur áfram að vega þungt í umræðunni.

Sérfræðingar í bernsku og tækni vara við annarri víglínu: möguleg tilfinningaleg ósjálfstæði sem geta búið til samræðutæki. Skjalfest hafa verið dæmi þar sem samskipti við spjallþjóna voru áhættuþáttur í viðkvæmum aðstæðum, sem hvetur til þess að styrkja eftirlit fullorðinna, takmarka notkun og stafræna fræðslu frá unga aldri.

Lyklar til að velja og nota gervigreindarleikfang

Auk hávaða er hægt að draga úr áhættu ef þú kaupir skynsamlega og stillir tækið rétt. Þessar leiðbeiningar hjálpa til við að... jafnvægi milli nýsköpunar og öryggis Á heimilinu:

• Athugaðu ráðlagðan aldur og að það sé til raunverulegur barnahamur (án ytri flakks eða stjórnlausra opinna svara).
• Lestu persónuverndarstefnuna: gagnategund, áfangastaður (ESB eða utan), varðveislutími og möguleikar á að eyða sögu.
• Virkjaðu foreldraeftirlitÞað takmarkar virkni á netinu og athugar hvort stillanlegar síur og blokkunarlistar séu til staðar.
• Athugaðu hvort uppfærslur og stuðningur séu til staðarTíðar öryggisuppfærslur og skuldbinding um líftíma vöru.
• Fylgjast með notkunSettu hæfileg tímamörk og ræddu við börnin um hvað eigi að gera við undarleg svör.
• Slökkva á hljóðnema/myndavél þegar það er ekki í notkun og forðastu reikninga sem eru tengdir óþarfa persónuupplýsingum.

Hvað má búast við til skamms tíma

Með evrópskum reglugerðarhvötum og þrýstingi frá neytendum er búist við að framleiðendur muni kynna strangari eftirlit, endurskoðanir og gagnsæi í væntanlegum uppfærslum. Þrátt fyrir það koma CE-merkingar og vörumerki ekki í stað eftirlits fjölskyldunnar eða gagnrýninnar mats á vörunni daglega.

Myndin sem þessar prófanir draga upp er flókin: Gervigreind opnar möguleika fyrir menntun og leik, en í dag er hún til samhliða síun á eyðum, vafa um gögn og áhættu í samræðuhönnunÞangað til iðnaðurinn samræmir nýsköpun og ábyrgðir eru upplýst kaup, vandleg uppsetning og eftirlit fullorðinna besta öryggisnetið.

Alberto navarro

Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.

Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.