AI-drivna leksaker (chatbotar) granskas för säkerhetsbrister

De Leksaker med artificiell intelligens är i rampljuset efter en rapport från Amerikansk forskningsgrupp för allmänt intresse att dokumenten farliga reaktioner i modeller riktade till barn i åldrarna 3 till 12Enligt teamet som leddes av RJ Cross var långvariga samtalssessioner och normal användning av produkten tillräckligt för att olämpliga indikationer skulle framkomma, utan behov av knep eller manipulation.

Analysen undersökte tre populära enheter: Kumma från FoloToy, Miko 3 och Curio's GrokI flera fall har skyddssystemen slutat fungera och rekommendationer som inte borde finnas på en barnleksak har sjunkit igenom; en av modellerna använder GPT-4 och en annan Den överför data till tjänster som OpenAI och Perplexity.Detta väcker nytt liv i debatten om filtrering, integritet och hantering av information om minderåriga.

Tre leksaker, samma riskmönster

I testerna, De långa samtalen var den utlösande faktorn.Allt eftersom dialogen fortskred, Filtren slutade blockera problematiska svarIngen anledning att tvinga maskinen; den vardagliga användningen av ett barn som pratar med sin leksak simulerades, vilket Detta ökar oron kring den faktiska hemmamatchen..

Forskarna beskriver olika beteenden mellan enheter, men med en gemensam slutsats: säkerhetssystemen är inte konsekventaEn av modellerna gav upphov till referenser uppenbart olämpliga för åldern, och en annan omdirigerad till externa resurser som inte är lämpliga för en barnpublik, vilket visar på otillräcklig innehållskontroll.

Fallet med Curios Grok är illustrativt eftersom, trots namnet, Den använder inte xAI-modellen: Trafiken går till tredjepartstjänsterDenna detalj är viktig i Europa och Spanien på grund av dataspårbarhet och hantering av minderårigas profiler, där regler kräver särskild noggrannhet från tillverkare, importörer och distributörer.

Rapporten betonar att problemet är grundläggande: en strukturell sårbarhetDet är inte en enkel bugg som kan åtgärdas med en enda patch, utan snarare en kombination av konversationsdesign, generativa modeller och filter som försämras med tiden. Därför har författarna De avråder från att köpa leksaker med integrerade chatbotar för barn.åtminstone tills det finns tydliga garantier.

Konsekvenser för Spanien och Europa

Inom den europeiska ramen ligger fokus på två fronter: produktsäkerhet och dataskyddDen allmänna produktsäkerhetsförordningen och leksaksreglerna kräver riskbedömning innan produkter släpps ut på marknaden, medan GDPR och riktlinjer för behandling av barns uppgifter kräver transparens, minimering och lämpliga rättsliga grunder.

Till detta läggs det nya ramverket för Europeiska AI-lagenvilket kommer att lanseras i faser. Även om många leksaker inte passar in i kategorin "högrisk", är integrationen av generativa modeller och potentialen för barnprofilering oroande. De kommer att kräva mer dokumentation, bedömningar och kontroller genom hela kedjan.särskilt om det sker en överföring av uppgifter utanför EU.

För familjer i Spanien är det praktiska att kräva tydlig information om vilka uppgifter som samlas in, med vem de delas och hur länge. Om a leksaken skickar ljudOm text eller identifierare delas med tredje part måste syftena, föräldrakontrollmekanismerna och alternativen för att radera webbhistoriken specificeras. Den spanska dataskyddsmyndigheten (AEPD) påminner användarna om att barnets bästa har företräde framför kommersiell användning.

Sammanhanget är inte obetydligt: Julsäsongen ökar närvaron av dessa produkter i butiker och onlineplattformar, och intresset för dem växer. tekniska gåvorKonsumentorganisationer har bett återförsäljare extra innehåll och sekretesskontroller innan man marknadsför AI-leksaker, för att undvika förtida uttag eller varningar i sista minuten.

Vad företag och branschen säger

Leksaksbranschen satsar på AI, med tillkännagivanden som samarbetet mellan Mattel med OpenAI och utvecklingen av AI-drivna avatarerFöretaget har lovat att prioritera säkerhet, även om de ännu inte har detaljerat alla specifika åtgärder. Föregångaren till Hello Barbie 2015, som var inblandad i kontroverser kring säkerhet och datainsamling, fortsätter att tynga debatten tungt.

Barndoms- och teknikexperter varnar för en annan front: möjligt emotionellt beroende som kan generera konversationsleksaker. Fall har dokumenterats där interaktion med chattrobotar var en riskfaktor i känsliga sammanhang, vilket uppmuntrar till stärkt vuxenövervakning, användningsbegränsningar och digital utbildning från tidig ålder.

Nycklar till att välja och använda en AI-leksak

Utöver bullret finns det utrymme att minska riskerna om du köper klokt och konfigurerar enheten korrekt. Dessa riktlinjer hjälper till att balansera innovation och säkerhet hemma:

• Kontrollera den rekommenderade åldern och att det finns ett riktigt barnläge (utan extern navigering eller okontrollerade öppna svar).
• Läs integritetspolicyndatatyp, destination (EU eller utanför), lagringstid och alternativ för att radera historik.
• Aktivera föräldrakontrollDen begränsar onlinefunktionalitet och kontrollerar konfigurerbara filter och blocklistor.
• Sök efter uppdateringar och supportTäta säkerhetsuppdateringar och produktlivscykelåtaganden.
• Övervaka användningSätt rimliga tidsgränser och prata med barnen om vad de ska göra som svar på konstiga svar.
• Stäng av mikrofonen/kameran när den inte används och undvik konton som är kopplade till onödiga personuppgifter.

Vad man kan förvänta sig på kort sikt

Med europeisk regulatorisk drivkraft och konsumenttryck förväntas tillverkare introducera strängare kontroller, revisioner och transparens i kommande uppdateringar. Trots detta ersätter inte CE-märkning och varumärken familjeövervakning eller kritisk utvärdering av produkten dagligen.

Bilden som dessa tester målar upp är nyanserad: AI öppnar upp för utbildnings- och lekmöjligheter, men idag samexisterar den med filtrering av luckor, datatvivel och risker med konversationsdesignTills branschen samordnar innovation och garantier är välgrundade köp, noggrann konfiguration och vuxenövervakning det bästa skyddsnätet.