- Un informe independent detecta respostes perilloses en tres joguines amb IA destinades a menors.
- Els filtres fallen en converses llargues, generant recomanacions inadequades.
- Impacte a Espanya i la UE: privadesa infantil i normes de seguretat al punt de mira.
- Guia de compra i bones pràctiques per a famílies abans de Nadal.
Els joguines amb funcions d'intel·ligència artificial són al punt de mira després d'un informe de la US Public Interest Research Group que documenta respostes perilloses en models adreçats a nens de 3 a 12 anys. Segons l'equip liderat per RJ Cross, van ser suficients sessions de conversa prolongades i un ús normal del producte perquè emergissin indicacions inadequades, sense necessitat de trucs ni manipulació.
L'anàlisi va examinar tres dispositius populars: Kumma de FoloToy, Miko 3 i Curio's Grok. En diversos casos, els sistemes de protecció van fallar i es van colar recomanacions que no haurien d'aparèixer en una joguina infantil; un dels models empra GPT-4o i un altre transfereix dades a serveis com OpenAI i Perplexity, la qual cosa revifa el debat sobre filtratge, privadesa i tractament de la informació de menors.
Tres joguines, un mateix patró de risc
En les proves, les converses llargues van ser el detonant: a mesura que avançava el diàleg, els filtres van deixar de frenar contestacions problemàtiques. No es va requerir forçar la màquina; es va simular l'ús quotidià d'un nen que xerra amb la seva joguina, cosa que incrementa la preocupació per l'escenari real de joc a casa.
Els investigadors descriuen conductes dispars entre aparells, però amb una conclusió comuna: els sistemes de seguretat no són consistents. Un dels models va donar peu a referències clarament inadequades per a l'edat, i un altre va redirigir a recursos externs no acords amb un públic infantil, evidenciant un control insuficient de continguts.
El cas de Curio's Grok és il·lustratiu perquè, malgrat el seu nom, no utilitza el model de xAI: el trànsit va a serveis de tercers. Aquest detall importa a Europa i Espanya per la traçabilitat de dades i la gestió de perfils de menors, on la normativa exigeix una diligència especial a fabricants, importadors i distribuïdors.
L'informe remarca que el problema és de base: una vulnerabilitat estructural. No és un simple bug que s'arregli amb un pegat aïllat, sinó una combinació de disseny conversacional, models generatius i filtres que s'erosionen amb el temps d'ús. Per això, els autors desaconsellen comprar joguines amb chatbots integrats per a menors, almenys fins que hi hagi garanties clares.
Implicacions per a Espanya i Europa
En el marc europeu, el focus està en dos fronts: seguretat del producte i protecció de dades. El Reglament de Seguretat General dels Productes i la normativa de joguines obliguen a avaluar riscos abans de sortir al mercat, mentre que el RGPD i les directrius sobre tractament de dades de menors imposen transparència, minimització i bases legals adequades.
A això se suma el nou marc de la Llei Europea d'IA (AI Act), que es desplegarà per fases. Encara que moltes joguines no encaixin com a “alt risc”, la integració de models generatius i el possible perfilat infantil exigiran més documentació, avaluacions i controls al llarg de la cadena, particularment si hi ha transferència de dades fora de la UE.
Per a famílies a Espanya, el més pràctic és exigir informació clara sobre quines dades es recopilen, amb qui es comparteixen i durant quant de temps. si un joguina envia àudio, text o identificadors a tercers, cal especificar finalitats, mecanismes de control parental i opcions per esborrar historials. L'AEPD recorda que l'interès superior del menor preval davant d'usos comercials.
El context no és menor: la campanya nadalenca multiplica la presència d'aquests productes a botigues i plataformes en línia i creix l'interès per regals tecnològics. Associacions de consumidors vénen demanant als retailers verificacions extra de contingut i privadesa abans de promocionar joguines amb IA, per evitar retirades a deshora o advertiments d'última hora.
Què diuen les empreses i el sector
El sector juganer aposta per la IA, amb anuncis com la col·laboració de Mattel amb OpenAI i desenvolupaments de avatars impulsats per IA. La companyia ha promès prioritzar la seguretat, si bé encara no ha detallat totes les mesures concretes. El precedent de Hello Barbie el 2015, envoltat de polèmiques per la seguretat i la recopilació de dades, continua pesant en el debat.
Experts en infància i tecnologia adverteixen d'un altre front: la possible dependència emocional que poden generar joguines conversacionals. S'han documentat casos on la interacció amb chatbots va ser un factor de risc en contextos sensibles, cosa que anima a reforçar l'acompanyament adult, els límits d'ús i l'educació digital des d'edats primerenques.
Claus per triar i fer servir una joguina amb IA
Més enllà del soroll, hi ha marge per reduir riscos si es compra amb criteri i es configura bé el dispositiu. Aquestes pautes ajuden a equilibrar innovació i seguretat a la llar:
- Verifica l'edat recomanada i que hi hagi una manera infantil real (sense navegacions externes ni respostes obertes no controlades).
- Llegeix la política de privadesa: tipus de dades, destinació (UE o fora), temps de retenció i opcions per esborrar historial.
- Activa el control parental, limita funcionalitats en línia i revisa si hi ha filtres configurables i llistes de bloqueig.
- Comprova actualitzacions i suport: pegats de seguretat freqüents i compromís de cicle de vida del producte.
- Supervisa l'ús, estableix temps raonables i conversa amb els menors sobre què fer davant de respostes estranyes.
- Desactiva micròfon/càmera quan no es facin servir i evita comptes vinculats amb dades personals innecessàries.
Què esperar a curt termini
Amb l'impuls regulador europeu i la pressió de consumidors, és previsible que els fabricants introdueixin controls més estrictes, auditories i transparència en actualitzacions properes. Tot i així, el marcatge CE i els segells comercials no substitueixen la supervisió familiar ni l'avaluació crítica del producte en el dia a dia.
La fotografia que deixen aquestes proves és matisada: la IA obre possibilitats educatives i de joc, però avui conviu amb llacunes de filtratge, dubtes sobre dades i riscos de disseny conversacional. Fins que el sector alineï innovació i garanties, la compra informada, la configuració acurada i l'acompanyament adult són la millor xarxa de seguretat.
Sóc un apassionat de la tecnologia que ha convertit els seus interessos frikis en professió. Porto més de 10 anys de la meva vida utilitzant tecnologia d'avantguarda i traslladant tota mena de programes per pura curiositat. Ara he especialitzat en tecnologia d'ordinador i videojocs. Això és perquè des de fa més de 5 anys que treballo redactant per a diverses webs en matèria de tecnologia i videojocs, creant articles que busquen donar-te la informació que necessites amb un llenguatge comprensible per tothom.
Si tens qualsevol pregunta, els meus coneixements van des de tot allò relacionat amb el sistema operatiu Windows així com Android per a mòbils. I és que el meu compromís és amb tu, sempre estic disposat a dedicar-te uns minuts i ajudar-te a resoldre qualsevol dubte que tinguis a aquest món d'internet.