- Nakikita ng isang independiyenteng ulat ang mga mapanganib na tugon sa tatlong laruang AI na inilaan para sa mga bata.
- Nabigo ang mga filter sa mahabang pag-uusap, na bumubuo ng mga hindi naaangkop na rekomendasyon.
- Epekto sa Spain at sa EU: ang mga pamantayan sa privacy at kaligtasan ng mga bata sa spotlight.
- Gabay sa pamimili at pinakamahuhusay na kagawian para sa mga pamilya bago ang Pasko.
Los Ang mga laruan na may mga function ng artificial intelligence ay nasa spotlight kasunod ng ulat mula sa US Public Interes Research Group na mga dokumento mapanganib na mga tugon sa mga modelo na naglalayong sa mga bata na may edad 3 hanggang 12Ayon sa pangkat na pinamumunuan ni RJ Cross, ang matagal na mga sesyon ng pag-uusap at normal na paggamit ng produkto ay sapat na para lumitaw ang mga hindi naaangkop na indikasyon, nang hindi nangangailangan ng mga trick o manipulasyon.
Sinuri ng pagsusuri ang tatlong sikat na device: Kumma mula sa FoloToy, Miko 3 at Curio's GrokSa ilang mga kaso, nabigo ang mga sistema ng proteksyon at ang mga rekomendasyong hindi dapat lumabas sa laruang pambata ay nakalusot; ang isa sa mga modelo ay gumagamit ng GPT-4 at isa pa Naglilipat ito ng data sa mga serbisyo tulad ng OpenAI at Perplexity.Ito ay muling nag-aalab sa debate sa pag-filter, privacy, at paghawak ng impormasyon tungkol sa mga menor de edad.
Tatlong laruan, isang parehong pattern ng panganib
Sa mga pagsubok, Ang mahahabang usapan ang naging trigger.Habang tumatagal ang diyalogo, Huminto ang mga filter sa pagharang sa mga may problemang tugonHindi na kailangang pilitin ang makina; ang pang-araw-araw na paggamit ng isang bata na nakikipag-usap sa kanilang laruan ay ginaya, na Pinapataas nito ang mga alalahanin tungkol sa aktwal na senaryo ng home game..
Inilalarawan ng mga mananaliksik ang magkakaibang pag-uugali sa pagitan ng mga device, ngunit may a karaniwang konklusyon: ang mga sistema ng seguridad ay hindi pare-parehoIsa sa mga modelo ang nagbunga mga sanggunian na malinaw na hindi naaangkop para sa edad, at isa pang na-redirect sa mga panlabas na mapagkukunan na hindi naaangkop para sa madla ng mga bata, na nagpapakita ng hindi sapat na kontrol sa nilalaman.
Ang kaso ng Curio's Grok ay naglalarawan dahil, sa kabila ng pangalan nito, Hindi nito ginagamit ang modelong xAI: Ang trapiko ay napupunta sa mga serbisyo ng third-partyAng detalyeng ito ay mahalaga sa Europe at Spain dahil sa data traceability at sa pamamahala ng mga profile ng mga menor de edad, kung saan ang mga regulasyon ay nangangailangan ng espesyal na pagsisikap mula sa mga manufacturer, importer, at distributor.
Binibigyang-diin ng ulat na ang problema ay mahalaga: isang structural vulnerabilityIto ay hindi isang simpleng bug na maaaring ayusin gamit ang isang patch, ngunit sa halip ay isang kumbinasyon ng disenyo ng pakikipag-usap, mga generative na modelo, at mga filter na nawawala sa paglipas ng panahon. Samakatuwid, ang mga may-akda Pinapayuhan nila ang pagbili ng mga laruan na may pinagsamang mga chatbot para sa mga bata.hindi bababa sa hanggang sa may malinaw na mga garantiya.
Mga implikasyon para sa Espanya at Europa
Sa loob ng European framework, ang focus ay nasa dalawang larangan: kaligtasan ng produkto at proteksyon ng dataAng Pangkalahatang Regulasyon sa Kaligtasan ng Produkto at mga regulasyon ng laruan ay nangangailangan ng pagtatasa ng panganib bago mailagay ang mga produkto sa merkado, habang ang GDPR at mga alituntunin sa pagproseso ng data ng mga bata ay nangangailangan ng transparency, pag-minimize at naaangkop na mga legal na batayan.
Idinagdag dito ang bagong balangkas ng European AI Actna ilulunsad sa mga yugto. Bagama't maraming mga laruan ang hindi akma sa kategoryang "mataas ang panganib", ang pagsasama ng mga generative na modelo at ang potensyal para sa child profiling ay mga alalahanin. Mangangailangan sila ng higit pang dokumentasyon, pagtatasa, at kontrol sa buong chain.partikular na kung mayroong paglilipat ng data sa labas ng EU.
Para sa mga pamilya sa Spain, ang praktikal na bagay na dapat gawin ay humingi ng malinaw na impormasyon tungkol sa anong data ang kinokolekta, kung kanino ito ibinahagi, at kung gaano katagal. Kung a nagpapadala ng audio ang laruanKung ibinabahagi ang text o mga identifier sa mga third party, dapat tukuyin ang mga layunin, mekanismo ng kontrol ng magulang, at mga opsyon para sa pagtanggal ng kasaysayan ng pagba-browse. Ang Spanish Data Protection Agency (AEPD) ay nagpapaalala sa mga user na ang pinakamabuting interes ng bata ay mas uunahin kaysa sa komersyal na paggamit.
Ang konteksto ay hindi maliit: Pinapataas ng panahon ng Pasko ang pagkakaroon ng mga produktong ito sa mga tindahan at online na platform, at lumalaki ang interes sa mga ito. mga regalo sa teknolohiyaAng mga asosasyon ng mga mamimili ay nagtatanong sa mga nagtitingi dagdag na nilalaman at mga pagsusuri sa privacy bago mag-promote ng mga laruan ng AI, upang maiwasan ang mga hindi napapanahong withdrawal o mga huling-minutong babala.
Ano ang sinasabi ng mga kumpanya at industriya
Ang sektor ng laruan ay tumataya sa AI, na may mga anunsyo tulad ng pakikipagtulungan ng Mattel na may OpenAI at mga pag-unlad ng Mga avatar na pinapagana ng AINangako ang kumpanya na uunahin ang kaligtasan, bagama't hindi pa nito idinetalye ang lahat ng partikular na hakbang. Ang precedent ng Hello Barbie noong 2015, na nasangkot sa kontrobersya sa kaligtasan at pagkolekta ng data, ay patuloy na tumitimbang sa debate.
Nagbabala ang mga eksperto sa pagkabata at teknolohiya tungkol sa isa pang larangan: posibleng emosyonal na pag-asa na maaaring makabuo ng mga laruang pang-usap. Naidokumento ang mga kaso kung saan ang pakikipag-ugnayan sa mga chatbot ay isang panganib na kadahilanan sa mga sensitibong konteksto, na naghihikayat sa pagpapalakas ng pangangasiwa ng nasa hustong gulang, mga limitasyon sa paggamit, at digital na edukasyon mula sa murang edad.
Mga susi sa pagpili at paggamit ng laruang AI
Higit pa sa ingay, may puwang upang mabawasan ang mga panganib kung bibili ka nang matalino at i-configure nang maayos ang device. Nakakatulong ang mga alituntuning ito sa pagbabalanse ng pagbabago at kaligtasan Sa bahay:
- Suriin ang inirerekomendang edad at mayroong totoong child mode (walang panlabas na nabigasyon o hindi makontrol na bukas na mga tugon).
- Basahin ang patakaran sa privacy: uri ng data, patutunguhan (EU o sa labas), oras ng pagpapanatili at mga opsyon para tanggalin ang kasaysayan.
- Aktibo ang kontrol ng magulangNililimitahan nito ang online functionality at sinusuri ang mga na-configure na filter at blocklist.
- Tingnan ang mga update at suportaMadalas na mga patch ng seguridad at pangako sa lifecycle ng produkto.
- Subaybayan ang paggamitMagtakda ng makatwirang mga limitasyon sa oras at kausapin ang mga bata tungkol sa kung ano ang gagawin bilang tugon sa mga kakaibang sagot.
- I-off ang mikropono/camera kapag hindi ginagamit at iwasan ang mga account na naka-link sa hindi kinakailangang personal na data.
Ano ang aasahan sa maikling panahon
Sa European regulatory impetus at consumer pressure, inaasahan na ang mga tagagawa ay magpapakilala mas mahigpit na kontrol, pag-audit at transparency sa mga paparating na update. Gayunpaman, hindi pinapalitan ng pagmamarka ng CE at mga trademark ang pangangasiwa ng pamilya o kritikal na pagsusuri ng produkto araw-araw.
Ang larawang ipininta ng mga pagsubok na ito ay may nuanced: Ang AI ay nagbubukas ng mga posibilidad na pang-edukasyon at paglalaro, ngunit ngayon ito ay kasama ng pag-filter ng mga puwang, pagdududa sa data, at mga panganib sa disenyo ng pakikipag-usapHanggang sa ihanay ng industriya ang pagbabago at mga garantiya, ang matalinong pagbili, maingat na pagsasaayos, at pangangasiwa ng nasa hustong gulang ay ang pinakamahusay na safety net.
Isa akong mahilig sa teknolohiya na ginawang propesyon ang kanyang mga "geek" na interes. Ako ay gumugol ng higit sa 10 taon ng aking buhay sa paggamit ng makabagong teknolohiya at pag-iisip sa lahat ng uri ng mga programa dahil sa purong kuryusidad. Ngayon ay nagdadalubhasa na ako sa teknolohiya ng kompyuter at mga video game. Ito ay dahil sa higit sa 5 taon na ako ay sumusulat para sa iba't ibang mga website sa teknolohiya at mga video game, na lumilikha ng mga artikulo na naglalayong ibigay sa iyo ang impormasyong kailangan mo sa isang wika na naiintindihan ng lahat.
Kung mayroon kang anumang mga katanungan, ang aking kaalaman ay mula sa lahat ng nauugnay sa Windows operating system pati na rin ang Android para sa mga mobile phone. At ang aking pangako ay sa iyo, lagi akong handang gumugol ng ilang minuto at tulungan kang lutasin ang anumang mga katanungan na maaaring mayroon ka sa mundo ng internet na ito.