Vitu vya kuchezea vinavyoendeshwa na AI (chatbots) vinachunguzwa kwa dosari za usalama

Los Vitu vya kuchezea vilivyo na utendaji wa akili bandia vinaangaziwa kufuatia ripoti kutoka Kikundi cha Utafiti wa Maslahi ya Umma cha Marekani nyaraka hizo majibu hatari katika mifano inayolenga watoto wenye umri wa miaka 3 hadi 12Kulingana na timu inayoongozwa na RJ Cross, vikao vya mazungumzo ya muda mrefu na matumizi ya kawaida ya bidhaa vilitosha kwa dalili zisizofaa kujitokeza, bila kuhitaji hila au ujanja.

Uchambuzi ulichunguza vifaa vitatu maarufu: Kumma kutoka FoloToy, Miko 3 na Curio's GrokKatika matukio kadhaa, mifumo ya ulinzi ilishindwa na mapendekezo ambayo hayapaswi kuonekana kwenye toy ya watoto yalipitia; moja ya mifano hutumia GPT-4 na nyingine Inahamisha data kwa huduma kama OpenAI na Perplexity.Hii inarejelea mjadala juu ya uchujaji, faragha, na utunzaji wa habari kuhusu watoto.

Toys tatu, mfano mmoja wa hatari

Katika vipimo, Mazungumzo marefu ndiyo yalichochea.Wakati mazungumzo yakiendelea, Vichujio viliacha kuzuia majibu yenye matatizoHakuna haja ya kulazimisha mashine; matumizi ya kila siku ya mtoto kuzungumza na toy yao yaliiga, ambayo Hii huongeza wasiwasi kuhusu hali halisi ya mchezo wa nyumbani..

Watafiti wanaelezea tabia tofauti kati ya vifaa, lakini na a hitimisho la kawaida: mifumo ya usalama hailinganiMoja ya mifano ilitoa marejeleo kwa wazi hayafai kwa umri, na nyingine iliyoelekezwa kwingine kwa nyenzo za nje zisizofaa hadhira ya watoto, inayoonyesha udhibiti wa maudhui usiotosha.

Kesi ya Curio's Grok ni kielelezo kwa sababu, licha ya jina lake, Haitumii mfano wa xAI: Trafiki huenda kwa huduma za watu wengineMaelezo haya ni muhimu katika Ulaya na Uhispania kwa sababu ya ufuatiliaji wa data na usimamizi wa wasifu wa watoto, ambapo kanuni zinahitaji bidii maalum kutoka kwa watengenezaji, waagizaji, na wasambazaji.

Ripoti inasisitiza kuwa tatizo ni la msingi: udhaifu wa kimuundoSi hitilafu rahisi inayoweza kurekebishwa kwa kiraka kimoja, bali ni mchanganyiko wa muundo wa mazungumzo, miundo ya kuzalisha, na vichungi ambavyo huharibika baada ya muda. Kwa hivyo, waandishi Wanashauri dhidi ya kununua vifaa vya kuchezea vilivyo na gumzo zilizounganishwa kwa watoto.angalau hadi kuwe na dhamana wazi.

Athari kwa Uhispania na Ulaya

Ndani ya mfumo wa Ulaya, mkazo uko katika nyanja mbili: usalama wa bidhaa na ulinzi wa dataKanuni za Jumla za Usalama wa Bidhaa na kanuni za vinyago zinahitaji tathmini ya hatari kabla ya bidhaa kuwekwa sokoni, huku GDPR na miongozo ya uchakataji wa data ya watoto inahitaji uwazi, kupunguza na misingi ya kisheria ifaayo.

Imeongezwa kwa hii ni mfumo mpya wa Sheria ya AI ya Ulayaambayo itatekelezwa kwa awamu. Ingawa vifaa vya kuchezea vingi haviendani na kategoria ya "hatari kubwa", ujumuishaji wa miundo ya uzalishaji na uwezekano wa kuorodhesha wasifu wa watoto ni jambo linalotia wasiwasi. Watahitaji hati zaidi, tathmini, na vidhibiti katika mlolongo mzima.haswa ikiwa kuna uhamishaji wa data nje ya EU.

Kwa familia nchini Uhispania, jambo la vitendo la kufanya ni kudai habari wazi kuhusu ni data gani inakusanywa, inashirikiwa na nani, na kwa muda gani. Ikiwa a toy hutuma sautiIkiwa maandishi au vitambulishi vimeshirikiwa na watu wengine, madhumuni, mbinu za udhibiti wa wazazi na chaguo za kufuta historia ya kuvinjari lazima zibainishwe. Wakala wa Ulinzi wa Data wa Uhispania (AEPD) huwakumbusha watumiaji kwamba maslahi ya mtoto yanatanguliwa kuliko matumizi ya kibiashara.

Muktadha sio mdogo: Msimu wa Krismasi huongeza uwepo wa bidhaa hizi katika maduka na majukwaa ya mtandaoni, na maslahi yao huongezeka. zawadi za kiteknolojiaVyama vya watumiaji vimekuwa vikiuliza wauzaji reja reja maudhui ya ziada na ukaguzi wa faragha kabla ya kutangaza vifaa vya kuchezea vya AI, ili kuepuka uondoaji wa pesa kwa wakati au maonyo ya dakika za mwisho.

Makampuni na tasnia wanasema nini

Sekta ya vinyago inacheza kamari kwenye AI, kukiwa na matangazo kama vile ushirikiano wa Mattel na OpenAI na maendeleo ya Avatar zinazoendeshwa na AIKampuni hiyo imeahidi kutanguliza usalama, ingawa bado haijaelezea kwa kina hatua zote mahususi. Mfano wa Hello Barbie mwaka wa 2015, uliokumbwa na utata kuhusu usalama na ukusanyaji wa data, unaendelea kuelemea mjadala huo.

Wataalamu wa utoto na teknolojia wanaonya juu ya jambo lingine: uwezekano wa utegemezi wa kihisia ambayo inaweza kuzalisha vinyago vya mazungumzo. Kesi zimerekodiwa ambapo mwingiliano na chatbots ulikuwa sababu ya hatari katika miktadha nyeti, ambayo inahimiza uimarishaji wa usimamizi wa watu wazima, vikomo vya matumizi na elimu ya dijiti kutoka kwa umri mdogo.

Vifunguo vya kuchagua na kutumia toy ya AI

Zaidi ya kelele, kuna nafasi ya kupunguza hatari ikiwa utanunua kwa busara na kusanidi kifaa vizuri. Miongozo hii inasaidia kusawazisha uvumbuzi na usalama nyumbani:

• Angalia umri uliopendekezwa na kwamba kuna hali halisi ya mtoto (bila urambazaji wa nje au majibu wazi yasiyodhibitiwa).
• Soma sera ya faragha: aina ya data, lengwa (EU au nje), muda wa kuhifadhi na chaguo za kufuta historia.
• Washa vidhibiti vya wazaziInapunguza utendakazi wa mtandaoni na hukagua vichujio vinavyoweza kusanidiwa na orodha za kuzuia.
• Angalia sasisho na usaidiziViraka vya usalama vya mara kwa mara na ahadi ya maisha ya bidhaa.
• Fuatilia matumiziWeka mipaka ya muda inayofaa na zungumza na watoto kuhusu nini cha kufanya ili kujibu majibu ya ajabu.
• Zima maikrofoni/kamera wakati haitumiki na epuka akaunti zilizounganishwa na data ya kibinafsi isiyo ya lazima.

Nini cha kutarajia kwa muda mfupi

Kwa msukumo wa udhibiti wa Ulaya na shinikizo la watumiaji, inatarajiwa kwamba wazalishaji wataanzisha udhibiti mkali, ukaguzi na uwazi katika sasisho zijazo. Hata hivyo, alama za CE na alama za biashara hazichukui nafasi ya usimamizi wa familia au tathmini muhimu ya bidhaa kila siku.

Picha ya majaribio haya ya rangi imechangiwa: AI inafungua uwezekano wa kielimu na kucheza, lakini leo inashirikiana na kuchuja mapengo, mashaka ya data, na hatari za muundo wa mazungumzoHadi tasnia ilinganishe uvumbuzi na dhamana, ununuzi wa ufahamu, usanidi wa uangalifu, na usimamizi wa watu wazima ndio wavu bora zaidi wa usalama.

Alberto navarro

Mimi ni mpenda teknolojia ambaye amegeuza masilahi yake ya "geek" kuwa taaluma. Nimetumia zaidi ya miaka 10 ya maisha yangu kwa kutumia teknolojia ya kisasa na kuchezea kila aina ya programu kwa udadisi mtupu. Sasa nimebobea katika teknolojia ya kompyuta na michezo ya video. Hii ni kwa sababu kwa zaidi ya miaka 5 nimekuwa nikifanya kazi ya kuandika kwenye tovuti mbalimbali za teknolojia na michezo ya video, nikitengeneza makala zinazotaka kukupa taarifa unazohitaji kwa lugha inayoeleweka na kila mtu.

Ikiwa una maswali yoyote, ujuzi wangu unatoka kwa kila kitu kinachohusiana na mfumo wa uendeshaji wa Windows pamoja na Android kwa simu za mkononi. Na ahadi yangu ni kwako, niko tayari kutumia dakika chache na kukusaidia kutatua maswali yoyote ambayo unaweza kuwa nayo katika ulimwengu huu wa mtandao.