- Egy független jelentés veszélyes reakciókat fedezett fel három, gyerekeknek szánt mesterséges intelligencia által vezérelt játékban.
- A szűrők hosszú beszélgetésekben meghibásodnak, ami nem megfelelő ajánlásokat generál.
- Hatás Spanyolországban és az EU-ban: a gyermekek adatvédelmére és biztonsági előírásai a középpontban.
- Vásárlási útmutató és bevált gyakorlatok családoknak karácsony előtt.
sok A mesterséges intelligenciával rendelkező játékok a figyelem középpontjában vannak egy jelentést követően Amerikai Közérdekű Kutatócsoport hogy a dokumentumok veszélyes reakciók a 3-12 éves gyermekeknek szánt modellekbenAz RJ Cross vezette csapat szerint a hosszan tartó beszélgetések és a termék normál használata elegendő volt ahhoz, hogy nem megfelelő jelek jelenjenek meg, trükkök vagy manipuláció nélkül.
Az elemzés három népszerű eszközt vizsgált: Kumma a FoloToy-tól, a Miko 3-tól és a Curio's Grok-tólTöbb esetben is előfordult, hogy a védelmi rendszerek meghibásodtak, és olyan ajánlások is kimaradtak, amelyeknek nem lenne szabad megjelenniük egy gyerekjátékon; az egyik modell GPT-4-et használ, egy másik pedig... Adatokat továbbít olyan szolgáltatásoknak, mint az OpenAI és a Perplexity.Ez újraéleszti a vitát a kiskorúakkal kapcsolatos információk szűréséről, adatvédelméről és kezeléséről.
Három játék, ugyanaz a kockázati minta
A tesztekben A hosszú beszélgetések voltak a kiváltó okok.Ahogy a párbeszéd előrehaladt, A szűrők leállították a problémás válaszok blokkolásátNem kellett erőltetni a gépet; a játékkal beszélgető gyermek mindennapi használatát szimulálták, ami... Ez fokozza az aggodalmakat a hazai mérkőzés tényleges kimenetelével kapcsolatban..
A kutatók az eszközök közötti eltérő viselkedést írják le, de egy közös következtetés: a biztonsági rendszerek nem következetesekAz egyik modell adott okot arra, hogy korosztálynak egyértelműen nem megfelelő utalások, egy másik pedig olyan külső forrásokra irányított át, amelyek nem megfelelőek gyermekközönség számára, ami a tartalom nem megfelelő ellenőrzését mutatja.
Curio Grokjának esete szemléltető, mert a neve ellenére Nem használja az xAI modellt: A forgalom harmadik féltől származó szolgáltatásokhoz kerülEz a részlet Európában és Spanyolországban fontos az adatok nyomon követhetősége és a kiskorúak profiljainak kezelése miatt, ahol a szabályozások különös gondosságot követelnek meg a gyártóktól, importőröktől és forgalmazóktól.
A jelentés hangsúlyozza, hogy a probléma alapvető: strukturális sebezhetőségEz nem egy egyszerű hiba, amelyet egyetlen javítással lehetne kijavítani, hanem inkább a párbeszédes tervezés, a generatív modellek és a szűrők kombinációja, amelyek idővel erodálódnak. Ezért a szerzők Azt tanácsolják, hogy ne vásároljunk integrált chatbotokkal ellátott játékokat gyerekeknek.legalábbis amíg nincsenek egyértelmű garanciák.
Következmények Spanyolország és Európa számára
Az európai kereteken belül két területre összpontosítanak: termékbiztonság és adatvédelemAz általános termékbiztonsági rendelet és a játékokra vonatkozó rendeletek előírják a kockázatértékelést a termékek forgalomba hozatala előtt, míg a GDPR és a gyermekek adatainak feldolgozására vonatkozó iránymutatások átláthatóságot, minimalizálást és megfelelő jogalapokat írnak elő.
Ehhez járul még az új keretrendszer, Európai mesterséges intelligencia törvényamelyet szakaszosan fognak bevezetni. Bár sok játék nem tartozik a „magas kockázatú” kategóriába, a generatív modellek integrációja és a gyermekprofilozás lehetősége aggodalomra ad okot. Több dokumentációra, értékelésre és ellenőrzésre lesz szükségük a teljes láncban.különösen akkor, ha az adatok az EU-n kívülre kerülnek továbbításra.
A spanyolországi családok számára a gyakorlatias teendő az, hogy egyértelmű tájékoztatást kérjenek a következőkről: milyen adatokat gyűjtenek, kivel osztják meg azokat, és mennyi ideig. Ha egy a játék hangot küldHa szöveget vagy azonosítókat osztanak meg harmadik felekkel, meg kell adni a célokat, a szülői felügyeleti mechanizmusokat és a böngészési előzmények törlésének lehetőségeit. A spanyol adatvédelmi ügynökség (AEPD) emlékezteti a felhasználókat, hogy a gyermek érdekei elsőbbséget élveznek a kereskedelmi célú felhasználással szemben.
A kontextus nem jelentéktelen: A karácsonyi szezonban ezek a termékek egyre népszerűbbek az üzletekben és az online platformokon, és egyre nagyobb az érdeklődés irántuk. tech ajándékokA fogyasztói szervezetek arra kérték a kiskereskedőket, hogy további tartalom- és adatvédelmi ellenőrzések mielőtt mesterséges intelligenciával teli játékokat népszerűsítene, hogy elkerülje a korai kivonásokat vagy az utolsó pillanatban érkező figyelmeztetéseket.
Mit mondanak a vállalatok és az iparág
A játékipar a mesterséges intelligenciára fogad, olyan bejelentésekkel, mint az együttműködésük Mattel OpenAI-val és a fejlesztések AI-alapú avatarokA cég ígéretet tett a biztonság prioritásként való kezelésére, bár még nem részletezte az összes konkrét intézkedést. A 2015-ös Hello Barbie esete, amely a biztonság és az adatgyűjtés körüli vitákat övezi, továbbra is súlyos terhet ró a vitára.
A gyermekkor és a technológia szakértői egy másik frontra is figyelmeztetnek: lehetséges érzelmi függőség amelyek beszélgetős játékokat generálhatnak. Dokumentáltak olyan eseteket, amikor a chatbotokkal való interakció kockázati tényező volt érzékeny helyzetekben, ami ösztönzi a felnőtt felügyelet megerősítését, a használati korlátozásokat és a digitális oktatást már korai életkortól kezdve.
Kulcsfontosságú tudnivalók a mesterséges intelligencia által vezérelt játékok kiválasztásához és használatához
A zajon túl is csökkentheti a kockázatokat, ha bölcsen vásárol és megfelelően konfigurálja az eszközt. Ezek az irányelvek segítenek az innováció és a biztonság egyensúlyban tartása Az otthonban:
- Ellenőrizze az ajánlott életkort és hogy létezik egy valódi gyermek mód (külső navigáció vagy ellenőrizetlen nyílt válaszok nélkül).
- Olvassa el az adatvédelmi szabályzatot: adattípus, célhely (EU vagy azon kívül), megőrzési idő és az előzmények törlésének lehetőségei.
- Aktiválja a szülői felügyeletetKorlátozza az online funkciókat, és ellenőrzi a konfigurálható szűrőket és tiltólistákat.
- Frissítések és támogatás kereséseGyakori biztonsági javítások és a termék életciklusára vonatkozó kötelezettségvállalás.
- MonitorhasználatÁllíts be ésszerű időkorlátokat, és beszélj a gyerekekkel arról, hogy mit tegyenek a furcsa válaszokra reagálva.
- Kapcsold ki a mikrofont/kamerát amikor nem használod, és kerüld a szükségtelen személyes adatokhoz kapcsolódó fiókokat.
Mire számíthatunk rövid távon
Az európai szabályozási lendület és a fogyasztói nyomás hatására várható, hogy a gyártók bevezetik a következőket: szigorúbb ellenőrzések, auditok és átláthatóság a közelgő frissítésekben. Ennek ellenére a CE-jelölés és a védjegyek nem helyettesítik a családi felügyeletet vagy a termék napi szintű kritikus értékelését.
A tesztek által festet kép árnyalt: a mesterséges intelligencia oktatási és játéklehetőségeket nyit meg, de ma már együtt létezik a... hiányosságok, adatkérdések és párbeszédes tervezési kockázatok szűréseAmíg az iparág nem hangolja össze az innovációt és a garanciákat, a tájékozott vásárlás, a gondos konfiguráció és a felnőtt felügyelet jelenti a legjobb biztonsági hálót.
Technológia-rajongó vagyok, aki "geek" érdeklődését szakmává változtatta. Életemből több mint 10 évet töltöttem a legmodernebb technológiával, és pusztán kíváncsiságból mindenféle programmal bütykölgettem. Most a számítástechnikára és a videojátékokra szakosodtam. Ennek az az oka, hogy több mint 5 éve írok különféle technológiával és videojátékokkal foglalkozó weboldalakra, olyan cikkeket készítve, amelyek mindenki számára érthető nyelven igyekeznek megadni a szükséges információkat.
Ha bármilyen kérdése van, tudásom a Windows operációs rendszerrel, valamint a mobiltelefonokhoz készült Androiddal kapcsolatos mindenre kiterjed. És az én elkötelezettségem az Ön iránti elkötelezettségem, mindig készen állok néhány percet rászánni arra, hogy segítsek megoldani minden kérdését ebben az internetes világban.