Dirbtiniu intelektu varomi žaislai (pokalbių robotai) tikrinami dėl saugumo spragų

Los Žaislai su dirbtinio intelekto funkcijomis – dėmesio centre po pranešimo iš JAV viešojo intereso tyrimų grupė kad dokumentai pavojingos reakcijos modeliuose, skirtuose 3–12 metų vaikamsPasak RJ Cross vadovaujamos komandos, ilgų pokalbių ir įprasto produkto naudojimo pakako, kad atsirastų netinkamų požymių, nereikalaujant jokių gudrybių ar manipuliacijų.

Analizėje buvo nagrinėjami trys populiarūs įrenginiai: „Kumma“ iš „FoloToy“, „Miko 3“ ir „Curio's Grok“.Keliais atvejais apsaugos sistemos sugedo ir rekomendacijos, kurios neturėtų būti ant vaikų žaislų, praslydo pro šalį; viename iš modelių naudojamas GPT-4, o kitame – Jis perduoda duomenis tokioms paslaugoms kaip „OpenAI“ ir „Perplexity“.Tai vėl pakurstė diskusijas apie filtravimą, privatumą ir informacijos apie nepilnamečius tvarkymą.

Trys žaislai, vienas tas pats rizikos modelis

Testuose, Ilgi pokalbiai buvo provokuojanti jėga.Dialogui tęsiantis, Filtrai nustojo blokuoti probleminius atsakymusNereikėjo jėga spausti mašinos; buvo imituojamas kasdienis vaiko bendravimas su žaislu. Tai didina susirūpinimą dėl tikrojo namų rungtynių scenarijaus..

Tyrėjai aprašo skirtingą elgesį tarp įrenginių, tačiau su bendra išvada: apsaugos sistemos nėra nuosekliosVienas iš modelių paskatino nuorodos akivaizdžiai netinkamos amžiui, o kitas nukreipė į išorinius išteklius, netinkamus vaikų auditorijai, o tai rodo nepakankamą turinio kontrolę.

„Curio's Grok“ atvejis yra iliustruojantis, nes, nepaisant pavadinimo, Nenaudojamas xAI modelis: Srautas nukreipiamas į trečiųjų šalių paslaugasŠi detalė yra svarbi Europoje ir Ispanijoje dėl duomenų atsekamumo ir nepilnamečių profilių valdymo, kur reglamentai reikalauja ypatingo gamintojų, importuotojų ir platintojų kruopštumo.

Pranešime pabrėžiama, kad problema yra esminė: struktūrinis pažeidžiamumasTai ne paprasta klaida, kurią galima ištaisyti vienu pataisymu, o veikiau pokalbių dizaino, generatyvinių modelių ir filtrų derinys, kuris laikui bėgant nyksta. Todėl autoriai Jie nerekomenduoja pirkti žaislų su integruotais pokalbių robotais vaikams.bent jau kol nebus aiškių garantijų.

Poveikis Ispanijai ir Europai

Europos kontekste dėmesys sutelkiamas į du aspektus: produktų sauga ir duomenų apsaugaBendrasis gaminių saugos reglamentas ir žaislų reglamentai reikalauja atlikti rizikos vertinimą prieš pateikiant gaminius į rinką, o BDAR ir vaikų duomenų tvarkymo gairės reikalauja skaidrumo, duomenų kiekio mažinimo ir tinkamo teisinio pagrindo.

Prie to pridedama nauja sistema, Europos dirbtinio intelekto įstatymaskuris bus diegiamas etapais. Nors daugelis žaislų neatitinka „didelės rizikos“ kategorijos, generatyvinių modelių integravimas ir galimas vaikų profiliavimas kelia susirūpinimą. Jiems reikės daugiau dokumentų, vertinimų ir kontrolės priemonių visoje grandinėje.ypač jei duomenys perduodami už ES ribų.

Ispanijoje gyvenančioms šeimoms praktiška reikalauti aiškios informacijos apie kokie duomenys renkami, su kuo jais dalijamasi ir kiek laiko, Jei a žaislas siunčia garsąJei tekstas ar identifikatoriai bendrinami su trečiosiomis šalimis, turi būti nurodyti tikslai, tėvų kontrolės mechanizmai ir naršymo istorijos ištrynimo parinktys. Ispanijos duomenų apsaugos agentūra (AEPD) primena vartotojams, kad vaiko interesai yra svarbesni už komercinį naudojimą.

Kontekstas nėra menkas: Kalėdų laikotarpiu šių produktų parduotuvėse ir internetinėse platformose padaugėja, o susidomėjimas jais auga. technologinės dovanosVartotojų asociacijos kreipėsi į mažmenininkus papildomos turinio ir privatumo patikros prieš reklamuojant dirbtinio intelekto žaislus, siekiant išvengti nesavalaikio pašalinimo iš rinkos ar paskutinės minutės įspėjimų.

Ką sako įmonės ir pramonė

Žaislų sektorius daug dėmesio skiria dirbtiniam intelektui, paskelbdamas tokius dalykus kaip bendradarbiavimas su „Mattel“ su „OpenAI“ ir raida AI varomi avataraiBendrovė pažadėjo teikti pirmenybę saugumui, nors dar nepateikė visų konkrečių priemonių. 2015 m. įvykęs „Hello Barbie“ renginys, apimtas ginčų dėl saugumo ir duomenų rinkimo, ir toliau kelia didelį nerimą diskusijoms.

Vaikų ir technologijų ekspertai įspėja apie dar vieną frontą: galima emocinė priklausomybė kurie gali generuoti pokalbių žaislus. Buvo užfiksuota atvejų, kai sąveika su pokalbių robotais buvo rizikos veiksnys jautriose situacijose, todėl skatinama stiprinti suaugusiųjų priežiūrą, naudojimo apribojimus ir skaitmeninį švietimą nuo ankstyvo amžiaus.

Raktai renkantis ir naudojant dirbtinio intelekto žaislą

Be triukšmo, riziką galima sumažinti, jei pirksite išmintingai ir tinkamai sukonfigūruosite įrenginį. Šios gairės padės inovacijų ir saugumo balansavimas Namuose:

• Patikrinkite rekomenduojamą amžių ir kad yra tikras vaiko režimas (be išorinės navigacijos ar nekontroliuojamų atvirų atsakymų).
• Perskaitykite privatumo politikąduomenų tipas, paskirties vieta (ES ar už jos ribų), saugojimo laikas ir istorijos ištrynimo parinktys.
• Įjunkite tėvų kontrolęTai riboja internetinį funkcionalumą ir tikrina, ar nėra konfigūruojamų filtrų bei blokavimo sąrašų.
• Patikrinkite, ar yra atnaujinimų ir palaikymoDažni saugos pataisymai ir įsipareigojimai dėl produkto gyvavimo ciklo.
• Monitoriaus naudojimasNustatykite protingus laiko limitus ir pasikalbėkite su vaikais apie tai, ką daryti, gavus keistus atsakymus.
• Išjunkite mikrofoną / kamerą kai nenaudojate, ir venkite paskyrų, susietų su nereikalingais asmens duomenimis.

Ko tikėtis trumpuoju laikotarpiu

Tikimasi, kad dėl Europos reguliavimo iniciatyvų ir vartotojų spaudimo gamintojai įdiegs griežtesnė kontrolė, auditai ir skaidrumas būsimuose atnaujinimuose. Nepaisant to, CE ženklas ir prekių ženklai nepakeičia šeimos priežiūros ar kasdienio kritinio gaminio įvertinimo.

Šių testų piešiamas vaizdas yra niuansuotas: dirbtinis intelektas atveria edukacines ir žaidimų galimybes, tačiau šiandien jis egzistuoja kartu su... filtravimo spragas, abejones dėl duomenų ir pokalbio dizaino rizikąKol pramonė nesuderins inovacijų ir garantijų, geriausias saugos tinklas yra informuotas pirkimas, kruopštus konfigūravimas ir suaugusiųjų priežiūra.