Արհեստական ​​բանականությամբ աշխատող խաղալիքները (չաթբոտները) ուսումնասիրվում են անվտանգության թերությունների պատճառով

The Արհեստական ​​բանականության գործառույթներով խաղալիքները ուշադրության կենտրոնում են -ի զեկույցից հետո ԱՄՆ հանրային շահերի հետազոտական ​​խումբ այդ փաստաթղթերը վտանգավոր արձագանքներ 3-ից 12 տարեկան երեխաների համար նախատեսված մոդելներումՌ.Ջ. Քրոսի գլխավորած թիմի կարծիքով, երկարատև զրույցները և արտադրանքի բնականոն օգտագործումը բավարար էին անպատշաճ ցուցումներ ի հայտ գալու համար՝ առանց հնարքների կամ մանիպուլյացիաների անհրաժեշտության։

Վերլուծությունը ուսումնասիրել է երեք հայտնի սարքեր՝ Կումմա FoloToy-ից, Miko 3-ից և Curio's Grok-իցՄի քանի դեպքերում պաշտպանության համակարգերը խափանվել են, և մանկական խաղալիքի վրա չպետք է հայտնվեին առաջարկություններ. մոդելներից մեկը օգտագործում է GPT-4, իսկ մյուսը՝ Այն տվյալները փոխանցում է OpenAI-ի և Perplexity-ի նման ծառայություններին։Սա վերստին բորբոքում է քննարկումները ֆիլտրման, գաղտնիության և անչափահասների մասին տեղեկատվության մշակման վերաբերյալ։

Երեք խաղալիք, մեկ նույն ռիսկի օրինաչափություն

Թեստերում, Երկար զրույցները պատճառ դարձան։Երկխոսության զարգացմանը զուգընթաց՝ Ֆիլտրերը դադարեցին արգելափակել խնդրահարույց պատասխաններըԱնհրաժեշտ չէր մեքենան ստիպել. մոդելավորվել էր երեխայի կողմից իր խաղալիքի հետ խոսելու ամենօրյա օգտագործումը, ինչը Սա մեծացնում է մտահոգությունները տնային խաղերի իրական սցենարի վերաբերյալ։.

Հետազոտողները նկարագրում են սարքերի միջև տարբեր վարքագծեր, բայց Ընդհանուր եզրակացություն՝ անվտանգության համակարգերը հետևողական չենՄոդելներից մեկը հանգեցրեց հղումները հստակորեն անհամապատասխան են տարիքին, իսկ մեկ այլ՝ վերահղված դեպի արտաքին ռեսուրսներ, որոնք անհարմար են մանկական լսարանի համար, ինչը ցույց է տալիս բովանդակության անբավարար վերահսկողություն։

Կուրիոյի Գրոկի դեպքը վառ օրինակ է, քանի որ, չնայած իր անվանը, Այն չի օգտագործում xAI մոդելը: Երթևեկությունը գնում է երրորդ կողմի ծառայություններԱյս մանրամասնությունը կարևոր է Եվրոպայում և Իսպանիայում՝ տվյալների հետագծելիության և անչափահասների պրոֆիլների կառավարման պատճառով, որտեղ կանոնակարգերը պահանջում են հատուկ ջանասիրություն արտադրողների, ներմուծողների և դիստրիբյուտորների կողմից։

Հաշվետվությունը շեշտում է, որ խնդիրը հիմնարար է. կառուցվածքային խոցելիությունՍա պարզ սխալ չէ, որը կարելի է շտկել մեկ թարմացմամբ, այլ խոսակցական դիզայնի, գեներատիվ մոդելների և ֆիլտրերի համադրություն է, որը ժամանակի ընթացքում քայքայվում է։ Հետևաբար, հեղինակները Նրանք խորհուրդ չեն տալիս երեխաների համար ներկառուցված չաթբոտներով խաղալիքներ գնել։առնվազն մինչև հստակ երաշխիքներ լինեն։

Հետևանքները Իսպանիայի և Եվրոպայի համար

Եվրոպական շրջանակներում ուշադրությունը կենտրոնացած է երկու ճակատի վրա՝ արտադրանքի անվտանգություն և տվյալների պաշտպանությունԱրտադրանքի անվտանգության ընդհանուր կանոնակարգը և խաղալիքների կանոնակարգերը պահանջում են ռիսկերի գնահատում՝ նախքան արտադրանքը շուկայահանելը, մինչդեռ GDPR-ը և երեխաների տվյալների մշակման ուղեցույցները պահանջում են թափանցիկություն, նվազագույնի հասցնել և համապատասխան իրավական հիմքեր։

Սրան ավելացվում է նոր շրջանակը Եվրոպական արհեստական ​​բանականության մասին օրենքորը կներդրվի փուլերով: Չնայած շատ խաղալիքներ չեն տեղավորվում «բարձր ռիսկի» կատեգորիայում, գեներատիվ մոդելների ինտեգրումը և երեխայի պրոֆիլավորման հնարավորությունը մտահոգիչ են: Նրանք կպահանջեն ավելի շատ փաստաթղթավորում, գնահատումներ և վերահսկողություն ողջ շղթայի ընթացքում։հատկապես, եթե տվյալների փոխանցումը տեղի է ունենում ԵՄ-ից դուրս։

Իսպանիայում ընտանիքների համար գործնականում ամենահարմար բանը հստակ տեղեկատվություն պահանջելն է ինչ տվյալներ են հավաքվում, ում հետ են դրանք կիսվում և որքան ժամանակով. Եթե ​​ա խաղալիքը ձայն է ուղարկումԵթե ​​տեքստը կամ նույնականացուցիչները տրամադրվում են երրորդ կողմերին, ապա պետք է նշվեն նպատակները, ծնողական վերահսկողության մեխանիզմները և զննարկման պատմությունը ջնջելու տարբերակները: Իսպանիայի տվյալների պաշտպանության գործակալությունը (AEPD) հիշեցնում է օգտատերերին, որ երեխայի լավագույն շահերը գերակա են առևտրային օգտագործումներից:

Համատեքստը աննշան չէ. Սուրբ Ծննդյան սեզոնը մեծացնում է այս ապրանքների առկայությունը խանութներում և առցանց հարթակներում, և դրանց նկատմամբ հետաքրքրությունը մեծանում է։ տեխնոլոգիական նվերներՍպառողների ասոցիացիաները հարցրել են մանրածախ առևտրականներին լրացուցիչ բովանդակության և գաղտնիության ստուգումներ արհեստական ​​ինտելեկտի խաղալիքներ գովազդելուց առաջ՝ ժամանակից շուտ դուրսբերումներից կամ վերջին րոպեի նախազգուշացումներից խուսափելու համար։

Ինչ են ասում ընկերությունները և ոլորտը

Խաղալիքների ոլորտը խաղադրույք է կատարում արհեստական ​​բանականության վրա՝ այնպիսի հայտարարություններով, ինչպիսին է համագործակցությունը Mattel-ը OpenAI-ի հետ և զարգացումները Արհեստական ​​բանականությամբ աշխատող ավատարներԸնկերությունը խոստացել է առաջնահերթություն տալ անվտանգությանը, չնայած դեռևս չի մանրամասնել բոլոր կոնկրետ միջոցառումները: 2015 թվականին «Բարև Բարբի»-ի նախադեպը, որը ներքաշվեց անվտանգության և տվյալների հավաքագրման շուրջ վեճերի մեջ, շարունակում է մեծ ազդեցություն ունենալ բանավեճի վրա:

Մանկության և տեխնոլոգիաների մասնագետները զգուշացնում են մեկ այլ ճակատի մասին. հնարավոր հուզական կախվածություն որոնք կարող են ստեղծել խոսակցական խաղալիքներ: Փաստաթղթավորվել են դեպքեր, երբ չաթբոտների հետ փոխազդեցությունը ռիսկի գործոն է եղել զգայուն համատեքստերում, ինչը խրախուսում է մեծահասակների վերահսկողության, օգտագործման սահմանափակումների և թվային կրթության ուժեղացումը վաղ տարիքից:

Արհեստական ​​​​խաղալիք ընտրելու և օգտագործելու գաղտնիքները

Բացի աղմուկից, կա ռիսկերը նվազեցնելու հնարավորություն, եթե խելամտորեն գնեք և սարքը ճիշտ կարգավորեք։ Այս ուղեցույցները կօգնեն նորարարության և անվտանգության հավասարակշռությունը տանը:

• Ստուգեք առաջարկվող տարիքը և որ կա իրական երեխայի ռեժիմ (առանց արտաքին նավիգացիայի կամ անվերահսկելի բաց պատասխանների):
• Կարդացեք գաղտնիության քաղաքականությունըտվյալների տեսակը, նպատակակետը (ԵՄ կամ դրանից դուրս), պահպանման ժամանակը և պատմությունը ջնջելու տարբերակները։
• Ակտիվացրեք ծնողական վերահսկողությունըԱյն սահմանափակում է առցանց ֆունկցիոնալությունը և ստուգում է կարգավորելի ֆիլտրերի և արգելափակումների ցուցակների առկայությունը։
• Ստուգեք թարմացումների և աջակցության առկայությունըՀաճախակի անվտանգության թարմացումներ և արտադրանքի կյանքի ցիկլի պարտավորություն։
• Վերահսկել օգտագործումըՍահմանեք ողջամիտ ժամանակային սահմանափակումներ և խոսեք երեխաների հետ այն մասին, թե ինչ անել տարօրինակ պատասխաններին ի պատասխան։
• Անջատեք միկրոֆոնը/տեսախցիկը երբ չեք օգտագործում և խուսափեք ավելորդ անձնական տվյալների հետ կապված հաշիվներից։

Ինչ սպասել կարճաժամկետ հեռանկարում

Եվրոպական կարգավորող խթանման և սպառողների ճնշման ներքո, ակնկալվում է, որ արտադրողները կներկայացնեն ավելի խիստ վերահսկողություն, աուդիտներ և թափանցիկություն առաջիկա թարմացումներում: Այնուամենայնիվ, CE նշումը և ապրանքանիշերը չեն փոխարինում ընտանիքի կողմից վերահսկողությանը կամ ապրանքի ամենօրյա քննադատական ​​գնահատմանը:

Այս թեստերի պատկերը նրբերանգային է. արհեստական ​​բանականությունը բացում է կրթական և խաղային հնարավորություններ, բայց այսօր այն համակեցություն ունի ֆիլտրման բացերը, տվյալների կասկածները և խոսակցական դիզայնի ռիսկերըՄինչև ոլորտը համաձայնեցնի նորարարությունն ու երաշխիքները, տեղեկացված գնումները, ուշադիր կարգավորումը և մեծահասակների հսկողությունը լավագույն անվտանգության ցանցն են։

Ալբերտո Նավարո

Ես տեխնոլոգիայի էնտուզիաստ եմ, ով իր «գիկ» հետաքրքրությունները վերածել է մասնագիտության։ Ես իմ կյանքի ավելի քան 10 տարին անցկացրել եմ՝ օգտագործելով նորագույն տեխնոլոգիաներ և զուտ հետաքրքրասիրությունից դրդված բոլոր տեսակի ծրագրերի հետ աշխատելիս: Այժմ ես մասնագիտացել եմ համակարգչային տեխնիկայի և տեսախաղերի մեջ։ Դա պայմանավորված է նրանով, որ ավելի քան 5 տարի ես գրում եմ տարբեր կայքերի համար տեխնոլոգիայի և վիդեոխաղերի վերաբերյալ՝ ստեղծելով հոդվածներ, որոնք փորձում են ձեզ տրամադրել ձեզ անհրաժեշտ տեղեկատվությունը բոլորին հասկանալի լեզվով:

Եթե ​​ունեք հարցեր, իմ գիտելիքները տատանվում են Windows օպերացիոն համակարգի հետ կապված ամեն ինչից, ինչպես նաև բջջային հեռախոսների համար նախատեսված Android-ից: Եվ իմ հանձնառությունն է ձեզ, ես միշտ պատրաստ եմ մի քանի րոպե ծախսել և օգնել ձեզ լուծել ցանկացած հարց, որը կարող եք ունենալ այս ինտերնետային աշխարհում: