Awọn nkan isere ti o ni agbara AI (chatbots) labẹ ayewo fun awọn abawọn aabo

Los Awọn nkan isere ti o ni awọn iṣẹ itetisi atọwọda wa ni ayanmọ wọnyi a Iroyin lati US Public Interest Research Group awọn iwe aṣẹ awọn idahun ti o lewu ni awọn awoṣe ti a pinnu si awọn ọmọde ti o wa ni ọdun 3 si 12Gẹgẹbi ẹgbẹ ti o ṣakoso nipasẹ RJ Cross, awọn akoko ibaraẹnisọrọ gigun ati lilo ọja deede jẹ to fun awọn itọkasi ti ko yẹ lati farahan, laisi iwulo fun awọn ẹtan tabi ifọwọyi.

Onínọmbà ṣe ayẹwo awọn ẹrọ olokiki mẹta: Kumma lati FoloToy, Miko 3 ati Curio's GrokNi awọn igba pupọ, awọn eto aabo kuna ati awọn iṣeduro ti ko yẹ ki o han lori ohun-iṣere ọmọde ti yọ nipasẹ; ọkan ninu awọn awoṣe nlo GPT-4 ati omiiran O n gbe data lọ si awọn iṣẹ bii OpenAI ati Perplexity.Eyi ṣe ijọba ariyanjiyan lori sisẹ, aṣiri, ati mimu alaye nipa awọn ọdọ.

Awọn nkan isere mẹta, apẹrẹ eewu kanna

Ninu awọn idanwo, Awọn ibaraẹnisọrọ gigun jẹ okunfa.Bi ijiroro naa ti nlọsiwaju, Awọn asẹ duro dinamọ awọn idahun iṣoroKo si ye lati fi agbara mu ẹrọ naa; lilo lojoojumọ ti ọmọde sọrọ si isere wọn jẹ afarawe, eyiti Eleyi mu awọn ifiyesi nipa awọn gangan ile game ohn..

Awọn oniwadi ṣe apejuwe awọn ihuwasi iyatọ laarin awọn ẹrọ, ṣugbọn pẹlu a wọpọ ipari: aabo awọn ọna šiše ni o wa ko ni ibamuỌkan ninu awọn awoṣe fun dide awọn itọkasi kedere ko yẹ fun ọjọ ori, ati omiiran ti a darí si awọn orisun ita ko yẹ fun awọn olugbo ọmọde, ti n ṣe afihan iṣakoso akoonu ti ko to.

Ọran ti Curio's Grok jẹ apejuwe nitori, laibikita orukọ rẹ, Ko lo awoṣe xAI: Awọn ijabọ lọ si awọn iṣẹ ẹnikẹtaAlaye yii ṣe pataki ni Yuroopu ati Spain nitori wiwa kakiri data ati iṣakoso awọn profaili awọn ọmọde, nibiti awọn ilana nilo aisimi pataki lati ọdọ awọn aṣelọpọ, awọn agbewọle, ati awọn olupin kaakiri.

Ijabọ naa tẹnumọ pe iṣoro naa jẹ ipilẹ: a palara igbekaleKii ṣe kokoro ti o rọrun ti o le ṣe atunṣe pẹlu alemo ẹyọkan, ṣugbọn dipo apapọ apẹrẹ ibaraẹnisọrọ, awọn awoṣe ipilẹṣẹ, ati awọn asẹ ti o bajẹ lori akoko. Nitorina, awọn onkọwe Wọn ni imọran lodi si rira awọn nkan isere pẹlu iṣọpọ iwiregbe fun awọn ọmọde.ni o kere titi ti o wa ni ko o lopolopo.

Awọn ipa fun Spain ati Yuroopu

Laarin ilana European, idojukọ jẹ lori awọn iwaju meji: ọja ailewu ati data IdaaboboOfin Aabo Ọja Gbogbogbo ati awọn ilana isere nilo iṣiro eewu ṣaaju ki o to gbe awọn ọja sori ọja, lakoko ti GDPR ati awọn itọnisọna lori sisẹ data awọn ọmọde nilo akoyawo, idinku ati awọn ipilẹ ofin ti o yẹ.

Fi kun si yi ni titun ilana ti awọn European AI Ìṣiròeyi ti yoo wa ni ti yiyi ni awọn ipele. Botilẹjẹpe ọpọlọpọ awọn nkan isere ko baamu ẹka “ewu giga”, iṣọpọ ti awọn awoṣe ipilẹṣẹ ati agbara fun sisọ awọn ọmọde jẹ awọn ifiyesi. Wọn yoo nilo iwe diẹ sii, awọn igbelewọn, ati awọn idari jakejado pq.Paapa ti o ba wa ni gbigbe data ni ita EU.

Fun awọn idile ni Ilu Sipeeni, ohun iwulo lati ṣe ni lati beere alaye ti o ye nipa kini data ti a gba, pẹlu ẹniti o pin, ati fun igba melo. Ti o ba ti a isere rán iweTi ọrọ tabi awọn idamo ba pin pẹlu awọn ẹgbẹ kẹta, awọn idi, awọn ilana iṣakoso obi, ati awọn aṣayan fun piparẹ itan lilọ kiri ayelujara gbọdọ wa ni pato. Ile-iṣẹ Idaabobo Data ti Ilu Sipeeni (AEPD) leti awọn olumulo pe awọn iwulo ti o dara julọ ti ọmọ ni iṣaaju ju awọn lilo iṣowo lọ.

Ọrọ-ọrọ ko ṣe pataki: Akoko Keresimesi pọ si wiwa awọn ọja wọnyi ni awọn ile itaja ati awọn iru ẹrọ ori ayelujara, ati iwulo ninu wọn dagba. tekinoloji ebunAwọn ẹgbẹ onibara ti n beere lọwọ awọn alatuta akoonu afikun ati awọn sọwedowo asiri ṣaaju igbega awọn nkan isere AI, lati yago fun yiyọkuro airotẹlẹ tabi awọn ikilọ iṣẹju to kẹhin.

Kini awọn ile-iṣẹ ati ile-iṣẹ n sọ

Ẹka isere n tẹtẹ lori AI, pẹlu awọn ikede bii ifowosowopo ti Mattel pẹlu OpenAI ati awọn idagbasoke ti AI-agbara avatarsIle-iṣẹ naa ti ṣe ileri lati ṣe pataki aabo, botilẹjẹpe ko ti ṣe alaye gbogbo awọn igbese kan pato. Ilana ti Hello Barbie ni ọdun 2015, ti o ni ariyanjiyan lori ailewu ati gbigba data, tẹsiwaju lati ṣe iwọn pupọ lori ariyanjiyan naa.

Awọn amoye ọmọde ati imọ-ẹrọ kilo ti iwaju miiran: ṣee ṣe imolara gbára ti o le ṣe ina awọn nkan isere ibaraẹnisọrọ. Awọn ọran ti ni akọsilẹ nibiti ibaraenisepo pẹlu chatbots jẹ ifosiwewe eewu ni awọn ipo ifura, eyiti o ṣe iwuri fun abojuto abojuto agbalagba lagbara, awọn opin lilo, ati eto ẹkọ oni-nọmba lati ọjọ-ori.

Awọn bọtini si yiyan ati lilo ohun isere AI

Ni ikọja ariwo, aye wa lati dinku awọn ewu ti o ba ra ọgbọn ati tunto ẹrọ naa daradara. Awọn itọnisọna wọnyi ṣe iranlọwọ lati iwontunwosi ĭdàsĭlẹ ati ailewu Ninu ile:

• Ṣayẹwo ọjọ ori ti a ṣe iṣeduro ati pe ipo ọmọ gidi wa (laisi lilọ kiri ita tabi awọn idahun ṣiṣi ti iṣakoso).
• Ka ìlànà ìpamọ́: data iru, nlo (EU tabi ita), idaduro akoko ati awọn aṣayan lati pa itan.
• Mu iṣakoso obi ṣiṣẹO ṣe opin iṣẹ ṣiṣe lori ayelujara ati awọn sọwedowo fun awọn asẹ atunto ati awọn blocklists.
• Ṣayẹwo fun awọn imudojuiwọn ati atilẹyinAwọn abulẹ aabo loorekoore ati ifaramo igbesi aye ọja.
• Atẹle liloṢeto awọn opin akoko ti o bọgbọnwa ki o si ba awọn ọmọde sọrọ nipa kini lati ṣe ni idahun si awọn idahun ajeji.
• Pa gbohungbohun/kamẹra nigbati o ko ba wa ni lilo ati yago fun awọn akọọlẹ ti o sopọ pẹlu data ti ara ẹni ti ko wulo.

Kini lati reti ni igba kukuru

Pẹlu iwuri ilana European ati titẹ olumulo, o nireti pe awọn aṣelọpọ yoo ṣafihan stricter idari, audits ati akoyawo ni ìṣe awọn imudojuiwọn. Paapaa nitorinaa, aami CE ati aami-iṣowo ko rọpo abojuto idile tabi igbelewọn to ṣe pataki ti ọja ni ipilẹ ojoojumọ.

Aworan ti awọn idanwo wọnyi kun jẹ nuanced: AI ṣii eto ẹkọ ati awọn aye iṣere, ṣugbọn loni o wa pẹlu sisẹ awọn ela, awọn ṣiyemeji data, ati awọn ewu apẹrẹ ibaraẹnisọrọTiti ti ile-iṣẹ naa yoo ṣe deede tuntun ati awọn iṣeduro, rira alaye, iṣeto iṣọra, ati abojuto agbalagba jẹ apapọ aabo to dara julọ.