Teganau sy'n cael eu pweru gan AI (chatbots) dan graffu am ddiffygion diogelwch

Y Mae teganau â swyddogaethau deallusrwydd artiffisial yn cael sylw yn dilyn adroddiad gan Grŵp Ymchwil Buddiant Cyhoeddus yr Unol Daleithiau y dogfennau hynny ymatebion peryglus mewn modelau sydd wedi'u hanelu at blant 3 i 12 oedYn ôl y tîm dan arweiniad RJ Cross, roedd sesiynau sgwrsio hirfaith a defnydd arferol o'r cynnyrch yn ddigon i arwyddion amhriodol ddod i'r amlwg, heb yr angen am driciau na thrin.

Archwiliodd y dadansoddiad dri dyfais boblogaidd: Kumma o FoloToy, Miko 3 a Curio's GrokMewn sawl achos, methodd y systemau amddiffyn a llithrodd argymhellion na ddylent ymddangos ar degan plant drwodd; mae un o'r modelau'n defnyddio GPT-4 ac un arall Mae'n trosglwyddo data i wasanaethau fel OpenAI a Perplexity.Mae hyn yn ailgynnau'r ddadl ar hidlo, preifatrwydd, a thrin gwybodaeth am blant dan oed.

Tri thegan, yr un patrwm risg

Mewn profion, Y sgyrsiau hir oedd y sbardun.Wrth i'r ddeialog fynd yn ei blaen, Mae'r hidlwyr wedi rhoi'r gorau i rwystro ymatebion problemusDim angen gorfodi'r peiriant; efelychwyd defnydd bob dydd plentyn yn siarad â'i degan, a oedd Mae hyn yn cynyddu pryderon ynghylch senario gwirioneddol y gêm gartref..

Mae'r ymchwilwyr yn disgrifio ymddygiadau gwahanol rhwng dyfeisiau, ond gyda casgliad cyffredin: nid yw systemau diogelwch yn gysonRhoddodd un o'r modelau arweiniad at cyfeiriadau sy'n amlwg yn amhriodol ar gyfer yr oedran, ac un arall wedi'i ailgyfeirio at adnoddau allanol nad ydynt yn briodol ar gyfer cynulleidfa blant, gan ddangos rheolaeth annigonol dros gynnwys.

Mae achos Curio's Grok yn ddarluniadol oherwydd, er gwaethaf ei enw, Nid yw'n defnyddio'r model xAI: Mae'r traffig yn mynd i wasanaethau trydydd partiMae'r manylyn hwn yn bwysig yn Ewrop a Sbaen oherwydd olrheinedd data a rheoli proffiliau plant dan oed, lle mae rheoliadau'n gofyn am ddiwydrwydd arbennig gan weithgynhyrchwyr, mewnforwyr a dosbarthwyr.

Mae'r adroddiad yn pwysleisio bod y broblem yn sylfaenol: bregusrwydd strwythurolNid nam syml y gellir ei drwsio gydag un clwt mohono, ond yn hytrach cyfuniad o ddylunio sgwrsiol, modelau cynhyrchiol, a hidlwyr sy'n erydu dros amser. Felly, mae'r awduron Maen nhw'n cynghori yn erbyn prynu teganau gyda chatbots integredig ar gyfer plant.o leiaf nes bod gwarantau clir.

Goblygiadau i Sbaen ac Ewrop

O fewn fframwaith Ewropeaidd, mae'r ffocws ar ddau ffrynt: diogelwch cynnyrch a diogelu dataMae'r Rheoliad Diogelwch Cynnyrch Cyffredinol a rheoliadau teganau yn ei gwneud yn ofynnol i asesu risg gael ei wneud cyn rhoi cynhyrchion ar y farchnad, tra bod y GDPR a chanllawiau ar brosesu data plant yn ei gwneud yn ofynnol i dryloywder, lleihau a seiliau cyfreithiol priodol gael eu cynnal.

Yn ychwanegol at hyn mae fframwaith newydd y Deddf Ewropeaidd artiffisiala fydd yn cael ei gyflwyno fesul cam. Er nad yw llawer o deganau'n ffitio'r categori "risg uchel", mae integreiddio modelau cynhyrchiol a'r potensial ar gyfer proffilio plant yn bryderon. Byddant angen mwy o ddogfennaeth, asesiadau a rheolaethau drwy gydol y gadwyn.yn enwedig os oes trosglwyddo data y tu allan i'r UE.

I deuluoedd yn Sbaen, y peth ymarferol i'w wneud yw mynnu gwybodaeth glir am pa ddata sy'n cael ei gasglu, gyda phwy y caiff ei rannu, ac am ba hyd. Os a tegan yn anfon sainOs caiff testun neu ddynodwyr eu rhannu â thrydydd partïon, rhaid nodi'r dibenion, y mecanweithiau rheoli rhieni, a'r opsiynau ar gyfer dileu hanes pori. Mae Asiantaeth Diogelu Data Sbaen (AEPD) yn atgoffa defnyddwyr bod buddiannau gorau'r plentyn yn cael blaenoriaeth dros ddefnyddiau masnachol.

Nid yw'r cyd-destun yn ddibwys: Mae tymor y Nadolig yn cynyddu presenoldeb y cynhyrchion hyn mewn siopau a llwyfannau ar-lein, ac mae diddordeb ynddynt yn tyfu. rhoddion technolegolMae cymdeithasau defnyddwyr wedi bod yn gofyn i fanwerthwyr gwiriadau cynnwys a phreifatrwydd ychwanegol cyn hyrwyddo teganau AI, er mwyn osgoi tynnu'n ôl yn annhymig neu rybuddion munud olaf.

Yr hyn y mae cwmnïau a'r diwydiant yn ei ddweud

Mae'r sector teganau yn betio ar AI, gyda chyhoeddiadau fel cydweithrediad Mattel gydag OpenAI a datblygiadau o avatars wedi'u pweru gan AIMae'r cwmni wedi addo blaenoriaethu diogelwch, er nad yw wedi manylu ar yr holl fesurau penodol eto. Mae cynsail Hello Barbie yn 2015, a oedd yn destun dadl ynghylch diogelwch a chasglu data, yn parhau i bwyso'n drwm ar y ddadl.

Mae arbenigwyr plentyndod a thechnoleg yn rhybuddio am ffrynt arall: dibyniaeth emosiynol bosibl a all gynhyrchu teganau sgwrsio. Mae achosion wedi'u dogfennu lle roedd rhyngweithio â robotiaid sgwrsio yn ffactor risg mewn cyd-destunau sensitif, sy'n annog cryfhau goruchwyliaeth oedolion, terfynau defnydd ac addysg ddigidol o oedran cynnar.

Allweddi i ddewis a defnyddio tegan AI

Y tu hwnt i'r sŵn, mae lle i leihau risgiau os ydych chi'n prynu'n ddoeth ac yn ffurfweddu'r ddyfais yn iawn. Mae'r canllawiau hyn yn helpu i cydbwyso arloesedd a diogelwch Yn y cartref:

• Gwiriwch yr oedran a argymhellir a bod modd plentyn go iawn (heb lywio allanol nac ymatebion agored heb eu rheoli).
• Darllenwch y polisi preifatrwydd: math o ddata, cyrchfan (yr UE neu'r tu allan), amser cadw ac opsiynau i ddileu hanes.
• Ysgogi rheolaeth rhieniMae'n cyfyngu ar ymarferoldeb ar-lein ac yn gwirio am hidlwyr a rhestrau blocio y gellir eu ffurfweddu.
• Chwiliwch am ddiweddariadau a chymorthClytiau diogelwch mynych ac ymrwymiad cylch oes cynnyrch.
• Monitro defnyddGosodwch derfynau amser rhesymol a siaradwch â'r plant am beth i'w wneud mewn ymateb i atebion rhyfedd.
• Diffoddwch y meicroffon/camera pan nad ydynt yn cael eu defnyddio ac osgoi cyfrifon sy'n gysylltiedig â data personol diangen.

Beth i'w ddisgwyl yn y tymor byr

Gyda symbyliad rheoleiddio Ewropeaidd a phwysau gan ddefnyddwyr, disgwylir y bydd gweithgynhyrchwyr yn cyflwyno, rheolaethau, archwiliadau a thryloywder mwy llym mewn diweddariadau sydd ar ddod. Er hynny, nid yw marcio CE a nodau masnach yn disodli goruchwyliaeth deuluol na gwerthusiad beirniadol o'r cynnyrch yn ddyddiol.

Mae'r darlun mae'r profion hyn yn ei baentio yn gymhleth: mae deallusrwydd artiffisial yn agor posibiliadau addysgol a chwarae, ond heddiw mae'n cydfodoli â hidlo bylchau, amheuon data, a risgiau dylunio sgwrsiolNes bod y diwydiant yn alinio arloesedd a gwarantau, prynu gwybodus, ffurfweddu gofalus, a goruchwyliaeth oedolion yw'r rhwyd ​​​​ddiogelwch orau.