Jwèt ki mache ak entèlijans atifisyèl (chatbots) anba envestigasyon pou defo sekirite.

Nan Jwèt ki gen fonksyon entèlijans atifisyèl yo anba atansyon an apre yon rapò ki soti nan Gwoup Rechèch Enterè Piblik Etazini dokiman sa yo repons danjere nan modèl ki vize timoun ki gen laj 3 a 12 anDapre ekip RJ Cross la, sesyon konvèsasyon pwolonje ak itilizasyon nòmal pwodwi a te sifi pou endikasyon ki pa apwopriye parèt, san yo pa te bezwen trik oswa manipilasyon.

Analiz la te egzamine twa aparèy popilè: Kumma soti nan FoloToy, Miko 3 ak Grok CurioNan plizyè ka, sistèm pwoteksyon yo te echwe epi rekòmandasyon ki pa ta dwe parèt sou yon jwèt timoun te pase inapèsi; youn nan modèl yo itilize GPT-4 epi yon lòt Li transfere done bay sèvis tankou OpenAI ak Perplexity.Sa relanse deba a sou filtraj, vi prive, ak fason yo jere enfòmasyon sou minè.

Twa jwèt, menm modèl risk la

Nan tès yo, Long konvèsasyon yo te deklanchè a.Pandan dyalòg la t ap pwogrese, Filtè yo sispann bloke repons pwoblèmatik yoPa bezwen fòse machin nan; yo te simile itilizasyon chak jou yon timoun k ap pale ak jwèt li a, sa ki Sa ogmante enkyetid konsènan senaryo reyèl match lakay la..

Chèchè yo dekri konpòtman diferan ant aparèy yo, men avèk yon konklizyon komen: sistèm sekirite yo pa konsistanYoun nan modèl yo te bay nesans referans ki klèman pa apwopriye pou laj la, epi yon lòt te redireksyone sou resous ekstèn ki pa apwopriye pou yon odyans timoun, sa ki demontre yon kontwòl kontni ensifizan.

Ka Grok Curio a se yon egzanp klè paske, malgre non li, Li pa itilize modèl xAI a: Trafik la ale nan sèvis twazyèm pati yoDetay sa a enpòtan an Ewòp ak Espay akòz trasabilite done yo ak jesyon pwofil minè yo, kote règleman yo egzije dilijans espesyal nan men manifaktirè yo, enpòtatè yo ak distribitè yo.

Rapò a mete aksan sou pwoblèm nan fondamantal: yon vilnerabilite estriktirèlSe pa yon senp pwoblèm ou ka ranje ak yon sèl patch, men pito yon konbinezon konsepsyon konvèsasyon, modèl jeneratif, ak filtè ki diminye avèk tan. Se poutèt sa, otè yo Yo konseye pou pa achte jwèt ki gen chatbot entegre pou timoun yo.omwen jiskaske gen garanti klè.

Enplikasyon pou Espay ak Ewòp

Nan kad Ewopeyen an, atansyon an konsantre sou de aspè: sekirite pwodwi ak pwoteksyon doneRègleman Jeneral sou Sekirite Pwodwi a ak règleman sou jwèt yo egzije evalyasyon risk anvan pwodwi yo mete sou mache a, alòske GDPR a ak direktiv sou tretman done timoun yo egzije transparans, minimizasyon ak baz legal apwopriye.

Anplis de sa, gen nouvo kad la Lwa Ewopeyen sou Entèlijans Atifisyèlki pral deplwaye an faz. Malgre ke anpil jwèt pa antre nan kategori "gwo risk", entegrasyon modèl jeneratif yo ak potansyèl pou pwofilaj timoun yo se enkyetid. Y ap bezwen plis dokiman, evalyasyon, ak kontwòl nan tout chèn lan.sitou si gen yon transfè done deyò Inyon Ewopeyen an.

Pou fanmi an Espay, bagay pratik pou fè a se mande enfòmasyon klè sou ki done yo kolekte, ak ki moun yo pataje yo, e pou konbyen tan. Si yon jwèt la voye odyoSi yo pataje tèks oswa idantifikatè ak twazyèm pati, yo dwe espesifye objektif yo, mekanis kontwòl paran yo, ak opsyon pou efase istwa navigasyon an. Ajans Pwoteksyon Done Espayòl la (AEPD) raple itilizatè yo ke pi bon enterè timoun nan gen plis priyorite pase itilizasyon komèsyal yo.

Kontèks la pa neglijab: Sezon Nwèl la ogmante prezans pwodui sa yo nan magazen yo ak platfòm sou entènèt yo, epi enterè nan yo ap grandi. kado teknolojikAsosyasyon konsomatè yo ap mande détayan yo verifikasyon kontni siplemantè ak vi prive anvan yo fè pwomosyon pou jwèt ki gen IA, pou evite retrè sanzatann oswa avètisman dènye minit.

Sa konpayi yo ak endistri a ap di

Sektè jwèt la ap parye sou IA, ak anons tankou kolaborasyon ant Mattel ak OpenAI ak devlopman nan Avatar ki mache ak IAKonpayi an te pwomèt pou l bay sekirite priyorite, byenke li poko bay detay sou tout mezi espesifik yo. Presedan Hello Barbie an 2015 la, ki te mele nan yon gwo konfli sou sekirite ak koleksyon done, kontinye peze anpil sou deba a.

Ekspè nan anfans ak teknoloji avèti sou yon lòt fwon: posib depandans emosyonèl ki ka jenere jwèt konvèsasyon. Yo dokimante ka kote entèraksyon avèk chatbots te yon faktè risk nan kontèks sansib, sa ki ankouraje ranfòsman sipèvizyon granmoun, limit itilizasyon, ak edikasyon dijital depi yon laj byen bonè.

Kle pou chwazi epi itilize yon jwèt IA

Anplis bri a, gen plas pou diminye risk si ou achte avèk sajès epi ou konfigire aparèy la byen. Gid sa yo ede w balanse inovasyon ak sekirite Nan kay la:

• Tcheke laj rekòmande a epi ke gen yon vrè mòd timoun (san navigasyon ekstèn oswa repons ouvè san kontwòl).
• Li règleman sou enfòmasyon prive yo: kalite done, destinasyon (Inyon Ewopeyen oswa deyò), tan retansyon ak opsyon pou efase istwa.
• Aktive kontwòl paranLi limite fonksyonalite sou entènèt epi li tcheke pou filtè konfigirasyon ak lis blòk.
• Tcheke pou mizajou ak sipòPatch sekirite souvan ak angajman pou tout sik lavi pwodwi a.
• Siveye itilizasyonFikse limit tan rezonab epi pale ak timoun yo sou sa pou yo fè an repons a repons dwòl.
• Etenn mikwofòn/kamera a lè w pa ap itilize li epi evite kont ki lye ak done pèsonèl ki pa nesesè.

Kisa pou atann nan kout tèm

Avèk ogmantasyon regilasyon Ewopeyen an ak presyon konsomatè yo, yo prevwa ke manifaktirè yo pral prezante kontwòl, odit ak transparans ki pi strik nan pwochen mizajou yo. Menm si sa, mak CE ak mak komèsyal yo pa ranplase sipèvizyon familyal oswa evalyasyon kritik pwodwi a chak jou.

Tès sa yo pentire imaj la gen plizyè sibtilite: IA ouvè posiblite edikasyonèl ak lwe, men jodi a li koegziste avèk filtraj twou vid, dout sou done, ak risk konsepsyon konvèsasyonJiskaske endistri a mete inovasyon ak garanti sou menm liy, acha enfòme, konfigirasyon atansyon, ak sipèvizyon granmoun se pi bon filet sekirite a.