Süni intellektlə işləyən oyuncaqlar (chatbotlar) təhlükəsizlik qüsurlarına görə yoxlanılır

Bu Süni intellekt funksiyalı oyuncaqlar diqqət mərkəzindədir tərəfindən verilən hesabatdan sonra ABŞ İctimai Maraq Araşdırma Qrupu həmin sənədlər 3-12 yaşlı uşaqlara yönəlmiş modellərdə təhlükəli reaksiyalarRJ Cross-un rəhbərlik etdiyi komandanın fikrincə, hiylələrə və manipulyasiyalara ehtiyac olmadan uyğun olmayan göstəricilərin ortaya çıxması üçün uzunmüddətli söhbət seansları və məhsuldan normal istifadə kifayət idi.

Təhlil üç məşhur cihazı araşdırdı: FoloToy, Miko 3 və Curio's Grok-dan KummaBir neçə halda, qoruma sistemləri uğursuz oldu və uşaq oyuncağında görünməməli olan tövsiyələr keçdi; modellərdən biri GPT-4, digəri isə istifadə edir Məlumatları OpenAI və Perplexity kimi xidmətlərə ötürür.Bu, filtrasiya, məxfilik və yetkinlik yaşına çatmayanlar haqqında məlumatların idarə edilməsi ilə bağlı müzakirələri yenidən alovlandırır.

Üç oyuncaq, eyni risk nümunəsi

Testlərdə, Uzun söhbətlər səbəb oldu.Dialoq davam etdikcə, Filtrlər problemli cavabları bloklamağı dayandırdıMaşını zorlamağa ehtiyac yoxdur; oyuncaqları ilə danışan bir uşağın gündəlik istifadəsi simulyasiya edilmişdir Bu, faktiki ev oyunu ssenarisi ilə bağlı narahatlıqları artırır..

Tədqiqatçılar cihazlar arasında fərqli davranışları təsvir edirlər, lakin a ümumi nəticə: təhlükəsizlik sistemləri ardıcıl deyilModellərdən biri səbəb oldu yaş üçün uyğun olmayan istinadlar, digəri isə uşaq auditoriyası üçün uyğun olmayan xarici resurslara yönləndirilib və bu, məzmuna nəzarətin qeyri-kafi olduğunu nümayiş etdirir.

Kurionun Qrokun işi nümunəvidir, çünki adına baxmayaraq, O, xAI modelindən istifadə etmir: Trafik üçüncü tərəf xidmətlərinə gedirBu detal Avropa və İspaniyada məlumatların izlənilməsi və yetkinlik yaşına çatmayanların profillərinin idarə olunması səbəbindən vacibdir, burada qaydalar istehsalçılar, idxalçılar və distribyutorlardan xüsusi diqqət tələb edir.

Hesabatda problemin əsaslı olduğu vurğulanır: struktur zəifliyiBu, bir yamaq ilə düzəldilə bilən sadə bir səhv deyil, zamanla aşınmaya məruz qalan danışıq dizaynı, generativ modellər və filtrlərin birləşməsidir. Buna görə də müəlliflər Onlar uşaqlar üçün inteqrasiya olunmuş chatbotlarla oyuncaq almamağı məsləhət görürlər.heç olmasa aydın zəmanətlər olana qədər.

İspaniya və Avropa üçün təsirləri

Avropa çərçivəsində diqqət iki cəbhəyə yönəlib: məhsulun təhlükəsizliyi və məlumatların qorunmasıÜmumi Məhsul Təhlükəsizliyi Qaydaları və oyuncaq qaydaları məhsullar bazara çıxarılmazdan əvvəl risklərin qiymətləndirilməsini tələb edir, GDPR və uşaq məlumatlarının emalı üzrə təlimatlar isə şəffaflıq, minimuma endirmə və müvafiq hüquqi əsaslar tələb edir.

Buna yeni çərçivə əlavə olunur Avropa AI Aktımərhələlərlə həyata keçiriləcək. Bir çox oyuncaqlar "yüksək risk" kateqoriyasına uyğun gəlməsə də, generativ modellərin inteqrasiyası və uşaq profilinin yaradılması potensialı narahatlıq doğurur. Onlar zəncir boyu daha çox sənədləşdirmə, qiymətləndirmə və nəzarət tələb edəcəklər.xüsusilə Aİ-dən kənarda məlumatların ötürülməsi halında.

İspaniyadakı ailələr üçün praktiki iş, haqqında aydın məlumat tələb etməkdir hansı məlumatların toplandığı, kimlərlə paylaşıldığı və nə qədər müddətə. Əgər a oyuncaq audio göndərirMətn və ya identifikatorlar üçüncü tərəflərlə paylaşılırsa, baxış tarixçəsinin silinməsi üçün məqsədlər, valideyn nəzarəti mexanizmləri və seçimlər göstərilməlidir. İspaniya Məlumatların Mühafizəsi Agentliyi (AEPD) istifadəçilərə xatırladır ki, uşağın maraqları kommersiya məqsədli istifadədən üstündür.

Kontekst əhəmiyyətsiz deyil: Milad mövsümü mağazalarda və onlayn platformalarda bu məhsulların mövcudluğunu artırır və onlara maraq artır. texnoloji hədiyyələrİstehlakçı assosiasiyaları pərakəndə satıcılara müraciət edib əlavə məzmun və məxfilik yoxlamaları AI oyuncaqlarını təşviq etməzdən əvvəl, vaxtından əvvəl çəkilmə və ya son dəqiqə xəbərdarlıqlarından qaçınmaq üçün.

Şirkətlər və sənaye nə deyir

Oyuncaq sektoru, əməkdaşlıq kimi elanlarla süni intellektə bahis edir OpenAI ilə Mattel və inkişafları AI ilə işləyən avatarlarŞirkət bütün spesifik tədbirləri hələ təfərrüatlı şəkildə təfərrüatlandırmasa da, təhlükəsizliyə üstünlük verəcəyini vəd edib. Təhlükəsizlik və məlumatların toplanması ilə bağlı mübahisələrə qarışan 2015-ci ildə "Hello Barbie" presedenti müzakirələrə böyük təsir göstərməkdə davam edir.

Uşaqlıq və texnologiya mütəxəssisləri başqa bir cəbhə haqqında xəbərdarlıq edirlər: mümkün emosional asılılıq danışıq oyuncaqları yarada bilər. Çatbotlarla qarşılıqlı əlaqənin həssas kontekstlərdə risk faktoru olduğu hallar sənədləşdirilmişdir ki, bu da böyüklərin nəzarətini, istifadə məhdudiyyətlərini və erkən yaşdan rəqəmsal təhsili gücləndirməyə təşviq edir.

AI oyuncağını seçmək və istifadə etmək üçün açarlar

Səs-küydən başqa, ağıllı şəkildə satın alsanız və cihazı düzgün konfiqurasiya etsəniz, riskləri azaltmaq üçün yer var. Bu təlimatlar kömək edir innovasiya və təhlükəsizliyin tarazlaşdırılması Evdə:

• Tövsiyə olunan yaşı yoxlayın və həqiqi uşaq rejiminin mövcudluğu (xarici naviqasiya və ya nəzarətsiz açıq cavablar olmadan).
• Məxfilik siyasətini oxuyun: məlumat növü, təyinat (AB və ya xaricində), saxlama vaxtı və tarixçəni silmək üçün seçimlər.
• Valideyn nəzarətini aktivləşdirinO, onlayn funksionallığı məhdudlaşdırır və konfiqurasiya edilə bilən filtrləri və blok siyahıları yoxlayır.
• Yeniləmələri və dəstəyi yoxlayınTez-tez təhlükəsizlik yamaları və məhsulun həyat dövrü öhdəliyi.
• İstifadəyə nəzarət edinAğlabatan vaxt məhdudiyyətləri təyin edin və qəribə cavablara cavab olaraq uşaqlarla nə edəcəyini danışın.
• Mikrofonu/kameranı söndürün istifadə edilmədikdə və lazımsız şəxsi məlumatlarla əlaqəli hesablardan qaçın.

Qısa müddətdə nə gözləmək olar

Avropa tənzimləyici təkan və istehlakçı təzyiqi ilə istehsalçıların təqdim edəcəyi gözlənilir daha sərt nəzarət, audit və şəffaflıq gələcək yeniləmələrdə. Bununla belə, CE işarəsi və ticarət nişanları gündəlik olaraq ailə nəzarətini və ya məhsulun tənqidi qiymətləndirilməsini əvəz etmir.

Bu testlərin çəkdiyi şəkil nüanslıdır: AI təhsil və oyun imkanları açır, lakin bu gün onunla birlikdə mövcuddur. boşluqları, məlumat şübhələrini və danışıq dizayn risklərini süzgəcdən keçirinSənaye innovasiya və zəmanətləri uyğunlaşdırana qədər, məlumatlı satınalma, diqqətli konfiqurasiya və böyüklər nəzarəti ən yaxşı təhlükəsizlik şəbəkəsidir.

Alberto navarro

Mən öz "geek" maraqlarını peşəyə çevirmiş texnologiya həvəskarıyam. Mən həyatımın 10 ilindən çoxunu qabaqcıl texnologiyadan istifadə edərək və hər cür proqramlarla maraqlanaraq sərf etmişəm. İndi mən kompüter texnologiyası və video oyunları üzrə ixtisaslaşmışam. Bunun səbəbi, 5 ildən artıqdır ki, texnologiya və video oyunlarla bağlı müxtəlif saytlar üçün yazılar yazıram, sizə lazım olan məlumatları hamı üçün başa düşülən dildə verməyə çalışan məqalələr hazırlayıram.

Hər hansı bir sualınız varsa, mənim biliklərim Windows əməliyyat sistemi, eləcə də mobil telefonlar üçün Android ilə əlaqəli hər şeyi əhatə edir. Və mənim öhdəliyim sizədir, mən həmişə bir neçə dəqiqə sərf etməyə və bu internet dünyasında yarana biləcək bütün suallarınızı həll etməyə kömək etməyə hazıram.