ხელოვნური ინტელექტით მომუშავე სათამაშოები (ჩატბოტები) უსაფრთხოების ხარვეზების გამო შემოწმების ქვეშ არიან

L ხელოვნური ინტელექტის ფუნქციების მქონე სათამაშოები ყურადღების ცენტრშია ანგარიშის შემდეგ აშშ-ის საზოგადოებრივი ინტერესების კვლევის ჯგუფი ეს დოკუმენტები სახიფათო რეაქციები 3-დან 12 წლამდე ასაკის ბავშვებისთვის განკუთვნილ მოდელებშირ. ჯ. კროსის ხელმძღვანელობით გუნდის თქმით, ხანგრძლივი საუბრები და პროდუქტის ნორმალური გამოყენება საკმარისი იყო შეუსაბამო ჩვენებების გამოსავლენად, ხრიკების ან მანიპულაციების საჭიროების გარეშე.

ანალიზმა შეისწავლა სამი პოპულარული მოწყობილობა: Kumma საწყისი FoloToy, Miko 3 და Curio's Grokრამდენიმე შემთხვევაში, დაცვის სისტემები გაფუჭდა და გამორჩა რეკომენდაციები, რომლებიც ბავშვის სათამაშოზე არ უნდა ყოფილიყო; ერთ-ერთი მოდელი იყენებს GPT-4-ს, მეორე კი... ის მონაცემებს გადასცემს ისეთ სერვისებს, როგორიცაა OpenAI და Perplexity.ეს ხელახლა აღვივებს დებატებს ფილტრაციის, კონფიდენციალურობისა და არასრულწლოვანთა შესახებ ინფორმაციის დამუშავების შესახებ.

სამი სათამაშო, ერთი და იგივე რისკის ნიმუში

ტესტებში, ხანგრძლივი საუბრები გახდა მიზეზი.დიალოგის განვითარებასთან ერთად, ფილტრებმა შეწყვიტეს პრობლემური პასუხების დაბლოკვამანქანის ძალით დაჭერა საჭირო არ იყო; ბავშვის ყოველდღიური სათამაშოსთან საუბრის სიმულირება მოხდა, რაც ეს ზრდის შეშფოთებას საშინაო თამაშის სცენართან დაკავშირებით..

მკვლევარები აღწერენ მოწყობილობებს შორის განსხვავებულ ქცევებს, მაგრამ საერთო დასკვნა: უსაფრთხოების სისტემები არ არის თანმიმდევრულიერთ-ერთმა მოდელმა გამოიწვია ასაკისთვის აშკარად შეუსაბამო ცნობები, ხოლო კიდევ ერთი გადამისამართებული იყო გარე რესურსებზე, რომლებიც არ იყო შესაფერისი ბავშვთა აუდიტორიისთვის, რაც არასაკმარისი კონტენტის კონტროლის დემონსტრირებას ახდენდა.

Curio's Grok-ის შემთხვევა საილუსტრაციოა, რადგან მისი სახელის მიუხედავად, ის არ იყენებს xAI მოდელს: ტრაფიკი მესამე მხარის სერვისებზე მიდისეს დეტალი მნიშვნელოვანია ევროპასა და ესპანეთში მონაცემთა მიკვლევადობისა და არასრულწლოვანთა პროფილების მართვის გამო, სადაც რეგულაციები მწარმოებლების, იმპორტიორებისა და დისტრიბუტორების მხრიდან განსაკუთრებულ გულმოდგინებას მოითხოვს.

ანგარიშში ხაზგასმულია, რომ პრობლემა ფუნდამენტურია: სტრუქტურული დაუცველობაეს არ არის მარტივი შეცდომა, რომლის გამოსწორებაც ერთი პატჩით შეიძლება, არამედ ეს არის სასაუბრო დიზაინის, გენერაციული მოდელებისა და ფილტრების კომბინაცია, რომელიც დროთა განმავლობაში იშლება. ამიტომ, ავტორები ისინი გვირჩევენ, ბავშვებისთვის ინტეგრირებული ჩატბოტებით აღჭურვილი სათამაშოები არ შევიძინოთ.ყოველ შემთხვევაში, სანამ არ იქნება მკაფიო გარანტიები.

შედეგები ესპანეთისა და ევროპისთვის

ევროპულ ჩარჩოებში ყურადღება ორ ფრონტზეა გამახვილებული: პროდუქტის უსაფრთხოება და მონაცემთა დაცვაპროდუქტის უსაფრთხოების ზოგადი რეგულაცია და სათამაშოების რეგულაციები მოითხოვს რისკის შეფასებას პროდუქციის ბაზარზე განთავსებამდე, ხოლო GDPR და ბავშვთა მონაცემების დამუშავების სახელმძღვანელო პრინციპები მოითხოვს გამჭვირვალობას, მინიმიზაციას და შესაბამის სამართლებრივ საფუძვლებს.

ამას ემატება ახალი ჩარჩო, ევროპული ხელოვნური ინტელექტის აქტირომელიც ეტაპობრივად დაინერგება. მიუხედავად იმისა, რომ ბევრი სათამაშო არ ჯდება „მაღალი რისკის“ კატეგორიაში, გენერაციული მოდელების ინტეგრაცია და ბავშვის პროფილირების პოტენციალი შეშფოთების საგანია. მათ დასჭირდებათ მეტი დოკუმენტაცია, შეფასება და კონტროლი მთელ ჯაჭვში.განსაკუთრებით მაშინ, თუ მონაცემთა გადაცემა ხდება ევროკავშირის ფარგლებს გარეთ.

ესპანეთში მცხოვრები ოჯახებისთვის პრაქტიკულია მოითხოვონ მკაფიო ინფორმაცია... რა მონაცემები გროვდება, ვისთან გაზიარდება და რამდენი ხნით. თუ ა სათამაშო აგზავნის ხმასთუ ტექსტი ან იდენტიფიკატორები გაზიარებულია მესამე მხარეებთან, უნდა იყოს მითითებული დათვალიერების ისტორიის წაშლის მიზნები, მშობლის კონტროლის მექანიზმები და ვარიანტები. ესპანეთის მონაცემთა დაცვის სააგენტო (AEPD) მომხმარებლებს ახსენებს, რომ ბავშვის ინტერესები კომერციულ გამოყენებაზე მაღლა დგას.

კონტექსტი უმნიშვნელო არ არის: საშობაო სეზონი ზრდის ამ პროდუქტების არსებობას მაღაზიებსა და ონლაინ პლატფორმებზე და მათ მიმართ ინტერესი იზრდება. ტექნოლოგიური საჩუქრებიმომხმარებელთა ასოციაციებმა საცალო ვაჭრობის წარმომადგენლებს მიმართეს დამატებითი კონტენტისა და კონფიდენციალურობის შემოწმებები ხელოვნური ინტელექტის სათამაშოების პოპულარიზაციამდე, რათა თავიდან აიცილოთ თანხის დროულად გატანა ან ბოლო წუთის გაფრთხილებები.

რას ამბობენ კომპანიები და ინდუსტრია

სათამაშოების სექტორი ფსონს ხელოვნურ ინტელექტზე დებს, ისეთი განცხადებებით, როგორიცაა თანამშრომლობა Mattel OpenAI-თან ერთად და განვითარებები ხელოვნური ინტელექტით მართული ავატარებიკომპანიამ უსაფრთხოების პრიორიტეტულობის მინიჭების პირობა დადო, თუმცა ყველა კონკრეტული ზომა ჯერ არ დაუზუსტებია. 2015 წელს „გამარჯობა ბარბის“ პრეცედენტი, რომელიც უსაფრთხოებისა და მონაცემთა შეგროვების საკითხებთან დაკავშირებით დავაში იყო ჩართული, კვლავ მნიშვნელოვან როლს თამაშობს დებატებში.

ბავშვობისა და ტექნოლოგიების ექსპერტები კიდევ ერთი ფრონტის შესახებ აფრთხილებენ: შესაძლო ემოციური დამოკიდებულება რომლებსაც შეუძლიათ სასაუბრო სათამაშოების გენერირება. დოკუმენტირებულია შემთხვევები, როდესაც ჩატბოტებთან ურთიერთქმედება მგრძნობიარე კონტექსტებში რისკ-ფაქტორი იყო, რაც ხელს უწყობს ზრდასრულთა ზედამხედველობის გაძლიერებას, გამოყენების შეზღუდვებს და ციფრულ განათლებას ადრეული ასაკიდანვე.

ხელოვნური ინტელექტის სათამაშოს არჩევისა და გამოყენების გასაღებები

ხმაურის გარდა, რისკების შემცირების შესაძლებლობა არსებობს, თუ გონივრულად შეიძენთ და მოწყობილობას სწორად დააკონფიგურირებთ. ეს ინსტრუქციები დაგეხმარებათ ინოვაციისა და უსაფრთხოების დაბალანსება სახლში:

• შეამოწმეთ რეკომენდებული ასაკი და რომ არსებობს რეალური ბავშვის რეჟიმი (გარე ნავიგაციის ან უკონტროლო ღია პასუხების გარეშე).
• წაიკითხეთ კონფიდენციალურობის პოლიტიკა: მონაცემთა ტიპი, დანიშნულების ადგილი (ევროკავშირი თუ მის ფარგლებს გარეთ), შენახვის დრო და ისტორიის წაშლის ვარიანტები.
• გააქტიურეთ მშობლის კონტროლიის ზღუდავს ონლაინ ფუნქციონირებას და ამოწმებს კონფიგურირებად ფილტრებსა და ბლოკის სიებს.
• შეამოწმეთ განახლებები და მხარდაჭერახშირი უსაფრთხოების პატჩები და პროდუქტის სასიცოცხლო ციკლის ვალდებულება.
• გამოყენების მონიტორინგიდააწესეთ გონივრული ვადები და ესაუბრეთ ბავშვებს, თუ რა უნდა გააკეთონ უცნაურ პასუხებზე.
• მიკროფონის/კამერის გამორთვა როდესაც არ იყენებთ და მოერიდეთ არასაჭირო პერსონალურ მონაცემებთან დაკავშირებულ ანგარიშებს.

რას უნდა ველოდოთ მოკლევადიან პერსპექტივაში

ევროპული მარეგულირებელი ორგანოების იმპულსით და მომხმარებლების ზეწოლით, მოსალოდნელია, რომ მწარმოებლები დანერგავენ უფრო მკაცრი კონტროლი, აუდიტი და გამჭვირვალობა მომავალ განახლებებში. მიუხედავად ამისა, CE მარკირება და სავაჭრო ნიშნები არ ცვლის ოჯახის ზედამხედველობას ან პროდუქტის კრიტიკულ შეფასებას ყოველდღიურად.

ამ ტესტებით შექმნილი სურათი ნიუანსირებულია: ხელოვნური ინტელექტი საგანმანათლებლო და სათამაშო შესაძლებლობებს ხსნის, მაგრამ დღეს ის თანაარსებობს ფილტრაციის ხარვეზები, მონაცემებთან დაკავშირებული ეჭვები და სასაუბრო დიზაინის რისკებისანამ ინდუსტრია ინოვაციასა და გარანტიებს არ შეუსაბამებს, ინფორმირებული შესყიდვები, ფრთხილად კონფიგურაცია და ზრდასრულის ზედამხედველობა საუკეთესო უსაფრთხოების ბადეა.

ალბერტო ნავარო

მე ვარ ტექნოლოგიების ენთუზიასტი, რომელმაც თავისი „გიკის“ ინტერესები პროფესიად აქცია. ჩემი ცხოვრების 10 წელზე მეტი გავატარე უახლესი ტექნოლოგიის გამოყენებით და ყველა სახის პროგრამაში სუფთა ცნობისმოყვარეობის გამო. ახლა სპეციალიზირებული ვარ კომპიუტერულ ტექნოლოგიებსა და ვიდეო თამაშებში. ეს იმიტომ ხდება, რომ 5 წელზე მეტია ვწერ ტექნოლოგიებისა და ვიდეო თამაშების სხვადასხვა ვებსაიტებზე, ვქმნი სტატიებს, რომლებიც ცდილობენ მოგაწოდოთ თქვენთვის საჭირო ინფორმაცია ყველასთვის გასაგებ ენაზე.

თუ თქვენ გაქვთ რაიმე შეკითხვები, ჩემი ცოდნა მერყეობს Windows ოპერაციულ სისტემასთან და ასევე Android-თან დაკავშირებულ ყველაფერზე მობილური ტელეფონებისთვის. და ჩემი ვალდებულება არის თქვენ მიმართ, მე ყოველთვის მზად ვარ გავატარო რამდენიმე წუთი და დაგეხმაროთ გადაჭრას ნებისმიერი შეკითხვა, რომელიც შეიძლება გქონდეთ ამ ინტერნეტ სამყაროში.