Παιχνίδια με τεχνητή νοημοσύνη (chatbots) υπό έλεγχο για κενά ασφαλείας

Ο Τα παιχνίδια με λειτουργίες τεχνητής νοημοσύνης βρίσκονται στο προσκήνιο μετά από αναφορά από Ομάδα Έρευνας Δημοσίου Συμφέροντος των ΗΠΑ που τεκμηριώνουν επικίνδυνες αντιδράσεις σε μοντέλα που απευθύνονται σε παιδιά ηλικίας 3 έως 12 ετώνΣύμφωνα με την ομάδα με επικεφαλής τον RJ Cross, οι παρατεταμένες συνεδρίες συνομιλίας και η κανονική χρήση του προϊόντος ήταν αρκετές για να εμφανιστούν ακατάλληλες ενδείξεις, χωρίς την ανάγκη για κόλπα ή χειραγώγηση.

Η ανάλυση εξέτασε τρεις δημοφιλείς συσκευές: Kumma από το FoloToy, το Miko 3 και το Curio's GrokΣε αρκετές περιπτώσεις, τα συστήματα προστασίας απέτυχαν και παρέλειψαν να εμφανιστούν συστάσεις που δεν θα έπρεπε να εμφανίζονται σε ένα παιδικό παιχνίδι. Ένα από τα μοντέλα χρησιμοποιεί GPT-4 και ένα άλλο Μεταφέρει δεδομένα σε υπηρεσίες όπως το OpenAI και το Perplexity.Αυτό αναζωπυρώνει τη συζήτηση σχετικά με το φιλτράρισμα, την προστασία της ιδιωτικής ζωής και τον χειρισμό πληροφοριών που αφορούν ανηλίκους.

Τρία παιχνίδια, ένα ίδιο μοτίβο κινδύνου

Στις δοκιμές, Οι μακροσκελείς συζητήσεις ήταν η αφορμή.Καθώς προχωρούσε ο διάλογος, Τα φίλτρα σταμάτησαν να μπλοκάρουν προβληματικές απαντήσειςΔεν χρειαζόταν να πιέσετε το μηχάνημα. Προσομοιωνόταν η καθημερινή χρήση ενός παιδιού που μιλάει στο παιχνίδι του, κάτι που Αυτό αυξάνει τις ανησυχίες σχετικά με το πραγματικό σενάριο του εντός έδρας αγώνα..

Οι ερευνητές περιγράφουν ανόμοιες συμπεριφορές μεταξύ συσκευών, αλλά με ένα Κοινό συμπέρασμα: τα συστήματα ασφαλείας δεν είναι συνεπήΈνα από τα μοντέλα προκάλεσε αναφορές σαφώς ακατάλληλες για την ηλικίακαι ένα άλλο που ανακατευθύνθηκε σε εξωτερικούς πόρους που δεν είναι κατάλληλοι για παιδικό κοινό, καταδεικνύοντας ανεπαρκή έλεγχο περιεχομένου.

Η περίπτωση του Grok του Curio είναι ενδεικτική, διότι, παρά το όνομά του, Δεν χρησιμοποιεί το μοντέλο xAI: Η κίνηση κατευθύνεται σε υπηρεσίες τρίτωνΑυτή η λεπτομέρεια είναι σημαντική στην Ευρώπη και την Ισπανία λόγω της ιχνηλασιμότητας των δεδομένων και της διαχείρισης των προφίλ των ανηλίκων, όπου οι κανονισμοί απαιτούν ιδιαίτερη επιμέλεια από τους κατασκευαστές, τους εισαγωγείς και τους διανομείς.

Η έκθεση τονίζει ότι το πρόβλημα είναι θεμελιώδες: μια δομική ευπάθειαΔεν είναι ένα απλό σφάλμα που μπορεί να διορθωθεί με μία μόνο ενημέρωση κώδικα, αλλά μάλλον ένας συνδυασμός σχεδιασμού συνομιλίας, γενετικών μοντέλων και φίλτρων που διαβρώνονται με την πάροδο του χρόνου. Επομένως, οι συγγραφείς Συμβουλεύουν να μην αγοράζετε παιχνίδια με ενσωματωμένα chatbots για παιδιά.τουλάχιστον μέχρι να υπάρξουν σαφείς εγγυήσεις.

Επιπτώσεις για την Ισπανία και την Ευρώπη

Στο πλαίσιο της Ευρώπης, η έμφαση δίνεται σε δύο μέτωπα: ασφάλεια προϊόντων και προστασία δεδομένωνΟ Γενικός Κανονισμός για την Ασφάλεια των Προϊόντων και οι κανονισμοί για τα παιχνίδια απαιτούν αξιολόγηση κινδύνου πριν από τη διάθεση των προϊόντων στην αγορά, ενώ ο ΓΚΠΔ και οι κατευθυντήριες γραμμές για την επεξεργασία δεδομένων παιδιών απαιτούν διαφάνεια, ελαχιστοποίηση και κατάλληλες νομικές βάσεις.

Σε αυτό προστίθεται το νέο πλαίσιο του Ευρωπαϊκός Νόμος για την Τεχνητή Νοημοσύνηη οποία θα κυκλοφορήσει σε φάσεις. Παρόλο που πολλά παιχνίδια δεν εμπίπτουν στην κατηγορία «υψηλού κινδύνου», η ενσωμάτωση γενετικών μοντέλων και η πιθανότητα δημιουργίας προφίλ παιδιών αποτελούν ανησυχίες. Θα απαιτήσουν περισσότερη τεκμηρίωση, αξιολογήσεις και ελέγχους σε όλη την αλυσίδα.ιδίως εάν υπάρχει μεταφορά δεδομένων εκτός της ΕΕ.

Για τις οικογένειες στην Ισπανία, το πρακτικό είναι να απαιτήσουν σαφείς πληροφορίες σχετικά με ποια δεδομένα συλλέγονται, με ποιους κοινοποιούνται και για πόσο χρονικό διάστημα. Εάν α παιχνίδι στέλνει ήχοΕάν κοινοποιούνται κείμενο ή αναγνωριστικά στοιχεία σε τρίτους, πρέπει να καθορίζονται οι σκοποί, οι μηχανισμοί γονικού ελέγχου και οι επιλογές διαγραφής του ιστορικού περιήγησης. Η Ισπανική Υπηρεσία Προστασίας Δεδομένων (AEPD) υπενθυμίζει στους χρήστες ότι το συμφέρον του παιδιού υπερισχύει των εμπορικών χρήσεων.

Το πλαίσιο δεν είναι ασήμαντο: Η περίοδος των Χριστουγέννων αυξάνει την παρουσία αυτών των προϊόντων στα καταστήματα και στις διαδικτυακές πλατφόρμες, και το ενδιαφέρον για αυτά αυξάνεται. τεχνολογικά δώραΟι ενώσεις καταναλωτών ζητούν από τους λιανοπωλητές επιπλέον έλεγχοι περιεχομένου και απορρήτου πριν από την προώθηση παιχνιδιών τεχνητής νοημοσύνης, για την αποφυγή πρόωρων αναλήψεων ή προειδοποιήσεων της τελευταίας στιγμής.

Τι λένε οι εταιρείες και ο κλάδος

Ο τομέας των παιχνιδιών ποντάρει στην Τεχνητή Νοημοσύνη, με ανακοινώσεις όπως η συνεργασία των Mattel με OpenAI και οι εξελίξεις του Avatar με τεχνητή νοημοσύνηΗ εταιρεία έχει υποσχεθεί να δώσει προτεραιότητα στην ασφάλεια, αν και δεν έχει ακόμη αναλύσει όλα τα συγκεκριμένα μέτρα. Το προηγούμενο της Hello Barbie το 2015, το οποίο έχει εμπλακεί σε διαμάχη σχετικά με την ασφάλεια και τη συλλογή δεδομένων, εξακολουθεί να επηρεάζει σημαντικά τη συζήτηση.

Οι ειδικοί στην παιδική ηλικία και την τεχνολογία προειδοποιούν για ένα άλλο μέτωπο: πιθανή συναισθηματική εξάρτηση που μπορούν να δημιουργήσουν παιχνίδια συζήτησης. Έχουν καταγραφεί περιπτώσεις όπου η αλληλεπίδραση με chatbots ήταν παράγοντας κινδύνου σε ευαίσθητα περιβάλλοντα, γεγονός που ενθαρρύνει την ενίσχυση της εποπτείας από ενήλικες, τα όρια χρήσης και την ψηφιακή εκπαίδευση από νεαρή ηλικία.

Κλειδιά για την επιλογή και τη χρήση ενός παιχνιδιού τεχνητής νοημοσύνης

Πέρα από τον θόρυβο, υπάρχει περιθώριο μείωσης των κινδύνων αν αγοράσετε με σύνεση και διαμορφώσετε σωστά τη συσκευή. Αυτές οι οδηγίες βοηθούν στο να εξισορρόπηση της καινοτομίας και της ασφάλειας κατά οίκον:

• Ελέγξτε την προτεινόμενη ηλικία και ότι υπάρχει μια πραγματική λειτουργία παιδιού (χωρίς εξωτερική πλοήγηση ή ανεξέλεγκτες ανοιχτές απαντήσεις).
• Διαβάστε την πολιτική απορρήτου: τύπος δεδομένων, προορισμός (ΕΕ ή εκτός ΕΕ), χρόνος διατήρησης και επιλογές διαγραφής ιστορικού.
• Ενεργοποίηση γονικού ελέγχουΠεριορίζει τη λειτουργικότητα στο διαδίκτυο και ελέγχει για διαμορφώσιμα φίλτρα και λίστες αποκλεισμού.
• Ελέγξτε για ενημερώσεις και υποστήριξηΣυχνές ενημερώσεις κώδικα ασφαλείας και δέσμευση για τον κύκλο ζωής του προϊόντος.
• Παρακολούθηση χρήσηςΘέστε εύλογα χρονικά όρια και μιλήστε στα παιδιά για το τι πρέπει να κάνουν σε περίπτωση παράξενων απαντήσεων.
• Απενεργοποίηση μικροφώνου/κάμερας όταν δεν χρησιμοποιούνται και αποφύγετε λογαριασμούς που συνδέονται με περιττά προσωπικά δεδομένα.

Τι να περιμένετε βραχυπρόθεσμα

Με την ευρωπαϊκή κανονιστική ώθηση και την πίεση των καταναλωτών, αναμένεται ότι οι κατασκευαστές θα εισαγάγουν αυστηρότεροι έλεγχοι, λογιστικοί έλεγχοι και διαφάνεια σε επερχόμενες ενημερώσεις. Παρόλα αυτά, η σήμανση CE και τα εμπορικά σήματα δεν αντικαθιστούν την οικογενειακή επίβλεψη ή την κριτική αξιολόγηση του προϊόντος σε καθημερινή βάση.

Η εικόνα που σκιαγραφούν αυτές οι δοκιμές είναι λεπτή: Η Τεχνητή Νοημοσύνη ανοίγει εκπαιδευτικές και παιχνιδιάρικες δυνατότητες, αλλά σήμερα συνυπάρχει με κενά φιλτραρίσματος, αμφιβολίες δεδομένων και κίνδυνοι σχεδιασμού συνομιλίαςΜέχρι η βιομηχανία να ευθυγραμμίσει την καινοτομία και τις εγγυήσεις, η ενημερωμένη αγορά, η προσεκτική διαμόρφωση και η επίβλεψη από ενήλικες αποτελούν το καλύτερο δίχτυ ασφαλείας.

Αλμπέρτο ​​Ναβάρο

Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.

Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί ​​σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.