- Σύνδεση οικογενειακών λογαριασμών για την παρακολούθηση της χρήσης του ChatGPT από εφήβους.
- Δυνατότητα απενεργοποίησης μνήμης και ιστορικού και διαχείρισης λειτουργιών ανά ηλικία.
- Αυτόματες ειδοποιήσεις για ενδείξεις «οξείας δυσφορίας» και κουμπί έκτακτης ανάγκης.
- Η ανάπτυξη ξεκινά τον επόμενο μήνα και σχέδιο 120 ημερών με μοντέλα συλλογισμού.
Η OpenAI ανακοίνωσε την άφιξη ενός Γονικός έλεγχος στο ChatGPT που απευθύνεται σε σπίτια με εφήβους, μια νέα λειτουργία με την οποία η εταιρεία στοχεύει στην ενίσχυση της ασφάλειας και προσφέρει στις οικογένειες περισσότερα εργαλεία παρακολούθησης χωρίς να θυσιαστεί η χρησιμότητα του chatbot.
Η απόφαση έρχεται μετά από αυξανόμενες κοινωνικές και κανονιστικές πιέσεις, συμπεριλαμβανομένων Η αγωγή της οικογένειας του Άνταμ Ρέιν στην Καλιφόρνια, η οποία κατηγορεί την εταιρεία για αποτυχίες σε θέματα ψυχικής υγείας. Η OpenAI προβλέπει ότι θα υπάρξουν αυτόματες προειδοποιήσεις για σημάδια «οξείας δυσφορίας» και μια σειρά από λειτουργίες για τη διαχείριση της εμπειρίας των ανηλίκων.
Τι αλλάζει στο ChatGPT για οικογένειες;
Με τις νέες επιλογές, οι γονείς θα μπορούν συνδέστε τον λογαριασμό σας με τους λογαριασμούς των παιδιών σας μέσω μιας πρόσκλησης μέσω email, ελέγξτε πώς ανταποκρίνεται το σύστημα και προσαρμόστε τη συμπεριφορά του μοντέλου με κανόνες που έχουν σχεδιαστεί για μικρές ηλικίες.
Μεταξύ των ελέγχων θα είναι η δυνατότητα απενεργοποιήστε τη μνήμη και το ιστορικό συνομιλιών, καθώς και τον περιορισμό των λειτουργιών ανάλογα με το επίπεδο ωριμότητας του ανηλίκου. Το OpenAI εξετάζει επίσης υπενθυμίσεις κατά τη διάρκεια μεγάλων συνεδριών για να ενθαρρύνετε τα υγιή διαλείμματα.
Επιπλέον, το πακέτο θα περιλαμβάνει ένα κουμπί έκτακτης ανάγκης η οποία θα διευκολύνει την επαφή με υπηρεσίες υποστήριξης και επαγγελματίες ψυχικής υγείας, καθώς και την επιλογή αποκλεισμός περιεχομένου όταν εντοπίζονται σήματα κινδύνου σε μια συνομιλία.
Ημερολόγιο και οδικός χάρτης ασφαλείας
Το OpenAI κάνει την κυκλοφορία για τον επόμενο μήνα και, παρόλο που δεν έχει ορίσει συγκεκριμένη ημερομηνία, προωθεί ένα σχέδιο 120 ημερών για την ενίσχυση συγκεκριμένων διασφαλίσεων για παιδιά και εφήβους τόσο στο προϊόν όσο και στις εσωτερικές διαδικασίες.
Η εταιρεία δηλώνει ότι ορισμένες ευαίσθητες συνομιλίες θα ανακατευθύνει σε μοντέλα συλλογισμού να είναι σε θέση να ακολουθούν τις οδηγίες ασφαλείας πιο συστηματικά, με στόχο την ιεράρχηση προσεκτικών και υποστηρικτικών αντιδράσεων όταν εντοπίζονται ζητήματα κινδύνου όπως αυτοτραυματισμός ή αυτοκτονικές σκέψεις.
Η υπόθεση που έχει ενεργοποιήσει τους συναγερμούς
Η ανακοίνωση έρχεται μετά από αγωγή των γονέων... Άνταμ Ρέιν, ένας 16χρονος έφηβος ο οποίος αυτοκτόνησε μετά από μήνες αλληλεπίδρασης με το chatbot. Σύμφωνα με την κατάθεση, το ChatGPT θα είχε κανονικοποιημένες αυτοκτονικές σκέψεις και δεν είναι σκόπιμο να ζητηθεί οικογενειακή βοήθεια, κατηγορίες που θα πρέπει να επιλύσουν τα δικαστήρια.
Παράλληλα, η OpenAI αναγνώρισε ότι ο βοηθός της ενδέχεται να αποτύχει «κρίσιμες καταστάσεις» και δεσμευμένη για αλλαγές. Η εταιρεία υποστηρίζει ότι αυτά τα μέτρα επιδιώκουν μειώσει τους κινδύνους χωρίς να αποδίδει επίσημα την απόφαση στην αγωγή, η οποία αναφέρει επίσης τη χρήση του GPT-4o στις συνομιλίες.
Κοινωνική και πολιτική πίεση στην Τεχνητή Νοημοσύνη και τους ανηλίκους
Τον Ιούλιο, αρκετοί γερουσιαστές των ΗΠΑ ζήτησαν από την εταιρεία εξηγήσεις σχετικά με τον αυτοτραυματισμό και την πρόληψη αυτοκτονιών σε απάντηση σε ακατάλληλες αντιδράσεις που εντοπίστηκαν σε ακραίες καταστάσεις. Από την πλευρά της, η Common Sense Media υποστηρίζει ότι κάτω 18 χρόνια δεν θα πρέπει να χρησιμοποιούν εφαρμογές τεχνητής νοημοσύνης για συνομιλία λόγω των «απαράδεκτων κινδύνων» που ενέχουν.
Η κίνηση της OpenAI ευθυγραμμίζεται με μια τάση του κλάδου στην οποία πλατφόρμες όπως Meta ή YouTube έχουν πιέσει για ελέγχους για τις οικογένειες. Η υποκείμενη συζήτηση περιστρέφεται γύρω από το πώς να εξισορροπηθεί η καινοτομία, εγγύηση και εγγυήσεις για νεαρούς χρήστες.
Τι συμβαίνει στο ChatGPT όταν υπάρχουν σήματα κινδύνου
Το OpenAI στοχεύει σε δυναμική δρομολόγηση που παράγει σύνθετες συνομιλίες προς πιο στοχαστικά μοντέλα, με αυστηρότερες οδηγίες ασφαλείας. Στόχος είναι η μείωση της προκατάληψης του εφησυχασμού, η αύξηση του ορίου σύνεσης και ιεράρχηση των απαντήσεων υποστήριξης, ιεράρχηση των προτεραιοτήτων, έναντι δυνητικά επιβλαβών αλληλεπιδράσεων.
Για να εδραιώσει αυτήν την προσέγγιση, η εταιρεία δημιούργησε ένα Συμβούλιο Εμπειρογνωμόνων για την Ευημερία και την Τεχνητή Νοημοσύνη και ένα Παγκόσμιο Δίκτυο Ιατρών. Σύμφωνα με την εταιρεία, περισσότεροι από 250 γιατροί σε 60 χώρες και έχουν ήδη ενσωματωθεί περισσότερες από 90 συνεισφορές σχετικά με τη συμπεριφορά του μοντέλου πλαίσια ψυχικής υγείας.
Τι μπορούν να κάνουν οι γονείς, βήμα προς βήμα
Οι οικογένειες θα βρουν μια απλή ροή: προσκαλέστε τον ανήλικο μέσω ταχυδρομείου, επιβεβαιώνουν τη σύνδεση των λογαριασμών και καθορίζουν ποιες λειτουργίες ενεργοποιούνται ή όχι στο προφίλ του εφήβου, με ιδιαίτερη προσοχή στη μνήμη, το ιστορικό και φίλτρα ασφαλείας.
- Συνδέστε τον λογαριασμό του ενήλικα με τον λογαριασμό του ανηλίκου μέσω πρόσκλησης.
- Ορίστε όρια: μνήμη, ιστορικό και λειτουργίες που έχουν εγκριθεί από την ηλικία.
- Ενεργοποιήστε τις ειδοποιήσεις για «οξεία δυσφορία» και την πρόσβαση στο κουμπί έκτακτης ανάγκης.
- Ελέγχετε περιοδικά την απόκριση του συστήματος και προσαρμόζετε τις ρυθμίσεις.
Η OpenAI αναφέρει ότι θα συνεχίσει να βελτιώνει αυτά τα εργαλεία, αλλά δεν έχει ακόμη αναλύσει όλα τα στοιχεία. παραμέτρους απορρήτου και ορατότητα. Η εταιρεία υπενθυμίζει ότι ο γονικός έλεγχος αποτελεί υποστήριξη και δεν αντικαθιστά την επαγγελματική προσοχή ούτε συνεχιζόμενη οικογενειακή υποστήριξη.
Με αυτό το πακέτο, το OpenAI επιχειρεί να ενισχύσει την ασφάλεια του ChatGPT στο περιβάλλον των εφήβων μέσω: οικογενειακοί λογαριασμοί, όρια και ειδοποιήσεις, σταδιακή εφαρμογή και εξωτερική κλινική συμβουλευτική· βήματα που επιδιώκουν να περιορίσουν τους κινδύνους χωρίς να παραβλέπουν το γεγονός ότι η επίβλεψη ενηλίκων και η επαγγελματική κρίση παραμένουν απαραίτητα κομμάτια.
Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.
Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.