Η Καλιφόρνια ψηφίζει το νομοσχέδιο SB 243 για τη ρύθμιση των chatbots τεχνητής νοημοσύνης και την προστασία των ανηλίκων

Η Καλιφόρνια έχει κάνει ένα αποφασιστικό βήμα στην εποπτεία της τεχνητής νοημοσύνης. με έναν κανόνα που εστιάζει στα λεγόμενα «companion chatbots», αυτά που προσομοιώνουν φιλία ή οικειότητα. Ο κυβερνήτης Γκάβιν Νιούσομ υπέγραψε το νομοσχέδιο SB 243, ένας νόμος που απαιτεί από αυτά τα εργαλεία να αυτοπροσδιορίζονται ως αυτοματοποιημένα συστήματα και να υιοθετούν συγκεκριμένες δικλείδες ασφαλείας κατά την αλληλεπίδρασή τους με ανήλικοι χρήστες.

Το μέτρο, το οποίο υποστηρίζεται από τον πολιτειακό γερουσιαστή Steve Padilla, εστιάζει λιγότερο στην τεχνική αρχιτεκτονική και περισσότερο στην συναισθηματική διεπαφή μεταξύ ανθρώπων και μηχανώνΗ τελική έκδοση, η οποία ήταν πιο περιορισμένη μετά από πιέσεις από τον κλάδο, διατηρεί βασικές υποχρεώσεις: Τακτικές υπενθυμίσεις ότι μιλάτε με μια τεχνητή νοημοσύνη, φίλτρα περιεχομένου κατάλληλα για την ηλικία και πρωτόκολλα απόκρισης σημάδια αυτοτραυματισμού ή αυτοκτονίας.

Τι ακριβώς απαιτεί το SB 243;

Ο πυρήνας του προτύπου απαιτεί από τα chatbots να προειδοποιούν με σαφήνεια και επανειλημμένα ότι είναι Λογισμικό Τεχνητής ΝοημοσύνηςΓια τους ανήλικους χρήστες, το σύστημα πρέπει να εμφανίζει μια υπενθύμιση τουλάχιστον κάθε τρεις ώρες, με ορατό και κατανοητό τρόπο, ώστε να αποφεύγεται η σύγχυση σχετικά με τη μη ανθρώπινη φύση της αλληλεπίδρασης.

Επιπλέον, οι φορείς εκμετάλλευσης πρέπει να εφαρμόσουν φίλτρα περιεχομένου και όρια ηλικίαςΗ ρητή σεξουαλικότητα και οποιαδήποτε αλληλεπίδραση που ομαλοποιεί ή ενθαρρύνει τον αυτοτραυματισμό αποκλείονται από τις συζητήσεις με ανηλίκους. Αυτά τα εμπόδια συμπληρώνονται από παραπομπές σε υπηρεσίες αντιμετώπισης κρίσεων όταν εντοπίζονται. δείκτες κινδύνου.

La Ο νόμος απαιτεί από τις πλατφόρμες να θεσπίσουν πρωτόκολλα έγκαιρης ανίχνευσης και αντιμετώπισης., καθώς και αναφορές περιστατικών αυτοκτονικού ιδεασμού που εντοπίστηκαν στο Γραφείο Πρόληψης Αυτοκτονιών Της ΚαλιφόρνιαΑυτό επιδιώκει να ενισχύσει τον συντονισμό με τις υγειονομικές αρχές και να ενσωματώσει μετρήσεις σχετικά με τον αντίκτυπο αυτών των εργαλείων στην ψυχική υγεία.

Για την τήρηση αυτών των εγγυήσεων, Οι εταιρείες πρέπει να εφαρμόζουν εύλογους μηχανισμούς επαλήθευσης ηλικίας στις υπηρεσίες τους που απευθύνονται σε κατοίκους της πολιτείας.Η απαίτηση ισχύει για κοινωνικά δίκτυα, ιστότοπους και εφαρμογές που προσφέρουν συνοδευτικά chatbot, συμπεριλαμβανομένων πλατφορμών παιχνιδιών ή αποκεντρωμένων επιλογών που λειτουργούν στην Καλιφόρνια.

Η τελική έκδοση του SB 243 παρέλειψε τους ελέγχους τρίτων και μια εφαρμογή για όλους τους χρήστες (όχι μόνο τους ανήλικους) που προβλέπονταν σε προηγούμενα σχέδια. Παρά την περικοπή αυτή, ο Newsom υπερασπίστηκε το νομοσχέδιο ως φράγμα συγκράτησης έναντι ζημιών που μπορούν να αποφευχθούν, με προγραμματισμένη έναρξη ισχύος τον Ιανουάριο του 2026.

Ένα ευρύτερο πακέτο νόμων για την Τεχνητή Νοημοσύνη στην πολιτεία

Το SB 243 έρχεται μαζί με άλλες πρόσφατα ψηφισμένες πρωτοβουλίες, όπως το SB 53, το οποίο απαιτεί από τους μεγάλους προγραμματιστές τεχνητής νοημοσύνης να δημοσιοποιούν τις στρατηγικές τους στον τομέα της τεχνητής νοημοσύνης. ασφάλεια και μετριασμός κινδύνουΣτόχος είναι η βελτίωση της διαφάνειας των προηγμένων μοντέλων που ήδη έχουν μεγάλης κλίμακας κοινωνικό αντίκτυπο.

Παράλληλα, έχουν προωθηθεί μέτρα για να αποτραπεί η αποφυγή ευθυνών από εταιρείες ισχυριζόμενες ότι η τεχνολογία «ενεργεί αυτόνομα»Οι ποινές για μη συναινετικά σεξουαλικά deepfakes έχουν επίσης αυστηροποιηθεί, αυξάνοντας σημαντικά τα πρόστιμα όταν επηρεάζουν ανήλικα θύματα.

Το πακέτο περιλαμβάνει επίσης περιορισμούς για την αποτροπή της πλαστοπροσωπίας από τα chatbots. επαγγελματίες υγείας ή πρόσωπα εξουσίας, μια τακτική που μπορεί να παραπλανήσει τους ευάλωτους χρήστες. Με αυτά τα άρθρα, το Σακραμέντο σκιαγραφεί ένα κρατικό πλαίσιο που επιχειρεί να εξισορροπήσει την καινοτομία, τα δικαιώματα και δημόσια ασφάλεια.

Υποστήριξη, κριτική και αμφιβολίες σχετικά με το πεδίο εφαρμογής του

Το πρότυπο έχει λάβει επαίνους ως πρωτοποριακό, ενώ ταυτόχρονα έχει δεχτεί κριτική για την ανεπαρκή του απόδοση. Οργανισμοί όπως Κοινή Λογική Μέσων Ενημέρωσης και το Tech Oversight Project απέσυραν την υποστήριξή τους μετά την κατάργηση των εξωτερικών ελέγχων και τον περιορισμό του πεδίου εφαρμογής τους σε ανηλίκους, κάτι που προειδοποιούν ότι θα μπορούσε να καταστήσει τον νόμο ανεπαρκή χειρονομία ενόψει των τρεχόντων κινδύνων.

Στο άλλο άκρο, οι προγραμματιστές και οι ειδικοί προειδοποιούν ότι ένα δυσανάλογη ευθύνη θα μπορούσε να οδηγήσει σε «προληπτικά μπλοκαρίσματα»: φίλτρα τόσο αυστηρά που φιμώνουν νόμιμες συζητήσεις σχετικά με την ψυχική υγεία ή τη σεξουαλική διαπαιδαγώγηση, στερώντας από τους εφήβους που αναζητούν βοήθεια στο διαδίκτυο κρίσιμη υποστήριξη.

Η πολιτική και οικονομική πίεση ήταν έντονη: Οι τεχνολογικές ομάδες και οι βιομηχανικοί συνασπισμοί επένδυσαν εκατομμύρια σε άσκηση πίεσης κατά τη διάρκεια της συνόδου για να μετριάσουν τα πιο δύσκολα κείμενα.Ταυτόχρονα, η εισαγγελία του κράτους και η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) έχουν προκαλέσει έλεγχο στις πρακτικές chatbot που στοχεύουν ανηλίκους, σε ένα περιβάλλον αστικές αγωγές και παράπονα από τις πληγείσες οικογένειες.

Πρόσφατες υποθέσεις και αγωγές εναντίον Πλατφόρμες όπως το Character.AI ή το OpenAI έχουν κλιμακώσει τη δημόσια συζήτησηΜετά τις κατηγορίες, Σημαντικοί παίκτες όπως η Meta και η OpenAI ανακοίνωσαν αλλαγέςΑποκλεισμός ακατάλληλων συζητήσεων με εφήβους και παραπομπών σε εξειδικευμένους πόρους, καθώς και νέων γονικών ελέγχων.

Προκλήσεις εφαρμογής και προβλέψιμες επιπτώσεις

Η έναρξη λειτουργίας θέτει λειτουργικές προκλήσεις. Οι παγκόσμιες πλατφόρμες θα πρέπει να προσδιορίσουν με ακρίβεια ποιος είναι ανήλικος κάτοικος στην Καλιφόρνια και να παρακολουθούν εκατομμύρια καθημερινές αλληλεπιδράσεις χωρίς να παραβιάζουν το απόρρητο, κάτι που είναι τεχνικά και νομικά περίπλοκο.

Μια άλλη πρόκληση θα είναι η αποφυγή του «φαινομένου της σταδιακής αύξησης» προς την υπερβολική λογοκρισία: εάν οι εταιρείες φοβούνται κυρώσεις, θα μπορούσαν να αποσυρθούν. χρήσιμο περιεχόμενο συναισθηματική ευεξία από καθαρή σύνεση. Η εύρεση της ισορροπίας μεταξύ προστασίας και πρόσβασης σε αξιόπιστες πληροφορίες θα είναι το κλειδί για την αξιολόγηση της επιτυχίας του κανονισμού.

Το ζήτημα του εθνικού αντίκτυπου παραμένει επίσης: όπως έχει συμβεί και με άλλους πρώιμους κανονισμούς της Καλιφόρνια, οι απαιτήσεις του θα μπορούσαν να γίνουν de facto. πρότυπο για τους χειριστές σε όλες τις ΗΠΑ, ακόμη και πριν υπάρξουν αδιάσειστα στοιχεία αποτελεσματικότητας.

Αν και το τελικό κείμενο είναι πιο περιορισμένο από τις αρχικές προτάσεις, το Το SB 243 θέτει πρωτοφανείς κανόνες για τα "companion chatbots": σαφείς προειδοποιήσεις, φίλτρα ηλικίας και πρωτόκολλα κρίσης με θεσμική αναφορά. Εάν είστε ελάχιστα εμπόδια Αν καταφέρουν να προστατεύσουν τους ανηλίκους χωρίς να καταπνίξουν τη νόμιμη υποστήριξη, η Καλιφόρνια θα έχει χαράξει μια μέση οδό που μπορούν να ακολουθήσουν και άλλες πολιτείες.

Σχετικό άρθρο:

Το OpenAI θα προσθέσει γονικούς ελέγχους στο ChatGPT με οικογενειακούς λογαριασμούς, προειδοποιήσεις κινδύνου και όρια χρήσης.

Αλμπέρτο ​​Ναβάρο

Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.

Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί ​​σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.