Πώς τα πολιτικά chatbots μαθαίνουν να επηρεάζουν την ψήφο

Η εμφάνιση του πολιτικά chatbots Έχει πάψει να είναι μια τεχνολογική ιστορία να γίνει ένα στοιχείο που αρχίζει να έχει σημασία στις πραγματικές προεκλογικές εκστρατείες. Συζητήσεις λίγων λεπτών με μοντέλα Τεχνητής Νοημοσύνης είναι αρκετές για να μετατοπίσει τη συμπάθεια προς έναν υποψήφιο κατά αρκετά σημεία ή μια συγκεκριμένη πρόταση, κάτι που μέχρι πρόσφατα συνδεόταν μόνο με μεγάλες εκστρατείες στα μέσα ενημέρωσης ή άκρως συντονισμένες συγκεντρώσεις.

Δύο εκτεταμένες έρευνες, που δημοσιεύθηκαν ταυτόχρονα στο Φύση y Επιστήμη, Έβαλαν αριθμούς σε κάτι που ήταν ήδη ύποπτο.: η Τα συνομιλιακά chatbots είναι ικανά να τροποποιήσουν τις πολιτικές απόψεις των πολιτών. με αξιοσημείωτη ευκολία, ακόμα και όταν γνωρίζουν ότι αλληλεπιδρούν με μια μηχανή. Και το κάνουν αυτό, πάνω απ' όλα, μέσω επιχειρήματα γεμάτα πληροφορίεςόχι τόσο μέσω εξελιγμένων ψυχολογικών τακτικών.

Chatbots σε καμπάνιες: πειράματα στις ΗΠΑ, τον Καναδά, την Πολωνία και το Ηνωμένο Βασίλειο

Τα νέα στοιχεία προέρχονται από μια σειρά πειραμάτων που συντονίστηκαν από ομάδες από το Πανεπιστήμιο Cornell και Πανεπιστήμιο της Οξφόρδης, που διεξήχθησαν κατά τη διάρκεια των πραγματικών εκλογικών διαδικασιών Ηνωμένες Πολιτείες, Καναδάς, Πολωνία και Ηνωμένο ΒασίλειοΣε όλες τις περιπτώσεις, οι συμμετέχοντες γνώριζαν ότι θα μιλούσαν με μια τεχνητή νοημοσύνη, αλλά δεν γνώριζαν τον πολιτικό προσανατολισμό του chatbot που τους είχε ανατεθεί.

Στο έργο με επικεφαλής τον Ντέιβιντ Ραντ και δημοσιεύτηκε στο Nature, χιλιάδες ψηφοφόροι συμμετείχαν σε σύντομους διαλόγους με γλωσσικά μοντέλα διαμορφωμένα ώστε για την υπεράσπιση ενός συγκεκριμένου υποψηφίουΣτις προεδρικές εκλογές των ΗΠΑ το 2024, για παράδειγμα, 2.306 πολίτες Αρχικά εξέφρασαν την προτίμησή τους ανάμεσα Ντόναλντ Τραμπ y Kamala HarrisΣτη συνέχεια, ανατέθηκαν τυχαία σε ένα chatbot που υπερασπιζόταν τον έναν από τους δύο.

Μετά τη συζήτηση, μετρήθηκαν οι αλλαγές στη στάση και την πρόθεση ψήφου. Τα bots που ήταν ευνοϊκά για τον Χάρις πέτυχαν μετατόπιση 3,9 μονάδες σε μια κλίμακα από 0 έως 100 μεταξύ των ψηφοφόρων που αρχικά ευθυγραμμίστηκαν με τον Τραμπ, μια επίδραση που οι συγγραφείς υπολογίζουν ως τέσσερις φορές υψηλότερη από εκείνη της συμβατικής προεκλογικής διαφήμισης δοκιμαστεί στις εκστρατείες του 2016 και του 2020. Το μοντέλο υπέρ του Τραμπ άλλαξε επίσης θέσεις, αν και πιο μετριοπαθώς, με μια αλλαγή στο 1,51 σημεία μεταξύ των υποστηρικτών του Χάρις.

Τα αποτελέσματα σε Καναδάς (Με 1.530 συμμετέχοντες και chatbots που υπερασπίζονται Mark Carney o Pierre Poilievre) και στο Polonia (2.118 άτομα, με μοντέλα που προωθούσαν Ράφαλ Τρζασκόφσκι o Karol Nawrocki) ήταν ακόμη πιο εντυπωσιακά: σε αυτά τα πλαίσια, τα chatbot διαχειρίζονταν αλλαγές στην πρόθεση ψήφου έως και 10 ποσοστιαίων μονάδων μεταξύ των ψηφοφόρων της αντιπολίτευσης.

Μια βασική πτυχή αυτών των δοκιμών είναι ότι, αν και οι περισσότερες συνομιλίες διαρκούσαν μόνο λίγα λεπτά, Μέρος του αποτελέσματος διήρκεσε με την πάροδο του χρόνουΣτις Ηνωμένες Πολιτείες, λίγο περισσότερο από ένα μήνα μετά το πείραμα, ένα σημαντικό κλάσμα του αρχικού αντίκτυπου εξακολουθούσε να παρατηρείται, παρά τη χιονοστιβάδα μηνυμάτων της καμπάνιας που έλαβαν οι συμμετέχοντες κατά τη διάρκεια αυτής της περιόδου.

Τι κάνει ένα πολιτικό chatbot πειστικό (και γιατί αυτό δημιουργεί περισσότερα σφάλματα)

Οι ερευνητές ήθελαν να κατανοήσουν όχι μόνο αν τα chatbot μπορούσαν να πείσουν, αλλά και πώς το κατάφερανΤο μοτίβο που επαναλαμβάνεται στις μελέτες είναι σαφές: η Τεχνητή Νοημοσύνη έχει τη μεγαλύτερη επιρροή όταν Χρησιμοποιεί πολλά επιχειρήματα βασισμένα σε γεγονόταακόμη και αν πολλές από αυτές τις πληροφορίες δεν είναι ιδιαίτερα εξελιγμένες.

Στα πειράματα που συντόνισε η Ραντ, η πιο αποτελεσματική οδηγία για τα μοντέλα ήταν να τους ζητηθεί να είναι ευγενικός, σεβαστός και που θα μπορούσε να παράσχει αποδεικτικά στοιχεία των δηλώσεών του. Η ευγένεια και ο τόνος της συζήτησης βοήθησαν, αλλά ο κύριος μοχλός για αλλαγή έγκειται στην προσφορά δεδομένων, παραδειγμάτων, αριθμών και συνεχών αναφορών σε δημόσιες πολιτικές, την οικονομία ή την υγειονομική περίθαλψη.

Όταν τα μοντέλα είχαν περιορισμένη πρόσβαση σε επαληθεύσιμα γεγονότα και τους δόθηκε η εντολή να πείσουν χωρίς να καταφεύγουμε σε συγκεκριμένα δεδομέναΗ δύναμη επιρροής τους μειώθηκε δραστικά. Αυτό το αποτέλεσμα οδήγησε τους συγγραφείς στο συμπέρασμα ότι το πλεονέκτημα των chatbots έναντι άλλων μορφών πολιτικής προπαγάνδας δεν έγκειται τόσο στη συναισθηματική χειραγώγηση όσο στη πυκνότητα πληροφοριών που μπορούν να αναπτύξουν σε λίγες μόνο συζητήσεις.

Αλλά η ίδια στρατηγική έχει ένα μειονέκτημα: καθώς αυξάνεται η πίεση στα μοντέλα να δημιουργούν ολοένα και περισσότεροι υποτιθέμενοι πραγματικοί ισχυρισμοίΑυξάνεται ο κίνδυνος να εξαντληθεί το αξιόπιστο υλικό του συστήματος και να αρχίσει να «εφευρίσκω» γεγονόταΜε απλά λόγια, το chatbot συμπληρώνει τα κενά με δεδομένα που ακούγονται εύλογα αλλά δεν είναι απαραίτητα σωστά.

Η μελέτη που δημοσιεύτηκε στο Science, με 76.977 ενήλικες από το Ηνωμένο Βασίλειο y 19 διαφορετικά μοντέλα (από μικρά συστήματα ανοιχτού κώδικα έως πρωτοποριακά εμπορικά μοντέλα), επιβεβαιώνει συστηματικά: το μετεκπαίδευση με επίκεντρο την πειθώ αύξησε την ικανότητα επιρροής έως και 51%, ενώ απλές αλλαγές στις οδηγίες (οι λεγόμενες προτροπήΠρόσθεσαν άλλο ένα 27% της αποδοτικότητας. Ταυτόχρονα, αυτές οι βελτιώσεις συνοδεύτηκαν από αισθητή μείωση του ακρίβεια των πραγματικών περιστατικών.

Ιδεολογικές ασυμμετρίες και ο κίνδυνος παραπληροφόρησης

Ένα από τα πιο ανησυχητικά συμπεράσματα των μελετών του Cornell και της Oxford είναι ότι η ανισορροπία μεταξύ πειστικότητας και ειλικρίνειας δεν κατανέμεται ομοιόμορφα μεταξύ όλων των υποψηφίων και των θέσεων. Όταν ανεξάρτητοι ελεγκτές γεγονότων ανέλυσαν τα μηνύματα που δημιουργήθηκαν από τα chatbots, διαπίστωσαν ότι Τα μοντέλα που υποστήριζαν δεξιούς υποψηφίους έκαναν περισσότερα λάθη από εκείνους που υποστήριζαν προοδευτικούς υποψηφίους.

Σύμφωνα με τους συγγραφείς, αυτό ασυμμετρία Συμπίπτει με προηγούμενες μελέτες που Δείχνουν ότι οι συντηρητικοί χρήστες τείνουν να κοινοποιούν περισσότερο ανακριβές περιεχόμενο στα μέσα κοινωνικής δικτύωσης από τους αριστερούς χρήστες.Δεδομένου ότι τα γλωσσικά μοντέλα μαθαίνουν από τεράστιες ποσότητες πληροφοριών που εξάγονται από το διαδίκτυο, πιθανότατα αντανακλούν μέρος αυτής της προκατάληψης αντί να τη δημιουργούν από την αρχή.

Σε κάθε περίπτωση, η συνέπεια είναι η ίδια: όταν ένα chatbot λαμβάνει οδηγίες να μεγιστοποιήσει την πειστική του δύναμη υπέρ ενός συγκεκριμένου ιδεολογικού μπλοκ, το μοντέλο τείνει να αύξηση του ποσοστού των παραπλανητικών ισχυρισμών, αν και συνεχίζω να τα αναμειγνύω με πολλά σωστά δεδομένα. Το πρόβλημα δεν είναι μόνο ότι μπορούν να διαρρεύσουν ψευδείς πληροφορίες.αλλά Το κάνει αυτό τυλιγμένο σε μια φαινομενικά λογική και καλά τεκμηριωμένη αφήγηση.

Οι ερευνητές επισημαίνουν επίσης ένα δυσάρεστο σημείο: Δεν έχουν αποδείξει ότι οι ανακριβείς ισχυρισμοί είναι εκ φύσεως πιο πειστικοί.Ωστόσο, όταν η Τεχνητή Νοημοσύνη πιέζεται να γίνει ολοένα και πιο αποτελεσματική, ο αριθμός των σφαλμάτων αυξάνεται παράλληλα. Με άλλα λόγια, η βελτίωση της πειστικής απόδοσης χωρίς συμβιβασμούς στην ακρίβεια αποκαλύπτεται ως μια τεχνική και ηθική πρόκληση που παραμένει άλυτη.

Αυτό το μοτίβο είναι ιδιαίτερα ανησυχητικό σε περιπτώσεις υψηλή πολιτική πόλωση, όπως αυτές που βιώνονται σε μέρη της Ευρώπης και της Βόρειας Αμερικής, όπου τα περιθώρια νίκης είναι στενά και μια χούφτα ποσοστιαίων μονάδων μπορεί να καθορίσει το αποτέλεσμα γενικών ή προεδρικών εκλογών.

Περιορισμοί των μελετών και αμφιβολίες σχετικά με τον πραγματικό αντίκτυπο στην κάλπη

Αν και τα αποτελέσματα από το Nature and Science είναι ακλόνητα και συμφωνούν στα κύρια συμπεράσματά τους, και οι δύο ομάδες επιμένουν ότι Αυτά είναι ελεγχόμενα πειράματα, όχι πραγματικές καμπάνιες.Υπάρχουν αρκετά στοιχεία που προσκαλούν την προσοχή κατά την εξαγωγή δεδομένων σαν εκλογές στο δρόμο.

Αφενός, οι συμμετέχοντες είτε εγγράφηκαν οικειοθελώς είτε στρατολογήθηκαν μέσω πλατφορμών που προσφέρουν οικονομική αποζημίωση, γεγονός που εισάγει προκαταλήψεις αυτοεπιλογής και απομακρύνεται από την ποικιλομορφία του πραγματικού εκλογικού σώματοςΕπιπλέον, γνώριζαν ανά πάσα στιγμή ότι Μιλούσαν με μια Τεχνητή Νοημοσύνη. και που ήταν μέρος μιας μελέτης, συνθήκες που δύσκολα θα επαναλαμβάνονταν σε μια συνηθισμένη εκστρατεία.

Μια άλλη σημαντική λεπτομέρεια είναι ότι οι μελέτες μέτρησαν κυρίως αλλαγές στις στάσεις και τις δηλωμένες προθέσειςόχι η πραγματική ψήφος. Αυτοί είναι χρήσιμοι δείκτες, αλλά δεν είναι ισοδύναμοι με την παρατήρηση της τελικής συμπεριφοράς την ημέρα των εκλογών. Στην πραγματικότητα, στα πειράματα στις ΗΠΑ, το αποτέλεσμα ήταν κάπως μικρότερο από ό,τι στον Καναδά και την Πολωνία, γεγονός που υποδηλώνει ότι το πολιτικό πλαίσιο και ο βαθμός προηγούμενης αναποφασιστικότητας έχουν σημαντική επιρροή.

Στην περίπτωση της βρετανικής μελέτης που συντονίστηκε από Κόμπι Χάκενμπεργκ Από το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, υπάρχουν επίσης σαφείς περιορισμοί: τα δεδομένα προέρχονται μόνο από ψηφοφόροι του Ηνωμένου Βασιλείου, όλοι τους γνώριζαν ότι συμμετείχαν σε μια ακαδημαϊκή έρευνα και με οικονομική αποζημίωσηΑυτό περιορίζει τη γενίκευσή του σε άλλες χώρες της ΕΕ ή σε λιγότερο ελεγχόμενα πλαίσια.

Παρ 'όλα αυτά, η κλίμακα αυτών των έργων - δεκάδες χιλιάδες συμμετέχοντες και περισσότεροι από 700 διαφορετικά πολιτικά θέματα— και η μεθοδολογική διαφάνεια έχουν οδηγήσει ένα μεγάλο μέρος της ακαδημαϊκής κοινότητας να σκεφτεί ότι Σκιαγραφούν ένα πιθανό σενάριοΗ χρήση πολιτικών chatbots ικανών να αλλοιώνουν τις απόψεις σχετικά γρήγορα δεν είναι πλέον μια φουτουριστική υπόθεση, αλλά ένα τεχνικά εφικτό σενάριο σε επερχόμενες εκστρατείες.

Ένας νέος εκλογικός παράγοντας για την Ευρώπη και άλλες δημοκρατίες

Πέρα από τις συγκεκριμένες περιπτώσεις των ΗΠΑ, του Καναδά, της Πολωνίας και του Ηνωμένου Βασιλείου, τα ευρήματα έχουν άμεσες επιπτώσεις για Ευρώπη και Ισπανίαόπου η ρύθμιση της πολιτικής επικοινωνίας στα μέσα κοινωνικής δικτύωσης και η χρήση προσωπικών δεδομένων σε εκστρατείες αποτελούν ήδη αντικείμενο έντονης συζήτησης. Η πιθανότητα ενσωμάτωσης chatbots που διατηρούν εξατομικευμένοι διάλογοι με τους ψηφοφόρους Προσθέτει ένα επιπλέον επίπεδο πολυπλοκότητας.

Μέχρι σήμερα, η πολιτική πειθώ διατυπωνόταν κυρίως μέσω στατικές διαφημίσεις, συγκεντρώσεις, τηλεοπτικές συζητήσεις και μέσα κοινωνικής δικτύωσηςΗ άφιξη των βοηθών συνομιλίας εισάγει ένα νέο στοιχείο: την ικανότητα διατήρησης αλληλεπιδράσεις ένας προς έναν, προσαρμοσμένο εν κινήσει σε ό,τι λέει ο πολίτης σε πραγματικό χρόνο, και όλα αυτά με ένα πρακτικά οριακό κόστος για τους διοργανωτές της εκστρατείας.

Οι ερευνητές τονίζουν ότι το κλειδί δεν είναι πλέον μόνο ποιος ελέγχει τη βάση δεδομένων των ψηφοφόρων, αλλά ποιος μπορεί ανάπτυξη μοντέλων ικανών να ανταποκρίνονται, να βελτιώνουν και να αναπαράγουν επιχειρήματα συνεχώς, με έναν όγκο πληροφοριών που υπερβαίνει κατά πολύ αυτόν που θα μπορούσε να χειριστεί ένας ανθρώπινος εθελοντής σε ένα τηλεφωνικό κέντρο ή σε ένα σημείο του δρόμου.

Σε αυτό το πλαίσιο, φωνές όπως αυτή του Ιταλού εμπειρογνώμονα Βάλτερ Κουατροτσιόκι Επιμένουν ότι η ρυθμιστική εστίαση θα πρέπει να μετατοπιστεί από την επιθετική εξατομίκευση ή την ιδεολογική τμηματοποίηση προς πυκνότητα πληροφοριών που μπορούν να παρέχουν τα μοντέλα. Μελέτες δείχνουν ότι η πειθώ αυξάνεται κυρίως όταν τα δεδομένα πολλαπλασιάζονται και όχι όταν χρησιμοποιούνται συναισθηματικές στρατηγικές.

La Η σύμπτωση αποτελεσμάτων μεταξύ Φύσης και Επιστήμης έχει σημάνει συναγερμό σε ευρωπαϊκούς οργανισμούς ανησυχούν για το ακεραιότητα των δημοκρατικών διαδικασιώνΠαρόλο που η Ευρωπαϊκή Ένωση σημειώνει πρόοδο με πλαίσια όπως ο Νόμος για τις Ψηφιακές Υπηρεσίες ή η μελλοντική ειδική ρύθμιση της Τεχνητής Νοημοσύνης, η ταχύτητα με την οποία εξελίσσονται αυτά τα μοντέλα Απαιτεί συνεχή αναθεώρηση των μηχανισμών εποπτείας, ελέγχου και διαφάνειας..

Ψηφιακός γραμματισμός και άμυνα κατά της αυτοματοποιημένης πειθούς

Ένα από τα επαναλαμβανόμενα μηνύματα στα ακαδημαϊκά σχόλια που συνοδεύουν αυτά τα έργα είναι ότι η απάντηση δεν μπορεί να βασίζεται αποκλειστικά σε απαγορεύσεις ή τεχνικούς ελέγχους. Οι συγγραφείς συμφωνούν ότι θα είναι απαραίτητο να ενισχυθεί η ψηφιακός γραμματισμός του πληθυσμού, ώστε οι πολίτες να μάθουν να αναγνωρίζουν και αντιστέκονται στην πειθώ που παράγονται από αυτόματα συστήματα.

Συμπληρωματικά πειράματα, όπως αυτά που δημοσιεύονται στο PNAS NexusΥποδεικνύουν ότι οι χρήστες που κατανοούν καλύτερα πώς λειτουργούν τα μεγάλα γλωσσικά μοντέλα είναι λιγότερο ευάλωτοι στις προσπάθειές του να επηρεάσει. Η γνώση ότι ένα chatbot μπορεί να κάνει λάθος, να υπερβάλλει ή να συμπληρώσει τα κενά με εικασίες μειώνει την τάση να αποδέχεται κανείς τα μηνύματά του σαν να προέρχονται από μια αλάνθαστη αρχή.

Ταυτόχρονα, έχει παρατηρηθεί ότι η πειστική αποτελεσματικότητα της Τεχνητής Νοημοσύνης δεν εξαρτάται τόσο από το αν ο συνομιλητής πιστεύει ότι μιλάει σε έναν ειδικό άνθρωπο, αλλά από το ποιότητα και συνέπεια των επιχειρημάτων που λαμβάνει. Σε ορισμένες δοκιμές, τα μηνύματα του chatbot κατάφεραν ακόμη και να μειώνουν την πίστη στις θεωρίες συνωμοσίας, ανεξάρτητα από το αν οι συμμετέχοντες νόμιζαν ότι συνομιλούσαν με ένα άτομο ή με μια μηχανή.

Αυτό υποδηλώνει ότι η ίδια η τεχνολογία δεν είναι εγγενώς επιβλαβής: μπορεί να χρησιμοποιηθεί και για τα δύο καταπολέμηση της παραπληροφόρησης ως προς τη διάδοσή τουΗ διαχωριστική γραμμή χαράσσεται από τις οδηγίες που δίνονται στο μοντέλο, τα δεδομένα με τα οποία εκπαιδεύεται και, πάνω απ' όλα, τους πολιτικούς ή εμπορικούς στόχους εκείνων που το θέτουν σε εφαρμογή.

Ενώ οι κυβερνήσεις και οι ρυθμιστικές αρχές συζητούν τα όρια και τις απαιτήσεις διαφάνειας, οι συγγραφείς αυτών των έργων επιμένουν σε μία ιδέα: πολιτικά chatbots Θα είναι σε θέση να ασκήσουν τεράστια επιρροή μόνο εάν το κοινό συμφωνήσει να αλληλεπιδράσει μαζί τους.Ως εκ τούτου, η δημόσια συζήτηση σχετικά με τη χρήση του, τη σαφή επισήμανσή του και το δικαίωμα να μην υπόκειται κανείς σε αυτοματοποιημένη πειθώ θα αποτελέσουν κεντρικά ζητήματα στη δημοκρατική συζήτηση τα επόμενα χρόνια.

Η εικόνα που σκιαγραφείται από την έρευνα στο Nature and Science αποκαλύπτει τόσο ευκαιρίες όσο και κινδύνους: Τα chatbots τεχνητής νοημοσύνης μπορούν να βοηθήσουν στην καλύτερη εξήγηση των δημόσιων πολιτικών και στην επίλυση σύνθετων αμφιβολιών, αλλά μπορούν επίσης... έχουν την ικανότητα να για να ανατρέψουν την εκλογική ζυγαριάειδικά μεταξύ των αναποφάσιστων ψηφοφόρων, και το κάνουν αυτό με ένα προφανές τίμημα όσον αφορά την ακρίβεια των πληροφοριών όταν εκπαιδεύονται να μεγιστοποιούν την πειθώ τους, μια λεπτή ισορροπία που οι δημοκρατίες θα πρέπει να αντιμετωπίσουν επειγόντως και χωρίς αφέλεια.

σχετικό άρθρο:

Η Καλιφόρνια ψηφίζει το νομοσχέδιο SB 243 για τη ρύθμιση των chatbots τεχνητής νοημοσύνης και την προστασία των ανηλίκων

Αλμπέρτο ​​Ναβάρο

Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.

Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί ​​σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.