Η Google αφαιρεί την Gemma από το AI Studio μετά από καταγγελία γερουσιαστή

Η απόφαση της Google να αποσύρετε το μοντέλο σας Η Τζέμα από την πλατφόρμα AI Studio Αυτό έρχεται μετά από επίσημη καταγγελία της Αμερικανίδας γερουσιαστή Μάρσα Μπλάκμπερν, η οποία ισχυρίζεται ότι Η Τεχνητή Νοημοσύνη απήγγειλε ψευδείς κατηγορίες εναντίον τουΤο επεισόδιο αναζωπύρωσε τη συζήτηση σχετικά με τα όρια των γενετικών συστημάτων και την ευθύνη των εταιρειών τεχνολογίας όταν ένα μοντέλο παράγει επιβλαβείς πληροφορίες.

Η Gemma σχεδιάστηκε ως ένα σύνολο ελαφρών μοντέλων που απευθύνονται σε προγραμματιστές και όχι ως βοηθός καταναλωτών γενικής χρήσης. Παρόλα αυτά, Οι χρήστες είχαν πρόσβαση σε αυτό μέσω του AI Studio. y Το χρησιμοποιούσαν για να θέσουν ερωτήματα σχετικά με τα γεγονόταπου θα οδηγούσε σε κατασκευασμένες απαντήσεις και ανύπαρκτοι σύνδεσμοι.

Τι συνέβη και πώς ξεκίνησε η διαμάχη

Σύμφωνα με την εκδοχή του γερουσιαστή, όταν ρωτήθηκε «Κατηγορήθηκε η Μάρσα Μπλάκμπερν για βιασμό;”, Η Τζέμα θα είχε επιστρέψει μια λεπτομερή αλλά ψευδή αφήγηση η οποία τοποθετούσε τα γεγονότα κατά τη διάρκεια μιας προεκλογικής εκστρατείας για την εκλογή της Γερουσίας της πολιτείας το 1987 και περιελάμβανε φερόμενη πίεση για την απόκτηση ναρκωτικών και μη συναινετικές πράξεις που δεν υπήρξαν ποτέΗ ίδια η βουλευτής διευκρίνισε ότι η προεκλογική της εκστρατεία ήταν το 1998 και ότι ποτέ δεν έχει δεχτεί τέτοια κατηγορία.

Η απάντηση της Τεχνητής Νοημοσύνης θα είχε επίσης ενσωματώσει σύνδεσμοι που οδήγησαν σε σελίδες σφάλματος ή άσχετα νέα, που παρουσιάζονται σαν να ήταν αποδεικτικά στοιχεία. Αυτό το σημείο είναι ιδιαίτερα ευαίσθητο επειδή μετατρέπει μια «ψευδαίσθηση» σε κάτι που γίνεται αντιληπτό ως επαληθεύσιμο, ακόμα κι αν δεν είναι.

Η αντίδραση της Google και οι αλλαγές στην πρόσβαση της Gemma

Μετά τη διαμάχη, Η Google εξήγησε ότι είχε εντοπίσει προσπάθειες χρήσης της Gemma από μη προγραμματιστές στο AI Studio.με ερωτήσεις πραγματικών περιστατικών. Ως εκ τούτου, αποφάσισε Αφαίρεση της Gemma από την δημόσια πρόσβαση στο AI Studio και διατήρηση της διαθεσιμότητάς της αποκλειστικά μέσω API. για όσους δημιουργούν εφαρμογές.

Η εταιρεία τόνισε ότι Το Gemma είναι ένα μοντέλο που δίνει προτεραιότητα στον προγραμματιστή και όχι ένα chatbot καταναλωτών όπως το Gemini.Επομένως, δεν έχει σχεδιαστεί ως εργαλείο επαλήθευσης γεγονότων ούτε διαθέτει συγκεκριμένα εργαλεία ανάκτησης πληροφοριών. Σύμφωνα με τα λόγια της εταιρείας, Οι ψευδαισθήσεις αποτελούν πρόκληση για ολόκληρο τον κλάδο και εργάζονται ενεργά για τον μετριασμό τους.

Αυτή η αλλαγή υπονοεί ότι Δεν θα υπάρχει πλέον διεπαφή τύπου συνομιλίας. στο AI Studio για Gemma· η χρήση του περιορίζεται σε περιβάλλοντα ανάπτυξης και ενσωματώσεις που ελέγχονται από API, ένα πλαίσιο όπου ο προγραμματιστής αναλαμβάνει πρόσθετες διασφαλίσεις και επικυρώσεις.

Νομική διάσταση και πολιτική συζήτηση σχετικά με την προκατάληψη και τη δυσφήμιση

Η Μπλάκμπερν έστειλε επιστολή στον Διευθύνοντα Σύμβουλο της Google, Σούνταρ Πιτσάι, περιγράφοντας αυτό που συνέβη όχι ως ένα ακίνδυνο λάθος, αλλά ως... δυσφήμιση που παράγεται από μοντέλο τεχνητής νοημοσύνηςΟ γερουσιαστής ζήτησε εξηγήσεις σχετικά με τον τρόπο δημιουργίας του περιεχομένου, ποια μέτρα υπάρχουν για την ελαχιστοποίηση των πολιτικών ή ιδεολογικών προκαταλήψεων και ποιες ενέργειες θα ληφθούν για την αποτροπή επαναλήψεων, ορίζοντας επίσης προθεσμία για την παραλαβή της απάντησης.

Κατά τη διάρκεια ακρόασης στην Επιτροπή Εμπορίου της Γερουσίας, η βουλευτής έθεσε επίσης το ζήτημα στον Αντιπρόεδρο Κυβερνητικών Υποθέσεων και Δημόσιας Πολιτικής της Google, Μάρκχαμ Έρικσον, ο οποίος Αναγνώρισε ότι οι παραισθήσεις είναι ένα γνωστό πρόβλημα και σημείωσε ότι η εταιρεία εργάζεται για τον μετριασμό τους.Η υπόθεση έχει εντείνει την εστίαση στην ευθύνη των εταιρειών όταν τα μοντέλα τους βλάπτουν τη φήμη δημόσιων προσώπων.

Η διαμάχη εντάθηκε με άλλα επεισόδια που αναφέρθηκαν από τους συντηρητικούς, όπως αυτό του ακτιβιστής Ρόμπι Στάρμπακ, αυτό Ισχυρίζεται ότι η Τζέμα τον συνέδεσε ψευδώς με σοβαρά εγκλήματα και εξτρεμισμό.Σε αυτό το πλαίσιο, Η συζήτηση για πιθανές προκαταλήψεις αναζωπυρώνεται στα συστήματα Τεχνητής Νοημοσύνης και η ανάγκη για πλαίσια ασφαλείας, παρακολούθηση και οδούς προσφυγής σε περίπτωση ζημιάς.

Πέρα από τις κομματικές θέσεις, η υπόθεση υπογραμμίζει ότι τα μοντέλα που δεν έχουν σχεδιαστεί για δημόσια αλληλεπίδραση μπορούν να παρεξηγημένοι ως γενικοί βοηθοίθολώνοντας τη γραμμή μεταξύ πρωτοτύπων ανάπτυξης και προϊόντων για το ευρύ κοινό, με προφανείς κινδύνους εάν αυτό που παράγεται εκληφθεί ως επαληθευμένη πληροφορία.

Η αποχώρηση της Gemma από το AI Studio και ο περιορισμός της στο σήμα API μια προσπάθεια ανακατεύθυνσης της χρήσης του μοντέλου στον τομέα για τον οποίο σχεδιάστηκε, ενώ παράλληλα εγείρει ερωτήματα σχετικά με πρότυπα ειλικρίνειας, διασφαλίσεων και λογοδοσίας αυτό θα πρέπει να διέπει πότε μια Τεχνητή Νοημοσύνη επηρεάζει τη φήμη πραγματικών ανθρώπων, ιδίως δημόσιων αξιωματούχων.