Claude για Chrome: Ο παράγοντας που δοκιμάζει ενέργειες εντός του προγράμματος περιήγησης

Μετά την έναρξη Κλοντ 4.1, Το Anthropic κάνει το άλμα στην υποβοηθούμενη πλοήγηση με ένα Προεπισκόπηση Claude για Chrome, ένας παράγοντας που λειτουργεί απευθείας μέσα στο πρόγραμμα περιήγησης για να βλέπει τι υπάρχει στην οθόνη σας, να ακολουθεί ροές και να ολοκληρώνει εργασίες υπό τον έλεγχο του χρήστη.

Η εταιρεία επιλέγει ένα άκρως ελεγχόμενη εφαρμογή: ξεκινά με 1.000 χρήστες μέγιστου προγράμματος και ένα σύστημα αναμονής για την προσεκτική επέκταση της πρόσβασης, θέτοντας το Εστιάστε στην ασφάλεια και στη συλλογή πραγματικών σχολίων πριν το ανοίξετε στο κοινό..

Τι είναι το Claude για Chrome;

Αυτή είναι μια επέκταση που προσθήκη πλαϊνού πάνελ στο Chrome όπου μπορείτε να συνομιλήσετε με τον Claude διατηρώντας παράλληλα το περιεχόμενο των όσων συμβαίνουν στην τρέχουσα καρτέλα: κείμενο σελίδας, ορατές φόρμες και η αλληλεπίδραση που εκτελεί ο ίδιος ο πράκτορας.

Σε αντίθεση με έναν απλό βοηθό που απαντά μόνο σε ερωτήσεις, ο Κλοντ μπορεί εκτελέστε ενέργειες εντός του προγράμματος περιήγησης αν τους αφήσετε: κάντε κλικ σε κουμπιά, συμπληρώστε φόρμες, μετακινηθείτε σε ένα διαδικασία αγοράς ή δημοσίευση περιεχομένου, υπό την επιφύλαξη πάντα αδειών και επιβεβαιώσεων.

Ο Anthropic ισχυρίζεται ότι αυτή η προσέγγιση είναι φυσική εξέλιξη από την πρόσφατη δουλειά του που συνέδεσε τον Κλοντ με ημερολόγια, έγγραφα και εργαλεία παραγωγικότηταςΗ ενσωμάτωση αυτών των δυνατοτήτων στο πρόγραμμα περιήγησης φέρνει συνέχεια στις εργασίες του πραγματικού κόσμου.

Σε εσωτερικές δοκιμές, οι πρώτες εκδόσεις βοήθησαν στο διαχείριση ημερολογίων και email, αυτοματοποιήστε τις συνήθεις αναφορές εξόδων και επικυρώστε τις ροές χρηστών σε ιστότοπους, καθώς και συντάξτε απαντήσεις ή συνοψίστε σχόλια σε συνεργατικά έγγραφα.

Τι μπορείτε να κάνετε μέσα στο πρόγραμμα περιήγησης

Ο πράκτορας μπορεί να εκτελέσει εργασίες όπως αναζήτηση διαφημίσεων με συγκεκριμένα κριτήρια σε πύλες ακινήτων, συνοψίζοντας συνεισφορές σε ένα Έγγραφο Google ή προσθέτοντας προϊόντα σε ένα καλάθι αγορών σε μια υπηρεσία παράδοσης, χωρίς να χάνεται η επαφή με το περιβάλλον. Σε καθημερινά σενάρια, για παράδειγμα, επιτρέπει συμπληρώστε τα στοιχεία μιας κράτησης από τις πληροφορίες που βλέπετε στη σελίδα και αφήστε την τελική επιβεβαίωση στα χέρια σας, ή ότι Ελέγξτε τις υποβολές email για μηνύματα που αναμένουν απαντήσεις.

Για επαναλαμβανόμενα αιτήματα, όπως π.χ. καταχωρίσεις δεδομένων και φόρμες, ο πράκτορας βελτιστοποιεί τα μηχανικά βήματα και απελευθερώνει χρόνο για εργασίες υψηλότερης αξίας, πάντα με επιλογές για παρακολούθηση ή διακοπή ενεργειών εάν κάτι δεν ταιριάζει.

Η εταιρεία έχει ήδη εξερευνήσει τον έλεγχο υπολογιστών με τη λειτουργία Χρήσης Υπολογιστή και τώρα, με τη διεπαφή του προγράμματος περιήγησης, επιδιώκει πιο ακριβή αλληλεπίδραση που μειώνει τις ασάφειες και προσφέρει καλύτερη ιχνηλασιμότητα κάθε ενέργειας.

Ασφάλεια: πραγματικοί κίνδυνοι και στοιχεία δοκιμών

Πράκτορες που χρησιμοποιούν την επιφάνεια του προγράμματος περιήγησης ένας βασικός κίνδυνος: άμεσες ενέσεις κρυμμένα σε ιστότοπους, email ή έγγραφα που επιχειρούν να κάνουν το μοντέλο να εκτελέσει κακόβουλες οδηγίες εν αγνοία του χρήστη.

Η Anthropic έχει συγκεντρώσει 123 δοκιμαστικές περιπτώσεις που καλύπτουν 29 σενάρια επίθεσηςΧωρίς μέτρα μετριασμού, το ποσοστό επιτυχίας της έγχυσης ήταν 23,6%, ένα ανησυχητικό ποσοστό για δυνητικά ευαίσθητες μετοχές.

Μεταξύ των παραδειγμάτων πριν από τις υπερασπίσεις, ένα παραγγελία καμουφλαρισμένη σε ένα email οδήγησε τον πράκτορα να διαγράψει τα μηνύματα του χρήστη χωρίς να ζητήσει επιβεβαίωση, που απεικονίζει το είδος της ζημιάς που μπορεί να προκαλέσει μια καλά κρυμμένη εντολή του αντίπαλου.

Με μέτρα που εφαρμόζονται στο λεγόμενο ««αυτόνομη λειτουργία», το ποσοστό επιτυχίας αυτών των επιθέσεων μειώθηκε στο 11,2% υπό τις ίδιες συνθήκεςκαι σε ένα σύνολο προκλήσεων που αφορούν συγκεκριμένα προγράμματα περιήγησης (όπως αόρατα πεδία φόρμας στο DOM ή οδηγίες στη διεύθυνση URL ή στον τίτλο καρτέλας), η επιτυχία μειώθηκε από 35,7% σε 0%.

Προστατευτικά μέτρα και όρια

Το πρώτο εμπόδιο είναι το σύστημα δικαιώματα σε επίπεδο ιστότοπουΜπορείτε να παραχωρήσετε ή να ανακαλέσετε την πρόσβαση του Claude σε συγκεκριμένους τομείς από τις ρυθμίσεις ανά πάσα στιγμή και να περιορίσετε το πεδίο εφαρμογής του.

Επιπλέον, ο αντιπρόσωπος ζητά επιβεβαίωση για μετοχές υψηλού κινδύνου όπως η δημοσίευση, η αγορά ή η κοινοποίηση προσωπικών δεδομένων. Ακόμα και αν ενεργοποιήσετε την αυτόνομη λειτουργία, οι διασφαλίσεις παραμένουν σε ισχύ για τις πιο ευαίσθητες περιπτώσεις.

Το ανθρωπικό έχει βελτιωμένες προτροπές συστήματος για να καθοδηγήσει το μοντέλο μέσω ευαίσθητων δεδομένων και έχει αποκλείσει κατηγορίες υψηλού κινδύνου, όπως χρηματοοικονομικές υπηρεσίες, περιεχόμενο για ενηλίκους ή ιστότοπους πειρατείας από προεπιλογή.

Η εταιρεία δοκιμάζει προηγμένοι ταξινομητές που ανιχνεύουν ύποπτα μοτίβα και ασυνήθιστα αιτήματα πρόσβασης, ακόμη και όταν είναι κρυμμένα σε φαινομενικά νόμιμα πλαίσια, και θα συνεχίσουν να επεκτείνουν την κάλυψη γνωστών και αναδυόμενων επιθέσεων.

Πρόσβαση, διαθεσιμότητα και επόμενα βήματα

Η αρχική πρόσβαση περιορίζεται σε 1.000 μέγιστοι συνδρομητές προγράμματος (κοστίζει μεταξύ 100 και 200 ​​δολαρίων το μήνα, ανάλογα με τη χώρα). Εάν ενδιαφέρεστε, μπορείτε να εγγραφείτε στη λίστα αναμονής στη διεύθυνση claude.ai/chrome.

Μόλις εγκριθεί η πρόσβαση, η εγκατάσταση εκτελείται από το Chrome Web Store και επικυρώθηκε με τα διαπιστευτήρια του Claude. Η σύσταση είναι να ξεκινήσετε με αξιόπιστους ιστότοπους και να αποφύγετε εκείνους που ασχολούνται με οικονομικές, νομικές ή ιατρικές πληροφορίες.

Τα μαθήματα του πιλότου θα χρησιμεύσουν βελτιώστε τους ταξινομητές ένεση, ενίσχυση των δικαιωμάτων και προσαρμογή της συμπεριφοράς του μοντέλου σε πραγματικές καταστάσεις που δεν εμφανίζονται σε εργαστήριο δοκιμών.

Το κίνημα έρχεται στη μέση του αγώνα για το «πράκτορας προγράμματος περιήγησης»: Η αμηχανία τώρα προσφέρει στον κομήτηΗ Google ενσωματώνει το Gemini στο Chrome και άλλοι παίκτες εργάζονται πάνω σε παρόμοιες λειτουργίες. Ο Anthropic επιλέγει να κινείται αργά, με την ασφάλεια ως ύψιστη προτεραιότητα..

Το Claude for Chrome διαμορφώνεται ως ένα σημαντικό βήμα προς τους διαδικτυακούς βοηθούς που όχι μόνο ανταποκρίνονται, αλλά και ενεργούν με άμεση ανταπόκριση. Η σταδιακή ανάπτυξή του και τα στοιχεία για τον μετριασμό του υποδηλώνουν πρόοδο, αν και υπάρχει ακόμη πολύς δρόμος μπροστά μας. για να φέρει τον λειτουργικό κίνδυνο πιο κοντά στα αποδεκτά ελάχιστα όρια.

Σχετικό άρθρο:

Microsoft Mu: Το νέο γλωσσικό μοντέλο που φέρνει την τοπική τεχνητή νοημοσύνη στα Windows 11

Αλμπέρτο ​​Ναβάρο

Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.

Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί ​​σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.