Πώς να συνδέσετε το AnythingLLM με το MCP

Το AnythingLLM όχι μόνο σας επιτρέπει να συνομιλείτε με μοντέλα τεχνητής νοημοσύνης και να συμβουλεύεστε έγγραφα χρησιμοποιώντας το RAG. Οι πράκτορές του μπορούν επίσης να συνδεθούν με εξωτερικά εργαλεία χάρη... Πρωτόκολλο πλαισίου μοντέλου (MCP), ένα ανοιχτό πρότυπο που αναπτύχθηκε αρχικά από την Anthropic.

Αυτή η συμβατότητα επιτρέπει την προσθήκη λειτουργιών που δεν περιλαμβάνονται στην εφαρμογή. Ανάλογα με τον διακομιστή MCP που χρησιμοποιείται, ο πράκτορας μπορεί να υποβάλει ερώτημα σε μια βάση δεδομένων, να αλληλεπιδράσει με μια άλλη εφαρμογή, να εξετάσει ανοιχτά έγγραφα ή να εκτελέσει συγκεκριμένες ενέργειες στο σύστημα.

Η εγκατάσταση απαιτεί την επεξεργασία ενός αρχείου JSON και την επαλήθευση ότι ο διακομιστής χρησιμοποιεί συμβατή μεταφορά. Συνιστάται επίσης να ελέγξετε προσεκτικά τα δικαιώματα, καθώς ένα εργαλείο MCP μπορεί να επεξεργαστεί ευαίσθητες πληροφορίες ή να εκτελέσει κώδικα στον υπολογιστή.

Τι είναι το MCP και πώς λειτουργεί στο AnythingLLM;

Το MCP ορίζει έναν κοινό τρόπο επικοινωνίας των εφαρμογών τεχνητής νοημοσύνης με εξωτερικά εργαλεία και πηγές. Σε αυτό το σύστημα, το AnythingLLM λειτουργεί ως client ή host, ενώ ο διακομιστής MCP δημοσιεύει τις συναρτήσεις που μπορεί να χρησιμοποιήσει ο agent.

Αυτό αποφεύγει την ανάγκη προγραμματισμού διαφορετικής ενσωμάτωσης για κάθε μοντέλο και εφαρμογή. Ο διακομιστής περιγράφει τα εργαλεία και τις παραμέτρους του, το AnythingLLM τα παρουσιάζει στο μοντέλο και το μοντέλο αποφασίζει πότε θα καλέσει κάθε συνάρτηση.

Ωστόσο, η τρέχουσα συμβατότητα έχει περιορισμούς. Τόσο το AnythingLLM Desktop όσο και η αυτοφιλοξενούμενη έκδοση που χρησιμοποιεί Docker υποστηρίζουν τη φόρτωση. Εργαλείααλλά δεν υποστηρίζουν πόρους, προτροπές ή δειγματοληψία MCP.

Επομένως, δεν αρκεί ένας διακομιστής απλώς να διαφημίζεται ως συμβατός με MCP. Για να χρησιμοποιηθεί στο AnythingLLM, πρέπει να προσφέρει εργαλεία μέσω υποστηριζόμενης μεταφοράς και να μπορεί να εκτελείται στο περιβάλλον όπου είναι εγκατεστημένη η εφαρμογή.

Πώς να προσθέσετε έναν διακομιστή MCP στο AnythingLLM

Η διαμόρφωση αποθηκεύεται σε ένα αρχείο με όνομα anythingllm_mcp_servers.json, που βρίσκεται μέσα στον φάκελο plugins από τον κατάλογο αποθήκευσης AnythingLLM.

Εάν δεν υπάρχει ήδη, η εφαρμογή το δημιουργεί αυτόματα όταν ανοίγετε τη σελίδα. Δεξιότητες ΠράκτοραΜπορείτε επίσης να αποκτήσετε πρόσβαση στην επιλογή επεξεργασίας των ρυθμίσεων MCP από την ίδια ενότητα.

Η γενική δομή μπορεί να μοιάζει με αυτό:

{
  "mcpServers": {
    "mi-servidor": {
      "command": "npx",
      "args": [
        "-y",
        "paquete-del-servidor"
      ],
      "env": {
        "API_KEY": "TU_CLAVE"
      }
    }
  }
}

Πρέπει να αντικαταστήσετε το όνομα, την εντολή, τα ορίσματα και τις μεταβλητές με τις τιμές που αναφέρονται στην τεκμηρίωση για τον διακομιστή που θέλετε να εγκαταστήσετε.

Αφού αποθηκεύσετε τις αλλαγές, πατήστε Φρεσκάρω στις Δεξιότητες Πρακτόρων. Το AnythingLLM θα ξαναδιαβάσει το αρχείο, θα κλείσει τυχόν εκτελούμενες διεργασίες MCP και θα προσπαθήσει να τις ξεκινήσει με τη νέα διαμόρφωση, χωρίς να χρειάζεται να επανεκκινήσει ολόκληρη την εφαρμογή.

Από αυτήν την οθόνη μπορείτε να ελέγξετε την κατάσταση κάθε διακομιστή, να δείτε τα σφάλματά του, να δείτε τα φορτωμένα εργαλεία, να τον ξεκινήσετε ή να τον διακόψετε και να τον αφαιρέσετε από τη διαμόρφωση.

Μεταφορές STDI, SSE και Streamable HTTP

Το AnythingLLM υποστηρίζει διάφορους τρόπους σύνδεσης με διακομιστές MCP. Η επιλογή δεν εξαρτάται από τις προτιμήσεις του χρήστη, αλλά από τη μέθοδο μεταφοράς που εφαρμόζεται από κάθε διακομιστή.

stdio Είναι το προεπιλεγμένο σύστημα και εκτελεί τον διακομιστή ως τοπική διεργασία. Απαιτεί το πεδίο command και μπορεί να περιλαμβάνει ορίσματα και μεταβλητές περιβάλλοντος:

{
  "mcpServers": {
    "servidor-local": {
      "command": "uvx",
      "args": [
        "nombre-del-servidor"
      ]
    }
  }
}

Μεταφορά ΝΝΑ y HTTP με δυνατότητα ροής Συνδέονται σε έναν διακομιστή χρησιμοποιώντας μια διεύθυνση ιστού. Σε αυτές τις περιπτώσεις, πρέπει να χρησιμοποιήσετε το πεδίο url και όχι command:

{
  "mcpServers": {
    "servidor-remoto": {
      "type": "streamable",
      "url": "http://servidor:3003/mcp",
      "headers": {
        "Authorization": "Bearer TU_TOKEN"
      }
    }
  }
}

Εάν παρέχεται μια διεύθυνση URL χωρίς να καθορίζεται ο τύπος, το AnythingLLM υποθέτει ότι είναι SSE. Οι κεφαλίδες σάς επιτρέπουν να στέλνετε διακριτικά ή άλλα δεδομένα που απαιτούνται από τον διακομιστή, αλλά θα πρέπει να αποφύγετε την κοινή χρήση του αρχείου εάν περιέχει διαπιστευτήρια.

Πώς να αποτρέψετε την αυτόματη εκκίνηση ενός διακομιστή MCP

Οι διακομιστές MCP μπορούν να καταναλώσουν μνήμη, να διατηρήσουν ανοιχτές διεργασίες ή να συνδεθούν σε εξωτερικές υπηρεσίες. Για να αποτρέψει την εκκίνηση μιας συγκεκριμένης μαζί με τις άλλες, το AnythingLLM έχει μια ιδιότητα autoStart.

Αυτή η επιλογή πρέπει να συμπεριληφθεί στο αντικείμενο anythingllm:

{
  "mcpServers": {
    "servidor-pesado": {
      "command": "npx",
      "args": [
        "-y",
        "paquete-del-servidor"
      ],
      "anythingllm": {
        "autoStart": false
      }
    }
  }
}

Ο διακομιστής θα συνεχίσει να εμφανίζεται στις Δεξιότητες Πρακτόρων, αλλά θα πρέπει να τον εκκινήσετε χειροκίνητα από τη διεπαφή όταν θέλετε να τον χρησιμοποιήσετε.

Το AnythingLLM δεν εκκινεί τους διακομιστές MCP αμέσως μόλις ανοίξει η επιφάνεια εργασίας ή ξεκινήσει το κοντέινερ. Για να αποφευχθεί η υπερφόρτωση της διαδικασίας εκκίνησης, αρχίζει να τους ενεργοποιεί στο παρασκήνιο όταν αποκτάτε πρόσβαση στις Δεξιότητες Πράκτορα ή χρησιμοποιείτε την πολιτική. @agent.

Διαφορές μεταξύ MCP στο AnythingLLM Desktop και στο Docker

Στο AnythingLLM Desktop, οι διακομιστές MCP εκτελούνται απευθείας στο σύστημα κεντρικού υπολογιστή. Επομένως, οποιαδήποτε εντολή χρησιμοποιείται στη διαμόρφωση πρέπει να είναι εγκατεστημένη και προσβάσιμη μέσω των διακομιστών MCP. PATH, ή να υποδεικνύεται από την πλήρη διαδρομή του εκτελέσιμου αρχείου.

Αυτό επηρεάζει εντολές όπως npx, uv, uvx, node o bashΤο AnythingLLM Desktop δεν εγκαθιστά αυτόματα αυτά τα προγράμματα ή τις εξωτερικές εξαρτήσεις που απαιτούνται από κάθε διακομιστή.

Τα εργαλεία που έχετε κατεβάσει παραμένουν στον υπολογιστή σας ακόμα και μετά την απεγκατάσταση του AnythingLLM. Εάν δεν τα χρειάζεστε πλέον, θα πρέπει να τα απεγκαταστήσετε ξεχωριστά.

Στο Docker, οι διακομιστές εκτελούνται μέσα στο κοντέινερ AnythingLLM. Η εικόνα περιλαμβάνει κοινές εντολές όπως npx, uv, uvx, node y bashαν και ορισμένοι διακομιστές ενδέχεται να απαιτούν πρόσθετα προγράμματα.

Τα πακέτα και τα εκτελέσιμα αρχεία που εγκαθίστανται χειροκίνητα μέσα στο κοντέινερ θα χαθούν κατά την αφαίρεσή του. Επιπλέον, για την ανάγνωση ή την εγγραφή μόνιμων αρχείων στον κεντρικό υπολογιστή, οι διαδρομές που βρίσκονται στην περιοχή:

/app/server/storage/

Αυτή η τοποθεσία αντιστοιχεί στον κατάλογο που ορίζεται από τη μεταβλητή STORAGE_LOCATION κατά την ανάπτυξη του AnythingLLM.

Πώς να συνδέσετε το AnythingLLM με το Bluebeam Revu

Ένα από τα πιο ενδιαφέροντα παραδείγματα είναι η ενσωμάτωση με το Bluebeam Revu, που στοχεύει στην αναζήτηση ενεργών PDF, στην εκτέλεση αναζητήσεων, στη δημιουργία περιλήψεων και στην αυτοματοποίηση ορισμένων διαδικασιών αξιολόγησης.

Αυτή η λειτουργία απαιτεί Έκδοση 21.10 ή νεότερηένα πρόγραμμα Bluebeam Max και AnythingLLM Desktop. Στο Revu, πρέπει να συνδεθείτε στο:

Revu > Preferences > Admin > MCP

Στη συνέχεια, ενεργοποιήστε το MCP και επιλέξτε AnythingLLM Desktop. Στο AnythingLLM, ανοίξτε τις ρυθμίσεις, μεταβείτε στις Δεξιότητες πράκτορα και χρησιμοποιήστε την επιλογή για να επεξεργαστείτε τη διαμόρφωση του MCP.

Το Bluebeam παρέχει ένα αρχείο JSON που περιέχει τη διαδρομή προς το εκτελέσιμο αρχείο MCP. Μόλις αποθηκευτεί, κάντε κλικ στην επιλογή Ανανέωση και επαληθεύστε ότι ο διακομιστής εμφανίζεται στη λίστα. Θα πρέπει επίσης να ενεργοποιήσετε τις δυνατότητες δημιουργίας και αποθήκευσης αρχείων, καθώς και προβολής και σύνοψης εγγράφων.

Με ένα PDF ανοιχτό στο Revu, μπορείτε να δοκιμάσετε τη σύνδεση ξεκινώντας τη λειτουργία agent:

@agent ¿Cuántas páginas tiene el PDF activo en Revu?

Η διαθεσιμότητα ενός εργαλείου δεν εγγυάται ότι το μοντέλο θα το χρησιμοποιήσει σωστά. Συνιστάται πάντα να ελέγχετε τα αρχεία και τις αλλαγές που δημιουργούνται από τον πράκτορα.

Πώς να χρησιμοποιήσετε διακομιστές MCP με το Docker

Το AnythingLLM Docker υποστηρίζει διακομιστές MCP σε αυτο-φιλοξενούμενες εγκαταστάσεις, αλλά αυτή η λειτουργία δεν είναι διαθέσιμη στην υπηρεσία AnythingLLM Cloud.

Ένας διακομιστής που βασίζεται σε stdio μπορεί να εκτελείται εντός του ίδιου του κοντέινερ. Εάν ο διακομιστής MCP βρίσκεται σε άλλο κοντέινερ, συνήθως μπορείτε να τον συνδέσετε χρησιμοποιώντας ένα Κοινόχρηστο δίκτυο Docker και χρησιμοποιήστε το όνομα της υπηρεσίας ως διεύθυνση.

Για παράδειγμα, ένας διακομιστής HTTP που ονομάζεται mcp-server και διαθέσιμο στη θύρα 3003 θα μπορούσε να διαμορφωθεί χρησιμοποιώντας μια εσωτερική διεύθυνση URL παρόμοια με:

http://mcp-server:3003/mcp

Η ακριβής διεύθυνση και η διαδρομή εξαρτώνται από τον διακομιστή που χρησιμοποιείται. Η δημιουργία μιας πρόσθετης γέφυρας HTTP δεν είναι πάντα απαραίτητη: θα είχε νόημα μόνο εάν ο αρχικός διακομιστής δεν προσφέρει συμβατή μεταφορά ή εάν η συγκεκριμένη αρχιτεκτονική απαιτεί προσαρμογή της επικοινωνίας.

Επίσης, ελέγξτε τους κανόνες δικτύου, τον έλεγχο ταυτότητας και τους τοποθετημένους τόμους. Δεν πρέπει να εκθέτετε έναν διακομιστή MCP απευθείας στο διαδίκτυο χωρίς προστασία, ειδικά εάν επιτρέπει την ανάγνωση αρχείων, την εκτέλεση εντολών ή την τροποποίηση εσωτερικών υπηρεσιών.

Τι να κάνετε εάν ο πράκτορας δεν χρησιμοποιεί τα εργαλεία MCP

Εάν το μοντέλο αγνοήσει τον διακομιστή MCP, ελέγξτε πρώτα ότι εμφανίζεται ως ενεργός στις Δεξιότητες Πράκτορα και ότι τα εργαλεία του είναι διαθέσιμα. Εάν ο διακομιστής δεν ξεκινήσει, ελέγξτε τα αρχεία καταγραφής της επιφάνειας εργασίας ή τα αρχεία καταγραφής κοντέινερ.

Σε μια σύνδεση stdio, επαληθεύει ότι η εντολή υπάρχει, η διαδρομή είναι σωστή και όλες οι εξαρτήσεις είναι εγκατεστημένες. Στο SSE ή Streamable HTTP, ελέγχει τη διεύθυνση URL, τις κεφαλίδες, το δίκτυο και τη μέθοδο ελέγχου ταυτότητας.

Το πρόβλημα μπορεί επίσης να έγκειται στο μοντέλο. Τα μικρά ή τα μοντέλα με υψηλή κβαντοποίηση ενδέχεται να δυσκολεύονται να ερμηνεύσουν τον ορισμό του εργαλείου και να δημιουργήσουν σωστά την απαιτούμενη κλήση. Ένα περιορισμένο παράθυρο περιβάλλοντος επιδεινώνει το πρόβλημα όταν πολλές συναρτήσεις είναι ενεργές.

Μπορείτε να δοκιμάσετε αυτά τα μέτρα:

• Απενεργοποιήστε προσωρινά τα εργαλεία που δεν χρειάζεστε.
• Επαναφορά ιστορικού χρησιμοποιώντας /reset.
• Χρησιμοποιήστε ένα μεγαλύτερο μοντέλο ή ένα με καλύτερη υποστήριξη για κλήσεις εργαλείων.
• Γράψτε μια πιο συγκεκριμένη οδηγία που να υποδεικνύει ποια ενέργεια πρέπει να εκτελεστεί.
• Επαληθεύστε ότι ο παράγοντας δείχνει ότι το εργαλείο έχει πραγματικά εκτελεστεί.

Δεν πρέπει να συγχέετε μια πειστική απάντηση με την πραγματική εκτέλεση. Ένα μοντέλο μπορεί να ισχυριστεί ότι έχει συμβουλευτεί ένα εργαλείο ακόμα κι αν δεν έχει κάνει καμία κλήση.

Κίνδυνοι ασφαλείας κατά την εγκατάσταση διακομιστών MCP

Ένας διακομιστής MCP είναι ένα λογισμικό ικανό να λαμβάνει πληροφορίες και να εκτελεί ενέργειες. Η εγκατάστασή του συνεπάγεται εμπιστοσύνη τόσο στον προγραμματιστή του όσο και στις εξαρτήσεις του, επομένως δεν πρέπει να εκτελείτε άγνωστα πακέτα απλώς και μόνο επειδή εμφανίζονται σε ένα κιτ εργαλείων.

Πριν προσθέσετε ένα, ελέγξτε το αποθετήριό του, τα απαραίτητα δικαιώματα, τις μεταβλητές περιβάλλοντος και τις ενέργειες που εκθέτει. Χρησιμοποιήστε κλειδιά με τα λιγότερα δικαιώματα και αποφύγετε την αποθήκευση προσωπικών ή επαγγελματικών διαπιστευτηρίων σε διαμορφώσεις που θα μπορούσαν να καταλήξουν να κοινοποιηθούν.

Συνιστάται επίσης να απενεργοποιήσετε τα εργαλεία που δεν θα χρησιμοποιείτε και να διατηρήσετε την ανθρώπινη επιβεβαίωση για μη αναστρέψιμες ενέργειες. Το MCP διευκολύνει τη σύνδεση μεταξύ εφαρμογών, αλλά Δεν καθιστά αυτόματα ένα εργαλείο ασφαλές..

Με την κατάλληλη διαμόρφωση, τα AnythingLLM και MCP σάς επιτρέπουν να επεκτείνετε έναν οδηγό με τοπικά εργαλεία, επαγγελματικές εφαρμογές και εσωτερικές υπηρεσίες. Το κλειδί είναι να χρησιμοποιείτε συμβατούς διακομιστές, να περιορίζετε τα δικαιώματά τους και να επαληθεύετε κάθε ενέργεια πριν τους εμπιστευτείτε σημαντικές πληροφορίες ή διαδικασίες.