Kako povezati AnythingLLM z MCP

AnythingLLM vam ne omogoča le pogovora z modeli umetne inteligence in pregledovanja dokumentov z uporabo RAG. Njegovi agenti se lahko povežejo tudi z zunanjimi orodji zaradi ... Protokol konteksta modela (MCP), odprti standard, ki ga je prvotno razvilo podjetje Anthropic.

Ta združljivost omogoča dodajanje funkcij, ki niso vključene v aplikacijo. Glede na uporabljeni strežnik MCP lahko agent poizveduje po zbirki podatkov, komunicira z drugo aplikacijo, pregleduje odprte dokumente ali izvaja določena dejanja v sistemu.

Nastavitev zahteva urejanje datoteke JSON in preverjanje, ali strežnik uporablja združljiv transport. Priporočljivo je tudi skrbno pregledati dovoljenja, saj lahko orodje MCP obdeluje občutljive podatke ali izvaja kodo v računalniku.

Kaj je MCP in kako deluje v AnythingLLM?

MCP definira običajen način komunikacije aplikacij umetne inteligence z zunanjimi orodji in viri. V tem sistemu AnythingLLM deluje kot odjemalec ali gostitelj, medtem ko strežnik MCP objavlja funkcije, ki jih lahko agent uporablja.

S tem se izognemo programiranju ločene integracije za vsak model in aplikacijo. Strežnik opiše svoja orodja in parametre, AnythingLLM jih predstavi modelu, model pa se odloči, kdaj poklicati posamezno funkcijo.

Vendar pa ima trenutna združljivost omejitve. Tako AnythingLLM Desktop kot tudi samostojna različica z Dockerjem podpirata nalaganje. Orodjavendar ne podpirajo virov, pozivov ali vzorčenja MCP.

Zato ni dovolj, da se strežnik zgolj oglašuje kot združljiv z MCP. Za uporabo v AnythingLLM mora ponujati orodja prek podprtega transporta in biti sposoben delovati v okolju, kjer je nameščena aplikacija.

Kako dodati strežnik MCP v AnythingLLM

Konfiguracija se shrani v datoteko z imenom anythingllm_mcp_servers.json, ki se nahaja v mapi plugins iz imenika za shranjevanje AnythingLLM.

Če še ne obstaja, ga aplikacija samodejno ustvari, ko odprete stran. Veščine agentaV istem razdelku lahko dostopate tudi do možnosti urejanja nastavitev MCP.

Splošna struktura je lahko videti takole:

{
  "mcpServers": {
    "mi-servidor": {
      "command": "npx",
      "args": [
        "-y",
        "paquete-del-servidor"
      ],
      "env": {
        "API_KEY": "TU_CLAVE"
      }
    }
  }
}

Ime, ukaz, argumente in spremenljivke morate zamenjati z vrednostmi, navedenimi v dokumentaciji za strežnik, ki ga želite namestiti.

Po shranjevanju sprememb pritisnite Osveži V Agent Skills bo AnythingLLM ponovno prebral datoteko, zaprl vse delujoče procese MCP in jih poskušal zagnati z novo konfiguracijo, ne da bi bilo treba ponovno zagnati celotno aplikacijo.

Na tem zaslonu lahko preverite stanje vsakega strežnika, si ogledate njegove napake, naložena orodja, ga zaženete ali ustavite ter ga odstranite iz konfiguracije.

Transporti STDI, SSE in Streamable HTTP

AnythingLLM podpira različne načine povezave s strežniki MCP. Izbira ni odvisna od uporabnikovih preferenc, temveč od načina prenosa, ki ga izvaja posamezen strežnik.

stdio To je privzeti sistem in strežnik izvaja kot lokalni proces. Zahteva polje command in lahko vključuje argumente in okoljske spremenljivke:

{
  "mcpServers": {
    "servidor-local": {
      "command": "uvx",
      "args": [
        "nombre-del-servidor"
      ]
    }
  }
}

Prevoz SSE y Pretočno HTTP S strežnikom se povežejo z uporabo spletnega naslova. V teh primerih morate uporabiti polje url in ne command:

{
  "mcpServers": {
    "servidor-remoto": {
      "type": "streamable",
      "url": "http://servidor:3003/mcp",
      "headers": {
        "Authorization": "Bearer TU_TOKEN"
      }
    }
  }
}

Če je URL podan brez navedbe vrste, AnythingLLM predpostavlja, da gre za SSE. Glave vam omogočajo pošiljanje žetonov ali drugih podatkov, ki jih zahteva strežnik, vendar se izogibajte deljenju datoteke, če vsebuje poverilnice.

Kako preprečiti samodejni zagon strežnika MCP

Strežniki MCP lahko porabljajo pomnilnik, ohranjajo procese odprte ali se povezujejo z zunanjimi storitvami. Da bi preprečili, da bi se določen strežnik zagnal skupaj z drugimi, ima AnythingLLM lastnost autoStart.

Ta možnost mora biti vključena v objekt anythingllm:

{
  "mcpServers": {
    "servidor-pesado": {
      "command": "npx",
      "args": [
        "-y",
        "paquete-del-servidor"
      ],
      "anythingllm": {
        "autoStart": false
      }
    }
  }
}

Strežnik se bo še naprej prikazoval v razdelku Spretnosti agenta, vendar ga boste morali za uporabo ročno zagnati iz vmesnika.

AnythingLLM ne zažene strežnikov MCP takoj po odprtju namizja ali zagonu vsebnika. Da bi se izognili preobremenitvi zagonskega procesa, jih začne aktivirati v ozadju, ko dostopate do veščin agenta ali uporabljate pravilnik. @agent.

Razlike med MCP v AnythingLLM Desktop in Docker

V programu AnythingLLM Desktop se strežniki MCP izvajajo neposredno na gostiteljskem sistemu. Zato mora biti vsak ukaz, uporabljen v konfiguraciji, nameščen in dostopen prek strežnikov MCP. PATHali pa naj bo označena s celotno potjo izvedljive datoteke.

To vpliva na ukaze, kot so npx, uv, uvx, node o bashAnythingLLM Desktop ne namesti samodejno teh programov ali zunanjih odvisnosti, ki jih zahteva vsak strežnik.

Prenesena orodja ostanejo v vašem računalniku tudi po odstranitvi programa AnythingLLM. Če jih ne potrebujete več, jih boste morali odstraniti posebej.

V Dockerju strežniki delujejo znotraj vsebnika AnythingLLM. Slika vključuje pogoste ukaze, kot so npx, uv, uvx, node y bashčeprav nekateri strežniki lahko zahtevajo dodatne programe.

Paketi in izvedljive datoteke, ročno nameščene v vsebniku, bodo po njegovi odstranitvi izgubljene. Poleg tega so za branje ali pisanje trajnih datotek na gostiteljskem računalniku potrebne poti, ki se nahajajo v:

/app/server/storage/

Ta lokacija ustreza imeniku, ki ga definira spremenljivka STORAGE_LOCATION pri uvajanju AnythingLLM.

Kako povezati AnythingLLM z Bluebeam Revu

Eden najzanimivejših primerov je integracija z Bluebeam Revu, namenjena pregledovanju aktivnih PDF-jev, iskanju, ustvarjanju povzetkov in avtomatizaciji določenih postopkov pregleda.

Ta funkcija zahteva Revu 21.10 ali novejša različicapaket Bluebeam Max in AnythingLLM Desktop. V Revu se morate prijaviti v:

Revu > Preferences > Admin > MCP

Nato aktivirajte MCP in izberite AnythingLLM Desktop. V AnythingLLM odprite nastavitve, pojdite na Agent Skills in uporabite možnost za urejanje konfiguracije MCP.

Bluebeam zagotovi datoteko JSON, ki vsebuje pot do izvedljive datoteke MCP. Ko je shranjena, kliknite Osveži in preverite, ali se strežnik prikaže na seznamu. Omogočiti morate tudi možnosti za ustvarjanje in shranjevanje datotek ter ogled in povzemanje dokumentov.

Ko je PDF odprt v programu Revu, lahko povezavo preizkusite tako, da zaženete način agenta:

@agent ¿Cuántas páginas tiene el PDF activo en Revu?

Razpoložljivost orodja ne zagotavlja, da ga bo model pravilno uporabljal. Vedno je priporočljivo pregledati datoteke in spremembe, ki jih je ustvaril agent.

Kako uporabljati strežnike MCP z Dockerjem

Docker AnythingLLM podpira strežnike MCP v samostojno gostovanih namestitvah, vendar ta funkcija ni na voljo v storitvi AnythingLLM Cloud.

Strežnik, ki temelji na stdio, se lahko izvaja znotraj samega vsebnika. Če je strežnik MCP v drugem vsebniku, ju lahko običajno povežete z uporabo Dockerjeva skupna mreža in kot naslov uporabite ime storitve.

Na primer, strežnik HTTP, imenovan mcp-server in na voljo na vratih 3003, bi lahko konfigurirali z uporabo notranjega URL-ja, podobnega:

http://mcp-server:3003/mcp

Natančen naslov in pot sta odvisna od uporabljenega strežnika. Ustvarjanje dodatnega mostu HTTP ni vedno potrebno: smiselno bi bilo le, če prvotni strežnik ne ponuja združljivega prenosa ali če specifična arhitektura zahteva prilagoditev komunikacije.

Preverite tudi omrežna pravila, preverjanje pristnosti in nameščene nosilce podatkov. Strežnika MCP ne smete izpostavljati neposredno internetu brez zaščite, še posebej, če omogoča branje datotek, izvajanje ukazov ali spreminjanje notranjih storitev.

Kaj storiti, če agent ne uporablja orodij MCP

Če model prezre strežnik MCP, najprej preverite, ali je v razdelku »Agent Skills« prikazan kot aktiven in ali so njegova orodja na voljo. Če se strežnik ne zažene, preverite dnevnike namizja ali dnevnike vsebnika.

V povezavi stdio preveri, ali ukaz obstaja, ali je pot pravilna in ali so nameščene vse odvisnosti. V SSE ali Streamable HTTP preveri URL, glave, omrežje in metodo preverjanja pristnosti.

Težava je lahko tudi v modelu. Majhni ali zelo kvantizirani modeli imajo lahko težave z interpretacijo definicije orodja in pravilnim generiranjem zahtevanega klica. Omejeno kontekstno okno težavo še poslabša, ko je aktivnih veliko funkcij.

Lahko poskusite s temi ukrepi:

• Začasno onemogočite orodja, ki jih ne potrebujete.
• Ponastavi zgodovino z uporabo /reset.
• Uporabite večji model ali model z boljšo podporo za klice orodij.
• Napišite bolj specifično navodilo, ki bo navedlo, katero dejanje je treba izvesti.
• Preverite, ali agent prikazuje, da je bilo orodje dejansko izvedeno.

Prepričljivega odgovora ne smete zamenjevati z dejansko izvedbo. Model lahko trdi, da se je posvetoval z orodjem, tudi če ni opravil nobenih klicev.

Varnostna tveganja pri nameščanju strežnikov MCP

Strežnik MCP je programska oprema, ki lahko sprejema informacije in izvaja dejanja. Njegova namestitev pomeni zaupanje tako razvijalcu kot njegovim odvisnostim, zato ne smete zagnati neznanih paketov zgolj zato, ker so v kompletu orodij.

Preden ga dodate, preglejte njegov repozitorij, potrebna dovoljenja, spremenljivke okolja in dejanja, ki jih razkriva. Uporabite ključe z najmanj privilegiji in se izogibajte shranjevanju osebnih ali poslovnih poverilnic v konfiguracijah, ki bi lahko bile uporabljene v skupni rabi.

Priporočljivo je tudi onemogočiti orodja, ki jih ne boste uporabljali, in ohraniti človeško potrditev za nepovratna dejanja. MCP olajša povezavo med aplikacijami, vendar To ne pomeni samodejno, da je orodje varno..

Z ustrezno konfiguracijo vam AnythingLLM in MCP omogočata razširitev čarovnika z lokalnimi orodji, profesionalnimi aplikacijami in internimi storitvami. Ključno je uporabljati združljive strežnike, omejiti njihova dovoljenja in preveriti vsako dejanje, preden jim zaupate pomembne informacije ali procese.