- Integrering av Jan AI med Model Context Protocol for å utvide mulighetene til lokale LLM-er.
- Konfigurasjon av både lokale og eksterne MCP-servere for å få tilgang til eksterne data og verktøy.
- Administrasjon av sikkerhetstillatelser og tekniske krav som NodeJS og Python for drift.
- Optimalisering av bruken av modeller med verktøyfunksjoner for å forbedre produktiviteten.
Hvis du liker ideen om å ha en smart assistent som ikke er avhengig av skyen og respekterer personvernet ditt til det fulle, er Jan det perfekte verktøyet. I bunn og grunn er det et åpen kildekode-alternativ til ChatGPT eller Claude som kjører utelukkende på din egen maskinvareDette betyr at du har full kontroll over dataene dine og ikke trenger å bekymre deg for hvor spørsmålene dine ender opp.
Det mest interessante er at Jan har implementert Model Context Protocol (MCP), en åpen standard som lar språkmodeller samhandle med eksterne datakilder og verktøy uten behov for å programmere komplekse integrasjoner for hver modell. Det er som om MCP var USB-C for kunstig intelligens: et felles grensesnitt som lar deg koble enhver kompatibel modell til ethvert kompatibelt verktøy.
Hva er egentlig Model Context Protocol (MCP)?
Enkelt sagt løser MCP problemet med å måtte lage en annen kontakt for hver modell- og verktøykombinasjon. I stedet en enhetlig standard der MCP-serverne fungerer som en bro, og tilbyr ledetekster, verktøy og data som LLM kan påkalle etter forespørsel fra brukeren.
Det finnes to hovedmåter for kommunikasjon. På den ene siden har vi eksterne MCP-serveresom opererer via HTTP og ikke krever tunge lokale installasjoner. På den annen side finnes det lokale MCP-serveresom bruker maskinens standard tekstinndata og -utdata (stdio), selv om sistnevnte også kan koble til nettverksressurser om nødvendig.
Slik aktiverer og konfigurerer du MCP i januar
For å begynne å bruke disse funksjonene, må du først sørge for at du har den nyeste versjonen av Jan installert. Siden denne funksjonen har gått gjennom betafaser, bør du gå til innstillinger og aktivere eksperimentelle funksjoner for å få MCP-serverpanelet til å vises.
En viktig detalj er at for at mange av disse verktøyene skal fungere, må du ha NodeJS og/eller Python installert på datamaskinen din. Hvis du ikke har dem, må du laste dem ned fra de offisielle nettstedene deres, siden de er motoren som lar deg utføre kommandoer fra lokale servere.
Fremgangsmåte for å legge til en ny server
Prosessen er ganske intuitiv. I MCP-serverdelen i innstillingene ser du en plusstegn (+) øverst til høyre. Hvis du klikker på den, åpnes et skjema der du må fylle ut følgende felt:
- Servernavn: Et identifiserende navn (for eksempel «browsermcp»).
- Kommando: Utførelsesinstruksjonen, som
npx. - Argumenter: Den spesifikke pakken som skal kjøres, for eksempel
@browsermcp/mcp. - Miljøvariabler: Dette feltet står vanligvis tomt med mindre verktøyet krever en spesifikk API-nøkkel.
Når den er konfigurert, bør du bekrefte at serveren er riktig aktivert ved å slå på den tilhørende bryteren. Hvis du vil forhindre at Jan spør deg hver gang modellen vil bruke et verktøy, kan du velge alternativet Tillat alle MCP-verktøytillatelser i innstillingene.
Praktiske eksempler: Fra ClickHouse til Microsoft Learn
Allsidigheten er enorm. Hvis du for eksempel trenger å jobbe med databaser, kan du installere serveren til KlikkHus Følg trinnene ovenfor og aktiver serveren i kontrollpanelet slik at spørreverktøyene er synlige i chatten.
Et annet svært kraftig alternativ er MCP-nettleseren, som lar AI samhandle med nettet. For at dette skal fungere perfekt, anbefales det å bruke modeller med sterke verktøybruksmuligheter, som de i Claude-familien (Sonnet eller Opus). Et triks er å kjøre nettleseren i inkognitomodus, slik at AI-en har et rent lerret og ikke blir forvirret av de åpne øktene dine.
Det er også mulig å koble til eksterne servere, som for eksempel den fra Microsoft LearnSiden det er eksternt, er det ikke nødvendig å installere noe lokalt. Du konfigurerer bare URL-en, og du kan be Jan om å søke etter teknisk dokumentasjon og oppsummere komplekse Azure- eller Microsoft 365-trinn, alt mens språkbehandlingen skjer på maskinen din.
Sikkerhets- og ytelseshensyn
Det er ikke bare solskinn og roser; å gi en modell tilgang til eksterne verktøy innebærer risikoer. En ondsinnet prompt kan forsøke å utføre uønskede handlinger. Derfor implementerer Jan en brukerstyrt tillatelsessystemder du kan godkjenne eller avvise hvert kall til et verktøy ved å se nøyaktig hvilke argumenter som skal sendes.
Når det gjelder ytelse, bør du vite at aktive MCP-tilkoblinger bruker en del av modellkontekstvinduDette betyr at jo flere verktøy du har aktive eller jo lengre samtalen er, desto lengre tid kan det ta før svaret genereres. Hvis du merker at modellen går tom for plass, kan du prøve å sette kontekststørrelsen til 0, slik at Jan kan administrere den automatisk fra modellen.
Løse vanlige problemer
Hvis serveren ikke kobler til til tross for at den er på listen, sjekk at kommandoene er skrevet riktig og at NodeJS eller Python er riktig installert på systemet. Noen ganger løser en enkel omstart av Jan lasteproblemet.
Hvis du bruker modeller med åpen kildekode og legger merke til at de ikke bruker verktøyene, husk det Ikke alle modeller er designet for verktøyanropNoen GGUF-modeller kan forårsake problemer eller rett og slett ikke være i stand til å håndtere MCP-verktøylogikk. I så fall er det best å prøve en annen modell som spesifiserer verktøystøtte.
Jans evne til å integrere MCP-servere forvandler datamaskinen din til en frittstående arbeidsstasjon hvor du kan kryssreferere lokale dokumentdata med eksterne API-er. Ved å kombinere personvernet til en lokal LLM med fleksibiliteten til en åpen standard, oppnås en ideell balanse mellom datasuverenitet og funksjonell maktslik at AI kan utføre komplekse søke-, analyse- og skriveoppgaver uten at informasjonen din forlater hjemmet.
Jeg er en teknologientusiast som har gjort sine "geek"-interesser til et yrke. Jeg har brukt mer enn 10 år av livet mitt på å bruke banebrytende teknologi og fikse med alle slags programmer av ren nysgjerrighet. Nå har jeg spesialisert meg på datateknologi og videospill. Dette er fordi jeg i mer enn 5 år har skrevet for forskjellige nettsteder om teknologi og videospill, og laget artikler som prøver å gi deg den informasjonen du trenger på et språk som er forståelig for alle.
Hvis du har spørsmål, spenner min kunnskap fra alt relatert til Windows-operativsystemet samt Android for mobiltelefoner. Og mitt engasjement er til deg, jeg er alltid villig til å bruke noen minutter og hjelpe deg med å løse eventuelle spørsmål du måtte ha i denne internettverdenen.