Slik setter du opp AnythingLLM for første gang uten komplikasjoner

Hvis du tenker på hvordan du skal sette opp AnythingLLM for første gang, betyr det at du vil ta spranget inn i lokal kunstig intelligens. Godt valg! Ikke bare vil du ha mer kontroll over dataene dine og større personvern, men du vil også kunne bruke forskjellige modeller uten å være avhengig av eksterne tjenester. I dette innlegget Vi veileder deg gjennom de første stegene, slik at alt fungerer perfekt uten komplikasjoner..

Slik setter du opp AnythingLLM for første gang uten komplikasjoner

Lokal kunstig intelligens fortsetter å vinne terreng, og med rette: Personvern, total kontroll over data og fri tilgang til stadig kraftigere modellerMen noen ganger ender frykten for den tekniske kompleksiteten involvert i implementeringen opp med å dempe entusiasmen. Det er her løsninger som AnythingLLM kommer til unnsetning.

Tenk deg å ha din egen ChatGPT, men som kjører utelukkende på datamaskinen din, med dokumentene dine, og uten å dele informasjon med tredjeparter. AnythingLLM er nettopp det: En plattform som lar deg chatte med språkmodeller, opprette AI-agenter og bygge private databaser med dine egne filer.

Det beste med AnythingLLM er at det er en alt-i-ett-applikasjonDen samler alt du trenger på ett sted. Den er utviklet for å gjøre AI og Recall Augmented Generation (RAG)-teknologi tilgjengelig for alle. RAG kobler en språkmodell med eksterne datakilder, for eksempel lokale dokumenter, for å generere mer nøyaktige, presise og oppdaterte svar.

Så du trenger ikke å være programmeringsekspert for å bruke AI lokalt: bare installer AnythingLLM. Men, Hva skjer nå? Det kan være skremmende å sette opp AnythingLLM for første gang. Derfor har vi utarbeidet denne veiledningen for å hjelpe deg i gang uten problemer.

Første steg etter installasjon av AnythingLLM

Den enkleste måten å komme i gang på er med skrivebordsversjonen av AnythingLLM. Verktøyet er tilgjengelig i en Skrivebordsversjon for Linux, macOS og Windowssom du kan laste ned fra deres offisiell nettsideHvis du foretrekker å bruke serverversjonen, se oppføringen Slik installerer og konfigurerer du AnythingLLM med Docker.

Når du begynner å sette opp AnythingLLM for første gang, vil du bli møtt av en veiviser. På dette tidspunktet er det viktigste trinnet velg din LLM-leverandørDet vil si språkmodellen som skal fungere som hjernen til AI-en. Blant de vanligste alternativene er:

• AnythingLLM med integrert OllamaDette er det enkleste alternativet å starte med. Veiviseren vil fortelle deg at den har valgt den mest passende modellen for den installerte maskinvaren din og vil fortsette med nedlastingen. Hvis du ikke vil ha noen komplikasjoner, kan du bare la prosessen fullføres.
• Selvinnlosjert OllamaDette gjelder hvis du allerede har Ollama kjørende på datamaskinen din og har konfigurert dine egne modeller.
• Skyleverandører (Groq, OpenAI, Google Gemini): Hvis du foretrekker å bruke betalte modeller eller gratismodeller med begrensede versjoner fra tredjepartsselskaper, kan du også konfigurere dem her.

Selvfølgelig kan du senere velge modellene du ønsker fra seksjonen Konfigurasjon, som er nederst til venstre på hovedskjermen. Der, under seksjonen AI-leverandørerKlikk på LLM, så finner du en hel seksjon med tilgjengelige modeller og konfigurasjonsalternativene som trengs for bruken av dem.

Din første arbeidsplass

Etter at du har valgt modellen, vil assistenten be deg om å opprette ditt første arbeidsområde (Arbeidsplass), Dette er et viktig trinn for å sette opp AnythingLLM for første gang uten komplikasjoner. Tenk på en arbeidsområde som en uavhengig prosjekt eller mappe som har sin egen konfigurasjonDu kan for eksempel bruke en annen språkmodell for hvert arbeidsområde. Disse arbeidsområdene har sine egne dokumenter, sin egen chattelogg og sitt eget navn.

AnythingLLMs flaggskipfunksjon er muligheten til å "Mat" AI-en med dine egne dokumenterDette kalles RAG og lar AI svare på spørsmål basert på informasjonen du oppgir, ikke bare din generelle kunnskap. Prosessen er veldig intuitiv:

1. Inne i din Arbeidsplass, se etter knappen for å laste opp dokumenter (et «+»-ikon).
2. Du kan laste opp filer fra datamaskinen din eller til og med oppgi en URL til en nettside som den skal lese.
3. Når dokumentet er lastet opp, vil systemet behandle det. Deretter må du "flytte" det til arbeidsområdet ditt og klikke på "Lagre og legg inn«Dette siste trinnet konverterer teksten i dokumentet ditt til et format som AI kan forstå og søke effektivt i.»
4. For å sikre at AI-en tar hensyn til dette dokumentet i samtalen, kan du «feste» det (Fest den) i chatten, som forteller deg at du skal prioritere den informasjonskilden.

Aktiver Agentferdigheter når du konfigurerer AnythingLLM for første gang

Et veldig viktig aspekt ved å sette opp AnythingLLM for første gang er AgentferdigheterVerktøyet leveres med tre agentegenskaper aktiveres som standardDen første er RAG og langtidshukommelsesom er det som lar agenten konsultere dine lokale dokumenter.

De to andre er Vise og oppsummere dokumenter y Uttrekk nettstederHvis du klikker på hver enkelt, kan du lese en kort beskrivelse av funksjonen og nytten. Fem ferdigheter til blir deretter listet opp. deaktivert som standardMen det er også verdt å aktivere dem. Disse er:

• Tilgang til filsystemetLar agenten lese, skrive, søke i og administrere filer i en bestemt katalog.
• DokumentopprettingAgenten vil kunne opprette nedlastbare dokumenter fra chatten i forskjellige formater (.xlsx, .docx, .pdf osv.).
• Generer graferLar deg lage forskjellige typer grafer fra data gitt i chatten.
• Live nettsøk og surfingDenne muligheten lar agenten konsultere internett for å svare på spørsmål.
• SQL-koblingAgenten vil kunne koble seg til SQL-databaser for å svare på spørsmål.

I tillegg, under seksjonen AppintegrasjonerDu kan aktivere koblinger slik at Agenten samhandler med Gmail, Outlook og Google Kalender ved hjelp av API-nøklerDisse alternativene er svært nyttige hvis du vil bruke AI til å spørre eller utarbeide e-poster, eller opprette og endre hendelser. Når du konfigurerer AnythingLLM for første gang, er det lurt å gjennomgå disse ferdighetene og aktivere de du har tenkt å bruke daglig.