Kuinka ottaa AnythingLLM käyttöön ensimmäistä kertaa ilman komplikaatioita

Jos mietit ensimmäistä kertaa, miten AnythingLLM:n käyttöönotto aloitetaan, se tarkoittaa, että haluat ottaa loikan paikalliseen tekoälyyn. Loistava valinta! Saat paitsi paremman hallinnan tietoihisi ja paremman yksityisyyden, myös mahdollisuuden käyttää erilaisia ​​malleja ilman ulkoisia palveluita. Tässä viestissä Opastamme sinua ensimmäisissä vaiheissa, jotta saat kaiken toimimaan täydellisesti ilman komplikaatioita.

Kuinka ottaa AnythingLLM käyttöön ensimmäistä kertaa ilman komplikaatioita

Paikallinen tekoäly jatkaa jalansijaa, ja syystäkin: Tietosuoja, täydellinen hallinta dataan ja vapaa pääsy yhä tehokkaampiin malleihinMutta joskus pelko sen toteuttamisen teknisestä monimutkaisuudesta latistaa innostuksen. Silloin ratkaisut, kuten AnythingLLM, tulevat apuun.

Kuvittele, että sinulla olisi oma ChatGPT, mutta se toimisi kokonaan tietokoneellasi, omien asiakirjojen kanssa jakamatta tietoja kolmansille osapuolille. AnythingLLM on juuri sitä: Alusta, jonka avulla voit keskustella kielimallien kanssa, luoda tekoälyagentteja ja rakentaa yksityisiä tietokantoja omien tiedostojesi kanssa.

Parasta AnythingLLM:ssä on se, että se on all-in-one-sovellusSe kokoaa kaiken tarvitsemasi yhteen paikkaan. Se on suunniteltu tuomaan tekoälyn ja Recall Augmented Generation (RAG) -teknologian kaikkien saataville. RAG yhdistää kielimallin ulkoisiin tietolähteisiin, kuten paikallisiin dokumentteihin, luodakseen tarkempia, täsmällisempiä ja ajantasaisempia vastauksia.

Sinun ei siis tarvitse olla ohjelmointiasiantuntija käyttääksesi tekoälyä paikallisesti: asenna vain AnythingLLM. Mutta, Mitä seuraavaksi tapahtuu? AnythingLLM:n asentaminen ensimmäistä kertaa voi olla pelottavaa. Siksi olemme laatineet tämän oppaan auttaaksemme sinua alkuun ilman vaivaa.

Ensimmäiset vaiheet AnythingLLM:n asentamisen jälkeen

Helpoin tapa aloittaa on AnythingLLM:n työpöytäversiolla. Työkalu on saatavilla Työpöytäversio Linuxille, macOS:lle ja Windowsillejonka voit ladata heidän virallinen verkkosivustoJos haluat käyttää palvelinversiota, katso merkintä AnythingLLM:n asentaminen ja määrittäminen Dockerilla.

Kun aloitat AnythingLLM:n määrittämisen ensimmäistä kertaa, sinua tervehtii ohjattu toiminto. Tässä vaiheessa tärkein vaihe on valitse LLM-tarjoajasiEli kielimalli, joka toimii tekoälyn aivoina. Yleisimpiä vaihtoehtoja ovat:

• AnythingLLM integroidulla OllamallaTämä on yksinkertaisin vaihtoehto aloittaa. Ohjattu toiminto kertoo valinneensa asennetulle laitteistollesi sopivimman mallin ja jatkaa latausta. Jos et halua komplikaatioita, anna prosessin vain valmistua.
• Itse majoittunut OllamaTämä koskee tilanteita, joissa Ollama on jo käynnissä tietokoneellasi ja olet määrittänyt omat mallisi.
• Pilvipalveluntarjoajat (Groq, OpenAI, Google Gemini): Jos haluat käyttää maksullisia malleja tai kolmansien osapuolten yritysten ilmaisia ​​rajoitettuja malleja, voit myös määrittää ne täällä.

Voit tietenkin myöhemmin valita haluamasi mallit osiosta Kokoonpano, joka on päänäytön vasemmassa alakulmassa. Siellä, osion alla TekoälypalveluntarjoajatNapsauta LLM:ää, niin löydät kokonaisen osion, jossa on saatavilla olevat mallit ja niiden käyttöön tarvittavat määritysvaihtoehdot.

Ensimmäinen työtilasi

Mallin valinnan jälkeen avustaja pyytää sinua luomaan ensimmäisen työtilasi. (Työtila), Tämä on olennainen vaihe AnythingLLM:n asentamisessa ensimmäistä kertaa ilman komplikaatioita. Mieti työtila kuin itsenäinen projekti tai kansio, jolla on omat kokoonpanonsaVoit esimerkiksi käyttää eri kielimallia jokaiselle työtilalle. Näillä työtiloilla on omat dokumenttinsa, oma keskusteluhistoriansa ja oma nimensä.

AnythingLLM:n lippulaivaominaisuus on kyky "Syötä" tekoälylle omia dokumenttejasiTätä kutsutaan RAG:ksi, ja sen avulla tekoäly voi vastata kysymyksiin antamiesi tietojen, ei pelkästään yleistietämyksensä, perusteella. Prosessi on erittäin intuitiivinen:

1. Sisälläsi Työtila, etsi nappia, jolla lataa asiakirjoja (+-kuvake).
2. Voit ladata tiedostoja tietokoneeltasi tai jopa antaa verkkosivun URL-osoitteen luettavaksi.
3. Kun asiakirja on ladattu, järjestelmä käsittelee sen. Sen jälkeen sinun on "siirrettävä" se työtilaan ja napsautettava "Tallenna ja upota"Tämä viimeinen vaihe muuntaa asiakirjasi tekstin muotoon, jonka tekoäly voi ymmärtää ja josta se voi hakea tehokkaasti."
4. Jotta tekoäly ottaa tämän asiakirjan huomioon keskustelussa, voit "kiinnittää" sen (Kiinnitä se) chatissa, mikä kehottaa sinua priorisoimaan kyseisen tiedonlähteen.

Aktivoi Agentin taidot kun AnythingLLM otetaan käyttöön ensimmäistä kertaa

Erittäin tärkeä osa AnythingLLM:n perustamista ensimmäistä kertaa on Agentin taidotTyökalun mukana tulee kolme agentin kykyä aktivoituu oletuksenaEnsimmäinen on RAG ja pitkäkestoinen muistimikä antaa asiamiehelle mahdollisuuden tutustua paikallisiin asiakirjoihisi.

Kaksi muuta ovat Näytä ja tiivistä asiakirjat y Poimi verkkosivustojaJos napsautat kutakin, voit lukea lyhyen kuvauksen sen toiminnasta ja hyödyllisyydestä. Sen jälkeen luetellaan viisi muuta taitoa. oletuksena poistettu käytöstäMutta ne kannattaa myös aktivoida. Nämä ovat:

• Pääsy tiedostojärjestelmäänAntaa agentille mahdollisuuden lukea, kirjoittaa, hakea ja hallita tiedostoja tietyssä hakemistossa.
• Asiakirjan luominenAgentti voi luoda chatista ladattavia asiakirjoja eri muodoissa (.xlsx, .docx, .pdf jne.).
• Luo graafit: Voit luoda erityyppisiä kaavioita chatissa annetuista tiedoista.
• Live-verkkohaku ja -selailuTämä ominaisuus antaa agentille mahdollisuuden tutustua internetiin vastatakseen kysymyksiin.
• SQL-liitinAgentti voi muodostaa yhteyden SQL-tietokantoihin vastatakseen kysymyksiin.

Lisäksi pykälän alla SovellusintegraatiotVoit ottaa käyttöön liittimiä, jotta Agentti on vuorovaikutuksessa Gmailin, Outlookin ja Google Kalenterin kanssa API-avainten avulla.Nämä vaihtoehdot ovat erittäin hyödyllisiä, jos haluat käyttää tekoälyä sähköpostien kyselyihin tai luonnosten tekemiseen tai tapahtumien luomiseen ja muokkaamiseen. Kun otat AnythingLLM:n käyttöön ensimmäistä kertaa, on hyvä tarkastella näitä taitoja ja aktivoida ne, joita aiot käyttää päivittäin.