Jak bez problémů založit AnythingLLM poprvé

Pokud poprvé přemýšlíte o tom, jak nastavit AnythingLLM, znamená to, že se chcete pustit do lokální umělé inteligence. Skvělá volba! Nejenže budete mít větší kontrolu nad svými daty a větší soukromí, ale budete také moci používat různé modely, aniž byste se museli spoléhat na externí služby. V tomto příspěvku Provedeme vás prvními kroky, abyste vše uvedli do perfektního stavu bez komplikací..

Jak bez problémů založit AnythingLLM poprvé

Lokální umělá inteligence si nadále získává na síle, a právem: Soukromí, úplná kontrola nad daty a bezplatný přístup ke stále výkonnějším modelůmAle někdy strach z technické složitosti implementace nakonec nadšení utlumí. A právě zde přicházejí na pomoc řešení jako AnythingLLM.

Představte si, že máte vlastní ChatGPT, ale běží výhradně na vašem počítači, s vašimi dokumenty a bez sdílení informací s třetími stranami. AnythingLLM je přesně to: Platforma, která vám umožňuje chatovat s jazykovými modely, vytvářet agenty s umělou inteligencí a budovat soukromé databáze s vlastními soubory.

Nejlepší na AnythingLLM je, že je to... aplikace typu „vše v jednom“Shromažďuje vše, co potřebujete, na jednom místě. Je navržen tak, aby zpřístupnil technologii umělé inteligence a rozšířené generace informací (RAG) všem. RAG propojuje jazykový model s externími zdroji dat, jako jsou lokální dokumenty, a generuje tak přesnější, preciznější a aktuálnější odpovědi.

Takže k lokálnímu používání umělé inteligence nemusíte být programátorský expert: stačí nainstalovat AnythingLLM. Ale, Co bude dál? Nastavení AnythingLLM poprvé může být zastrašující. Proto jsme připravili tohoto průvodce, který vám pomůže začít bez jakýchkoli potíží.

První kroky po instalaci AnythingLLM

Nejjednodušší způsob, jak začít, je s desktopovou verzí AnythingLLM. Nástroj je k dispozici ve Verze pro stolní počítače pro Linux, macOS a Windowskteré si můžete stáhnout z jejich oficiální webové stránkyPokud dáváte přednost serverové verzi, podívejte se na položku Jak nainstalovat a nakonfigurovat AnythingLLM pomocí Dockeru.

Když poprvé začnete s nastavením AnythingLLM, přivítá vás průvodce. V tomto okamžiku je klíčovým krokem vyberte si svého poskytovatele LLMTedy jazykový model, který bude fungovat jako mozek umělé inteligence. Mezi nejběžnější možnosti patří:

• AnythingLLM s integrovanou OllamouToto je nejjednodušší možnost pro začátek. Průvodce vám oznámí, že vybral nejvhodnější model pro váš nainstalovaný hardware a bude pokračovat ve stahování. Pokud nechcete žádné komplikace, nechte proces dokončit.
• Samostatné ubytování v OllaměTo platí, pokud již máte na počítači spuštěnou Ollamu a nakonfigurovali jste si vlastní modely.
• Poskytovatelé cloudových služeb (Groq, OpenAI, Google Gemini): Pokud dáváte přednost placeným modelům nebo modelům s omezenou dostupností od třetích stran, můžete je zde také nakonfigurovat.

Samozřejmě si později můžete vybrat požadované modely ze sekce Konfigurace, který se nachází v levém dolním rohu hlavní obrazovky. Tam, v sekci Poskytovatelé umělé inteligenceKlikněte na LLM a najdete celou sekci s dostupnými modely a možnostmi konfigurace potřebnými pro jejich použití.

Váš první pracovní prostor

Po výběru modelu vás asistent požádá o vytvoření prvního pracovního prostoru. (Pracovní prostor), Toto je zásadní krok pro bezproblémové první nastavení AnythingLLM. Zamyslete se nad... pracovní prostor jako nezávislý projekt nebo složka s vlastní konfiguracíNapříklad můžete pro každý pracovní prostor použít jiný jazykový model. Tyto pracovní prostory mají své vlastní dokumenty, vlastní historii chatu a vlastní název.

Hlavní funkcí AnythingLLM je možnost „Naplňte“ umělou inteligenci vlastními dokumentyToto je známé jako RAG a umožňuje umělé inteligenci odpovídat na otázky na základě informací, které poskytnete, nejen na základě obecných znalostí. Proces je velmi intuitivní:

1. Uvnitř tvého Pracovní prostor, hledejte tlačítko pro nahrát dokumenty (ikona „+“).
2. Můžete nahrávat soubory z počítače nebo dokonce poskytnout URL adresu webové stránky, kterou si aplikace přečte.
3. Po nahrání systém dokument zpracuje. Poté jej budete muset „přesunout“ do svého pracovního prostoru a kliknout na „Uložit a vložit„Tento poslední krok převede text ve vašem dokumentu do formátu, kterému umělá inteligence rozumí a v němž může efektivně vyhledávat.“
4. Aby umělá inteligence tento dokument v konverzaci zohlednila, můžete si ho „připnout“ (Připnout) v chatu, což vám říká, abyste daný zdroj informací upřednostnili.

Aktivujte Dovednosti agenta při prvním nastavení AnythingLLM

Velmi důležitým aspektem při prvním nastavení AnythingLLM je Dovednosti agentaNástroj je dodáván s tři schopnosti agenta aktivované ve výchozím nastaveníPrvní je RAG a dlouhodobá paměťcož umožňuje agentovi nahlédnout do vašich místních dokumentů.

Ti další dva jsou Zobrazení a shrnutí dokumentů y Extrahovat webové stránkyPokud na každou z nich kliknete, můžete si přečíst stručný popis její funkce a užitečnosti. Poté je uvedeno dalších pět dovedností. ve výchozím nastavení zakázánoAle také stojí za to je aktivovat. Jsou to:

• Přístup k souborovému systémuUmožňuje agentovi číst, zapisovat, vyhledávat a spravovat soubory v určitém adresáři.
• Vytvoření dokumentuAgent bude moci z chatu vytvářet dokumenty ke stažení v různých formátech (.xlsx, .docx, .pdf atd.).
• Generování grafůUmožňuje vytvářet různé typy grafů z dat poskytnutých v chatu.
• Živé vyhledávání a prohlížení webuTato schopnost umožňuje agentovi konzultovat internet a odpovídat na otázky.
• SQL konektorAgent se bude moci připojit k databázím SQL a odpovídat na otázky.

Navíc v rámci oddílu Integrace aplikacíKonektory můžete povolit tak, aby Agent komunikuje s Gmailem, Outlookem a Kalendářem Google pomocí klíčů API.Tyto možnosti jsou velmi užitečné, pokud chcete pomocí umělé inteligence dotazovat nebo navrhovat e-maily, případně vytvářet a upravovat události. Při prvním nastavování AnythingLLM je vhodné si tyto dovednosti projít a aktivovat ty, které chcete používat denně.