Hogyan hozzunk létre egy chatbotot a gyakori kérdések megválaszolására az AnythingLLM segítségével?

Arról fogunk beszélni, hogyan hozhatsz létre egy chatbotot, amely az AnythingLLM-mel gyakran ismételt kérdésekre ad választ. Ez az alkalmazás lehetővé teszi, hogy Készíts egy mesterséges intelligenciával működő chatbotot a GYIK-hez, amely hivatalos dokumentumokra alapozza válaszait.A legjobb az egészben, hogy egyetlen sornyi kódot sem kell írnod, és személyes adatokat sem kell feltöltened az internetre.

Hogyan hozzunk létre egy chatbotot a gyakori kérdések megválaszolására az AnythingLLM-mel lépésről lépésre

Szeretnél létrehozni egy virtuális asszisztens a céged számáraNos, többé nem kell felhőszolgáltatásokra hagyatkoznod, amelyek veszélyeztetik az adatvédelmedet. Ebben a bejegyzésben elmondjuk, hogyan hozhatsz létre egy chatbotot, amely az AnythingLLM-mel gyakran ismételt kérdésekre ad választ.

Kiderül, hogy BármiLLM Az egyik legjobb platformnak bizonyult a következőkhöz: implementálja az RAG technikát (Visszakereséssel kiterjesztett generáció vagy Kiterjesztett Generáció Visszakereséssel). Ez a technika lehetővé teszi egy nyelvi modell (LLM) számára, hogy egy adott tudásbázist konzultáljon a válaszadás előtt. Ez pontosabb választ eredményez anélkül, hogy fennállna a kockázata annak, hogy a mesterséges intelligencia információkat gyárt. Érdekli? Nézzük meg, hogyan valósíthatjuk meg lépésről lépésre.

A chatbot létrehozásának követelményei, hogy a AnythingLLM-mel gyakran ismételt kérdésekre válaszolhasson

Mielőtt elkezdené, fontos, hogy a következőkkel rendelkezzen. Először telepítenie kell a AnythingLLM alkalmazás szerver verziójában (Docker)Szükséged lesz egy megfelelő erőforrásokkal rendelkező számítógépre is: legalább 8 GB RAM-mal, vagy 16 GB-tal, ha helyi nyelvi modellt szeretnél futtatni.

És persze kell, hogy legyen egy hivatalos kérdések és válaszok listájával rendszerezett fájl (PDF, Word, CSV, Markdown vagy sima szöveg). Ha bármilyen kérdése van ezzel kapcsolatban, tekintse meg a bejegyzést. Hogyan állítsd be az AnythingLLM-et első alkalommal komplikációk nélkül.

1. lépés: A GYIK dokumentum elkészítése

Ha egy chatbotot szeretnél létrehozni, amely az AnythingLLM-mel gyakran ismételt kérdésekre válaszol, az első lépés a GYIK fájl elkészítése. A mesterséges intelligencia képes strukturálatlan szöveget olvasni, de Fontos, hogy jól rendszerezd a feladatot, hogy pontos válaszokat kapj.Győződjön meg róla, hogy a szöveg tartalmazza:

• Tiszta formátum: címsorokkal ellátott struktúra (Szállítási szabályzatok, Visszaküldés és garanciák stb.) vagy Kérdés: és Válasz: párok.
• Közvetlen nyelv, azzal a hangnemben, amellyel a mesterséges intelligencia válaszolni szeretne a felhasználóknak.
• Teljes kontextusA kétértelmű válaszok („A szolgáltatás ára 10 dollár”) írása helyett add meg a teljes kontextust („Az alap havi előfizetési csomag ára 10 USD”).

2. lépés: Ügyfélszolgálati GYIK munkaterület létrehozása

Az AnythingLLM-en belül az információk munkaterületekbe vannak rendezve. Mindegyik munkaterület különálló konténerként működik, saját dokumentumokkal, paraméterekkel és mesterséges intelligencia modellekkel. Létrehozásához kattintson a következőre: Új munkaterületek az alkalmazás bal oldalsávjában. Adj neki egy egyértelmű nevet, például az Ügyfélszolgálat GYIK-et.

3. lépés: Töltse fel és készítse elő a kérdés-válasz fájlját

Ebben a lépésben a következőket fogjuk tenni: GYIK fájl átalakítása beágyazásokká vagy numerikus vektorokkáÍgy a belső vektoros adatbázis (például a LanceDB) képes lesz feldolgozni a felhasználói kereséseket. Így teheti meg:

1. Írja be a munkaterület újonnan létrehozott.
2. Kattintson a lehetőségre Feltöltés.
3. Válaszd ki a GYIK fájlt, vagy húzd közvetlenül a felületre.
4. Miután betöltötte a panel könyvtárába, jelölje be a dokumentum jelölőnégyzetét, és kattintson a gombra. Áthelyezés a munkaterületre.
5. Most kattintson a Mentés és beágyazásAz alkalmazás darabokra osztja a fájlt, és létrehozza a keresési indexeket.

4. lépés: Konfigurálja a rendszerüzenetet egy chatbot létrehozásához, amely az AnythingLLM-mel válaszol a gyakran ismételt kérdésekre

Amikor egy chatbotot hozol létre az AnythingLLM gyakori kérdéseinek megválaszolására, a negyedik lépés a rendszerüzenet konfigurálása. meghatározni a chatbot kontextusát, személyiségét, szabályait és korlátaitItt megtiltod neki, hogy a vállalkozásodhoz nem kapcsolódó témákról beszéljen, és csak a feltöltött dokumentumok alapján válaszoljon.

A munkaterületen, a Feltöltés gomb mellett kattintson a gombra a következőhöz: Konfiguráció. Ugrás a lapra Csevegési beállítások és menj le a részleghez RendszerparancsA szövegmezőbe írjon be egy utasítást, például az alábbiakat:

„Ön a (Cégneve) hivatalos ügyfélszolgálati virtuális asszisztense. Egyetlen célja, hogy a csatolt GYIK dokumentumokban található információk felhasználásával válaszoljon a felhasználók kérdéseire. Válaszoljon barátságosan, professzionálisan, tömören és közvetlenül. Soha ne hamisítson információkat, árakat vagy dátumokat, és ne feltételezzen olyan tényeket, amelyek nem szerepelnek kifejezetten a szövegben. Válaszait mindig a felhasználó által használt nyelven fogalmazza meg.”

A következő mezőn, Elutasítási válasz lekérdezési módbanFigyeld meg, mit kell válaszolnia a chatbotnak, ha a felhasználó kérdése nincs a GYIK fájlban. A szövegmezőbe írhatsz valami ilyesmit: "Sajnálom, jelenleg nem rendelkezem ezzel az információval. Kérjük, vegye fel a kapcsolatot ügyfélszolgálatunkkal a következő címen: [email protected].»

Az utolsó mező ebben a szakaszban a LLM hőmérsékletA legjobb, ha maximum 0.2-re csökkented, így a modell szigorúbb és kevésbé kreatív lesz a válaszaiban. Már majdnem készen állsz egy chatbot létrehozására, amely az AnythingLLM segítségével válaszol a gyakran ismételt kérdésekre.

5. lépés: A helyreállítási folyamat módosítása (RAG beállítások)

Egy utolsó finomhangolási lépésre van szükség egy chatbot létrehozásakor, amely az AnythingLLM-mel kapcsolatos gyakori kérdések megválaszolására szolgál. Ha még mindig a munkaterület beállításainál vagy, menj a Vektoradatbázis fülre.

• A szakaszban Maximális kontextuskódrészletekKonfigurálja úgy, hogy 3 és 5 közötti töredéket tartalmazzon. Ez biztosítja, hogy a modell csak a legrelevánsabb információkat elemezze a kérdés megválaszolásához.
• A következő szakasz a Dokumentum-hasonlósági küszöbértékOtt állítsd a szűrőt Magasra vagy 0.7-nél nagyobb értékre. Ez arra kényszeríti a chatbotot, hogy a válaszadáshoz magas egyezést kérjen a felhasználó kérdése és a GYIK tartalma között.

6. lépés: Tesztelje egy chatbot létrehozását, amely az AnythingLLM-mel válaszol a gyakran ismételt kérdésekre

Ezzel létrehoztál egy chatbotot, amivel megválaszolhatod az AnythingLLM-mel kapcsolatos gyakori kérdéseket. De mielőtt telepítenéd az asszisztenst, érdemes egy… viselkedési tesztek közvetlenül az alkalmazás csevegőfelületéről. Az alábbiakhoz hasonló kérdéseket tehet fel:

• Pontos egyezésTegyen fel egy kérdést a GYIK dokumentumban szereplő szavakkal. Példa: "Mennyi idő alatt érkezik meg egy rendelés?" Ellenőrizd, hogy a válasz 100%-ban egyezik-e.
• Fogalmazza meg a Ugyanaz a kérdés, de más megfogalmazássalPélda: "Ha ma veszek, mikor kézbesítik a csomagot?" A RAG rendszernek a megfelelő töredéket kell lekérnie és megfelelően válaszolnia.
• Is Tegyen fel egy olyan kérdést, amely nincs benne a dokumentumban, például „Mi a csokitorta receptje?” Ha minden rendben van, a chatbot aktiválja a prompt szabályt, és a felhasználót a támogatási e-mail címre irányítja.

7. lépés: Tedd közzé a chatbot widgetet a weboldaladon

Miután létrehoztál és teszteltél egy chatbotot, amivel az AnythingLLM gyakran ismételt kérdéseit megválaszolhatod, készen állsz a következőre: telepíteni. Ez a lépés is egyszerű:

1. Menj a Konfiguráció a munkaterületről, és adja meg a lehetőséget Beágyazható csevegőwidget.
2. Jelöld be a négyzetet Widget engedélyezése.
3. Konfigurálja az engedélyezett domaineket, hogy megakadályozza a jogosulatlan webhelyek használatát a szerverén.
4. Másolja a kódot <script> létrehozva és beillesztve a címkébe <head> vagy a zárócímke előtt <\body> a weboldal (WordPress, Shopify stb.).

Ennyi! Egy chatbot létrehozása, amivel az AnythingLLM gyakran ismételt kérdéseit megválaszolhatod, gyerekjáték. Ez az alkalmazás... A nyelvi modellek erejét ötvözi az RAG technikával. egy rendkívül intuitív felületen belül. Perceken belül létrehozhat és üzembe helyezhet egy saját dokumentumaira épülő virtuális asszisztenst, amely professzionálisan képviseli vállalkozását.