Ako vytvoriť bota s Langflow a pripojiť ho k Telegramu, Discordu alebo Slacku

Ak chcete vstúpiť do sveta umelej inteligencie, ale desia vás tisíce riadkov kódu, Langflow vám môže tento proces výrazne uľahčiť. Táto platforma s otvoreným zdrojovým kódom umožňuje Vytvárajte aplikácie, agentov a pracovné postupy umelej inteligencie pomocou vizuálneho rozhrania v ktorých sú rôzne komponenty navzájom prepojené.

Namiesto programovania celej logiky aplikácie od začiatku môžete pridať bloky na prijímanie správ, prípravu inštrukcií, prezeranie dokumentov, volanie modelu a vrátenie odpovede. Každý blok predstavuje špecifickú funkciu a má vstupy a výstupy kompatibilné s určitými dátovými typmi.

To neznamená, že Langflow úplne eliminuje technické aspekty. Na vytváranie pokročilých aplikácií stále musíte rozumieť konceptom, ako napríklad výzvy, modely, nástroje, pamäť, vkladania, API a vektorové databázyRozdiel je v tom, že tieto časti môžete vizuálne usporiadať, testovať ich samostatne a upravovať priebeh bez toho, aby ste museli prerábať celý program.

Langflow vám tiež umožňuje publikovať postupy prostredníctvom rozhrania API. Vďaka tejto funkcii sa prototyp vytvorený v editore môže stať mozgom externej aplikácie, webovej stránky alebo bota na posielanie správ. Jedným zo spôsobov, ako to dosiahnuť, je kombinácia Langflow s LangBotom, platforma, ktorá prepája systémy umelej inteligencie s Telegramom, Discordom, Slackom, LINE, WeChatom a ďalšími službami.

Čo je Langflow a na čo sa používa?

Langflow je vizuálna platforma na vytváranie a prevádzku pracovné postupy založené na jazykových modelochJeho editor používa komponenty, ktoré je možné presunúť na plátno a pripojiť cez porty, čím sa vytvorí sekvencia spracovania.

Medzi dostupné komponenty patria:

• Vstupy a výstupy z chatu prijímať a odosielať správy.
• Jazykové modely od rôznych dodávateľov.
• Výzvy s dynamickými inštrukciami a premennými.
• Agenti schopný rozhodnúť sa, ktoré nástroje použiť.
• Nahrávače súborov spracovávať dokumenty a iné údaje.
• Vkladanie modelov reprezentovať informácie pomocou vektorov.
• Vektorové databázy ukladať a načítavať relevantný obsah.
• Nástroje a API ktoré umožňujú interakciu s externými službami.
• Pamäťové komponenty na zachovanie histórie konverzácií.

Hoci Langflow vznikol úzko prepojený s ekosystémom LangChain, nemal by byť opisovaný len ako grafické rozhranie pre túto knižnicu. V súčasnosti ponúka vlastnú architektúru komponentov, API, server a systém nasadenia, okrem integrácií s mnohými poskytovateľmi.

Langflow je obzvlášť užitočný na prototypovanie, experimentovanie s rôznymi modelmi, vývoj RAG systémov a sprístupňovanie aplikačnej logiky prostredníctvom API. Umožňuje vám tiež vytvárať vlastné komponenty Pythonu, keď zahrnuté bloky nespĺňajú špecifické požiadavky.

Rozdiely medzi tokom, reťazcom a agentom

Predtým, ako začneme, je dôležité rozlišovať medzi niekoľkými pojmami, ktoré sa často používajú zameniteľne.

Un prietok Je to kompletná sada komponentov a pripojení, ktoré tvoria aplikáciu. Môže obsahovať vstupy, výzvy, modely, nástroje, úložisko a výstupy.

A reťaz Vykoná relatívne predvídateľnú sekvenciu. Napríklad môže prijať dotaz, preložiť ho, odoslať ho modelu a potom zhrnúť odpoveď. Výstup z jednej fázy prechádza do ďalšej po vopred definovanej ceste.

Un agentNamiesto toho dostane cieľ a rozhodne sa, ktorý nástroj použije na jeho dosiahnutie. Pred odpoveďou môže vyhľadávať v databáze, vykonávať vyhľadávanie alebo vykonávať niekoľko operácií.

Je tiež možné postaviť multiagentové systémykde niekoľko agentov vykonáva rôzne funkcie. Jeden môže zhromažďovať informácie, iný ich analyzovať a tretí pripravovať konečnú odpoveď. Sekvenčné prepojenie viacerých modelov však automaticky netransformuje tok na multiagentový systém.

Tento rozdiel je dôležitý, pretože agenti ponúkajú väčšiu flexibilitu, ale môžu tiež spotrebovať viac tokenov, trvať dlhšie a robiť neočakávané rozhodnutia. Pre jednoduchú a predvídateľnú úlohu, Konvenčný pracovný postup je zvyčajne rýchlejší a ľahšie sa ladí..

Akú úlohu hrá LangBot v tejto integrácii?

Langflow sa stará o vykonávanie logiky aplikácie s umelou inteligenciou, ale priamo nespravuje všetky pripojenia so službami ako Telegram, Discord alebo Slack. Na to môžete použiť LangBot.

LangBot je open-source platforma určená pre vytvárať a spravovať boty v rôznych službách zasielania správSpravuje príjem správ, pripojenie k jednotlivým platformám, povolenia a odosielanie odpovedí koncovému používateľovi.

Rozdelenie zodpovedností je nasledovné:

• Langflow funguje ako motor umelej inteligencie: Prijme správu, vykoná výzvy, dotazuje sa na dáta, zavolá model a vygeneruje odpoveď.
• LangBot vystupuje ako sprostredkovateľ: Prijme správu z Telegramu, Discordu alebo Slacku, odošle ju do flow a výsledok vráti na príslušnú platformu.

Preto LangBot automaticky neprevedie žiadny diagram na hotového bota. Najprv musíte Vytvorenie a otestovanie toku v Langflow, publikujte svoj koncový bod a poskytnite LangBotovi informácie potrebné na jeho spustenie.

Požiadavky na vytvorenie bota s Langflow a LangBot

Pred začatím je potrebné mať nainštalované alebo dostupné nasledujúce nástroje:

• Docker a Docker Compose, ak budete spúšťať aplikácie pomocou kontajnerov.
• Langflow, nainštalované lokálne alebo na prístupnom serveri.
• LangBot, nainštalovaný pomocou uv, Dockeru alebo jednej z jeho podporovaných metód.
• Kľúč API od poskytovateľa modelu, pokiaľ nepoužívate lokálny model.
• Token pre Telegram, Discord, Slack alebo inú platformu kdekoľvek chcete bota publikovať.
• Kľúč rozhrania API Langflow autorizovať volania do toku.

Mali by ste tiež overiť, či má LangBot prístup k adrese Langflow. Uistite sa, že obe aplikácie v prehliadači správne fungujú. nezaručuje, že medzi sebou môžu komunikovaťnajmä ak sú v rôznych nádobách.

Pre úvodný test môžete spustiť oba nástroje na tom istom počítači. Keď pracovný postup funguje, môžete ho presunúť na server, pridať trvalú databázu a implementovať prísnejšie bezpečnostné opatrenia.

Ako nainštalovať Langflow pomocou Dockeru

Najrýchlejší spôsob, ako vyskúšať Langflow, je použiť jeho oficiálny obraz Dockeru. Základný príkaz by bol nasledovný:

docker run -d \
  --name langflow \
  -p 7860:7860 \
  -v langflow-data:/app/langflow \
  -e LANGFLOW_AUTO_LOGIN=false \
  -e LANGFLOW_SUPERUSER_PASSWORD=CAMBIA_ESTA_CONTRASENA \
  langflowai/langflow:latest

Potom môžete pristupovať k rozhraniu pomocou:

http://localhost:7860

Objem langflow-data Umožňuje vám zachovať projekty a nastavenia pri opätovnom vytvorení kontajnera. Bez neho Prietoky by ste mohli stratiť odstránením alebo výmenou nádoby.

Nemali by ste používať slabé heslo ani priamo publikovať port 7860 na internete. V produkčnom prostredí sa odporúča používať HTTPS, obmedziť prístup a nasadiť vhodnú databázu, napríklad PostgreSQL.

Ako nainštalovať a otvoriť LangBot

LangBot ponúka rôzne metódy inštalácie. Pre rýchly test ho môžete spustiť pomocou uvx, nástroj zahrnutý v ekosystéme UV:

uvx langbot

Po spustení sa administračný panel zvyčajne nachádza na adrese:

http://localhost:5300

Tento postup je vhodný na testovanie aplikácie bez manuálneho nastavovania prostredia Python. Pre odolnejšie nasadenie ponúka LangBot aj konfiguráciu založenú na Docker Compose.

Nemal by si si mýliť Port 5300 od LangBotu s portom 7860 od LangflowuSú to dve nezávislé aplikácie a každá si udržiava vlastný panel, konfiguráciu a proces.

Z LangBotu budete musieť nadviazať spojenie s vami zvolenou platformou na odosielanie správ a nakonfigurovať kanál alebo poskytovateľa zodpovedného za generovanie odpovedí. Presné názvy niektorých ponúk sa môžu v jednotlivých verziách líšiť, ale integrácia Langflow používa svoje API na spustenie publikovaného postupu.

Ako vytvoriť základný tok v Langflow

Pred pripojením k LangBotu vytvorte nový tok z rozhrania Langflow. Môžete začať so šablónou. Základné nabádanie alebo začať od prázdneho plátna.

Jednoduchý konverzačný tok môže obsahovať:

• Vstup do chatu: prijíma správu odoslanú používateľom.
• Výzva: Pridajte inštrukcie, ktoré definujú správanie bota.
• Jazykový model: vykonať vybraný model.
• Výstup chatu: poskytuje odpoveď vytvorenú modelom.

Všeobecné prepojenie by bolo:

Chat Input → Prompt → Language Model → Chat Output

V rámci komponentu modelu budete musieť vybrať poskytovateľa a nakonfigurovať jeho poverenia. Langflow podporuje rôzne modely a integrácie, takže dostupné polia budú závisieť od zvolenej možnosti.

Do výzvy môžete napísať pokyny, ako napríklad:

Eres un asistente de soporte técnico.
Responde en español con instrucciones claras y breves.
Si no conoces la respuesta, indícalo y no inventes información.

Pregunta del usuario:
{input}

Názov premennej sa musí zhodovať so vstupom pripojeným ku komponentu. Ak výzva očakáva inú premennú alebo nedostane správu od používateľa, Model môže dotaz ignorovať alebo vždy odpovedať rovnakým spôsobom..

Ako otestovať tok pred jeho publikovaním

Otvorte Langflow Playground a odošlite rôzne správy. Nekontrolujte len, či vracia odpoveď: preskúmajte aj to, ako spracováva dlhé otázky, prázdne vstupy, nejednoznačné inštrukcie a dotazy, pre ktoré nemá žiadne informácie.

Ak používate nástroje alebo dokumenty, skontrolujte, či model:

• Spustite príslušný nástroj keď je to potrebné.
• Nepoužíva nástroj na otázky, na ktoré môžete priamo odpovedať.
• Získať relevantné fragmenty dokumentácie.
• Nevymýšľa si informácie keď zdroj neobsahuje odpoveď.
• Udržuje konverzácie oddelené. od rôznych používateľov.

Tento krok je nevyhnutný. Ak tok v Playgrounde nefunguje, jeho prepojenie s LangBotom len pridá ďalšiu vrstvu zložitosti a urobí ho... je ťažšie nájsť zdroj problému.

Ako získať kľúč API a identifikátor toku

LangBot potrebuje vedieť, ktorý tok má vykonať a mať naň oprávnenie.

Ak chcete vytvoriť kľúč, otvorte používateľské menu Langflow a zadajte Nastavenia a vyhľadajte sekciu Kľúče rozhrania API LangflowVytvorte si nové heslo, skopírujte ho a uložte ho do správcu hesiel, pretože sa už nemusí zobraziť v plnom rozsahu.

Kľúče Langflow dedia oprávnenia používateľa, ktorý ich vytvoril. Preto Nemali by ste zdieľať administrátorský kľúč ani ho zahrnúť do snímok obrazovky, repozitárov alebo verejných súborov..

Ak chcete nájsť tok, otvorte ho a zadajte:

Share → API access

V tejto časti si môžete zobraziť vygenerovaný koncový bod a pozrieť si príklady kódu na jeho spustenie. Adresa zvyčajne má štruktúru podobnú tejto:

http://localhost:7860/api/v1/run/IDENTIFICADOR_DEL_FLUJO

Langflow vám tiež umožňuje priradiť koncovému bodu názov. To uľahčuje použitie rozpoznateľnej adresy namiesto dlhého identifikátora.

http://localhost:7860/api/v1/run/bot-soporte

Hoci sa ID toku môže zobraziť na rôznych miestach v rozhraní alebo URL adrese, Zdieľanie a prístup k API sú najspoľahlivejšou referenciou pretože zobrazuje koncový bod, ktorý by mala externá aplikácia použiť.

Ako manuálne skontrolovať rozhranie Langflow API

Pred konfiguráciou LangBotu je vhodné odoslať požiadavku priamo do API. Môžete použiť kód poskytnutý Langflow alebo spustiť test s curl:

curl --request POST \
  --url "http://localhost:7860/api/v1/run/IDENTIFICADOR_DEL_FLUJO" \
  --header "Content-Type: application/json" \
  --header "x-api-key: TU_API_KEY" \
  --data '{
    "input_value": "Hola, ¿puedes ayudarme?",
    "input_type": "chat",
    "output_type": "chat"
  }'

Ak táto požiadavka zlyhá, pred pokračovaním skontrolujte protokoly adresy, kľúča, identifikátora a Langflow.

Presný obsah tela sa môže líšiť v závislosti od vstupov použitých v postupe. Panel prístupu k API generuje príklady prispôsobené konfigurácii, takže Je lepšie skopírovať príklad vytvorený vašou vlastnou inštaláciou..

Interaktívnu dokumentáciu k API si môžete pozrieť aj na adrese:

http://localhost:7860/docs

Ako prepojiť LangBot s Langflow API

Po overení rozhrania API otvorte dashboard LangBot a vytvorte alebo upravte kanál, ktorý bude bot používať. Vyberte integráciu Langflow a zadajte požadované informácie.

Zvyčajne budete musieť poskytnúť:

• Základná adresa Langflow: Napríklad, http://localhost:7860.
• Kľúč API: kľúč vytvorený z nastavení Langflow.
• ID toku alebo názov koncového bodu: Identifikujte tok, ktorý je potrebné vykonať.
• Vstupné parametre: umožniť správne odoslanie správy používateľa.

Ďalej je potrebné prepojiť kanál s príslušným botom alebo platformou. Napríklad pre Telegram budete musieť vytvoriť bota pomocou BotFather a zadať jeho token do LangBot. Discord a Slack vyžadujú vlastné aplikácie, prihlasovacie údaje a povolenia.

Úplný priebeh bude nasledovný:

1. Používateľ odošle správu z Telegramu, Discordu alebo Slacku.
2. LangBot dostane správu prostredníctvom integrácie platformy.
3. LangBot odošle dotaz do koncového bodu Langflow.
4. Langflow vykonáva komponenty, výzvy, nástroje a modely.
5. Langflow vráti výsledok LangBotu.
6. LangBot doručí odpoveď používateľovi na pôvodnej platforme.

Ako prepojiť Langflow a LangBot, ak používate Docker

Keď obe aplikácie bežia priamo na tom istom počítači, môžu komunikovať pomocou svojich lokálnych portov. V Dockeri však... localhost Vzťahuje sa to na samotný kontajner.

Ak je LangBot vo vnútri kontajnera a nakonfigurujete:

http://localhost:7860

LangBot bude hľadať Langflow vo svojom vlastnom kontajneri. Keďže sa služba nachádza inde, pripojenie zlyhá.

Ak obe služby bežia pomocou Docker Compose, najčistejším riešením je pridať ich do zdieľaná sieť a použite názov služby:

services:
  langflow:
    image: langflowai/langflow:latest
    ports:
      - "7860:7860"
    networks:
      - ia_network

  langbot:
    image: langbotio/langbot:latest
    ports:
      - "5300:5300"
    networks:
      - ia_network

networks:
  ia_network:

V tomto prípade by mal LangBot pristupovať k Langflow pomocou adresy podobnej tejto:

http://langflow:7860

Názov langflow Toto zodpovedá službe deklarovanej v Docker Compose.

Ak je Langflow spustený na hostiteľskom počítači a LangBot je v Dockeri, možno budete musieť použiť:

http://host.docker.internal:7860

Presná adresa závisí od operačného systému a konfigurácie Dockeru. Preto sa odporúča otestovať pripojenie. z prostredia, kde LangBot skutočne bežínielen z prehliadača hostiteľa.

Ako si uchovať pamäť na rozhovory

Ak sa každá správa odošle do Langflow ako úplne nezávislá požiadavka, model si nemusí pamätať, čo používateľ povedal predtým.

Komponent Langflow Agent má integrovanú pamäť pre chat. Môže sa tiež použiť História správ načítať správy uložené v Langflow alebo kompatibilných externých službách.

Pre správne oddelenie konverzácií by požiadavky mali používať ID stabilnej relácieLangBot by mal odosielať rovnaký identifikátor pre správy patriace do tej istej konverzácie a iný pre každého používateľa, kanál alebo skupinu.

Ak všetci používatelia zdieľajú rovnaké ID relácie, existuje riziko, že:

• Rôzne rozhovory sa miešajú.
• Používateľ dostane kontext patriaci inej osobe.
• História sa zbytočne rozrastá.
• Bot produkuje nekonzistentné odpovede alebo zverejňuje dáta.

Presná stratégia bude závisieť od integrácie, ale zvyčajne je vhodné vytvoriť identifikátor pomocou ID platformy, kanála a používateľa.

Ako pridať dokumenty pomocou systému RAG

Jedným z najzaujímavejších použití Langflowu je vytvorenie bota, ktorý reaguje pomocou vlastnej dokumentácie. Na to môžete implementovať systém Generovanie rozšírenej obnovy alebo RAG.

Proces sa zvyčajne delí na dve časti:

• Indexovanie: Dokumenty sú rozdelené na fragmenty, prevedené na vložené časti a uložené vo vektorovej databáze.
• Konzultácia: Otázka používateľa sa transformuje do vektora a pred volaním modelu sa vyhľadajú najsúvisiace fragmenty.

Langflow obsahuje šablóny a komponenty na prácu s načítavačmi dokumentov, vkladacími modelmi a rôznymi vektorovými databázami. Ako východiskový bod môžete použiť šablónu RAG a prispôsobiť ju svojim súborom.

Pre dosiahnutie spoľahlivých výsledkov sa odporúča upraviť:

• Veľkosť a prekrytie fragmentov.
• Model použitý na generovanie vnorení.
• Počet načítaných výsledkov.
• Výzva, ktorá vás núti reagovať na základe zdrojov.
• Prístupové oprávnenia ku každej zbierke dokumentov.

Systém RAG nezaručuje, že všetky odpovede budú správne. Ak vyhľadávanie nájde irelevantné fragmenty alebo výzva nestanoví jasné hranice, Model si stále môže nesprávne interpretovať informácie alebo si vymýšľať detaily..

Prípady použitia Langflow a LangBot

Kombinácia oboch nástrojov vám umožňuje publikovať ten istý systém umelej inteligencie na rôznych kanáloch bez toho, aby ste museli pre každú platformu prestavovať všetku logiku.

Medzi zaujímavé prípady použitia patria:

• Bot pre zákaznícky servis ktorý si preštuduje manuály, zásady a často kladené otázky.
• Interný asistent súvisí s autorizovanou firemnou dokumentáciou.
• Predajný bot ktorý zhromažďuje informácie a posiela príležitosti obchodnému tímu.
• Moderátor komunity z Discordu alebo Telegramu.
• Technický asistent schopný konzultovať znalostnú základňu.
• Agent s nástrojmi na získanie informácií z API alebo databáz.
• Klasifikačný systém ktorý analyzuje správy a smeruje ich do príslušného oddelenia.

V prípade citlivých akcií, ako je úprava záznamov, odosielanie e-mailov alebo spracovanie objednávok, je vhodné vyžadovať potvrdenie a starostlivo obmedziť dostupné nástroje. Agent by nemal dostávať viac povolení, ako je nevyhnutne potrebné.

Ako opraviť najčastejšie chyby pripojenia

Ak LangBot nedokáže spustiť tok, prvým krokom je skontrolovať, či API funguje, a to manuálnym volaním. To pomáha určiť, či chyba spočíva v Langflow, LangBot alebo v sieti.

Najčastejšie chyby sú nasledovné:

• Nesprávne ID toku: Namiesto celého toku bol skopírovaný identifikátor komponentu.
• Neplatný kľúč API: Kľúč je neúplný, zrušený alebo patrí používateľovi bez dostatočných oprávnení.
• Nesprávna URL adresa: zdvojnásobil sa /api alebo bol celý koncový bod zadaný do poľa, ktoré očakávalo iba doménu a port.
• Nesprávne použitie localhost: LangBot a Langflow sú v rôznych kontajneroch.
• Neprístupný prístav: Služba nepočúva, kontajner sa zastavil alebo je nainštalovaný prechodný firewall.
• Nekompatibilný vstupný formát: tok očakáva iný dátový typ alebo názov premennej.
• Chyba dodávateľa: Modelový kľúč je nesprávny, nemá zostatok alebo dosiahol svoj limit.
• Čakacia doba uplynula: Pracovný postup trvá príliš dlho, pretože prezerá dokumenty, spúšťa nástroje alebo používa pomalý model.

Mali by ste si tiež skontrolovať protokoly oboch služieb:

docker logs langflow
docker logs langbot

Ak používate Docker Compose, najnovšie protokoly si môžete skontrolovať pomocou:

docker compose logs --tail=200 langflow
docker compose logs --tail=200 langbot

Nezdieľajte kompletné protokoly bez toho, aby ste si ich preštudovali, pretože môžu obsahovať interné adresy, používateľské mená, heslá alebo fragmenty konverzácií.

Bezpečnosť a nasadenie v produkčnom prostredí

Inštalácia, ktorá beží na lokálnom počítači, nie je nevyhnutne pripravená na sprístupnenie internetu. Pred použitím bota so skutočnými používateľmi musíte zabezpečiť Langflow aj LangBot.

Odporúčané opatrenia zahŕňajú:

• Aktivovať overenie a používajte silné heslá.
• Uložte kľúče ako tajné kódy alebo premenné prostredianikdy priamo v kóde.
• Používajte HTTPS cez reverzný proxy server.
• Obmedzte, ktoré porty sú verejne dostupné.
• Uplatnite obmedzenia používania a limity požiadaviek.
• Oddeľte konverzácie pomocou identifikátorov relácií.
• Skontrolujte povolenia udelené nástrojom a agentom.
• Používajte trvalé úložisko a vykonávajte zálohy.
• Pravidelne aktualizujte obrázky a závislosti.

Podnikové aplikácie musia tiež kontrolovať, ktorí používatelia majú prístup ku každému dokumentu, databáze alebo nástroju. Pripojenie súkromného zdroja k systému RAG neznamená, že všetci používatelia botov by k nemu mali mať prístup.

Kedy sa oplatí použiť Langflow s LangBotom

Táto kombinácia je obzvlášť užitočná, keď chcete oddeliť návrh umelej inteligencie od integrácie s platformami na odosielanie správMôžete upraviť tok, zmeniť model alebo pridať dokumenty bez toho, aby ste museli bota Telegramu alebo Discordu prestavovať od začiatku.

Langflow poskytuje vizuálny editor, agentov, nástroje, pamäť a API. LangBot pridáva pripojenie k kanálom správ, správu botov a distribúciu odpovedí.

V prípade jednoduchého prototypu je možné proces dokončiť v krátkom čase. Aplikácia určená pre skutočných používateľov však vyžaduje testovanie, opravu chýb, zabezpečenie, obmedzenia používania a trvalé úložisko.

Po správnom nakonfigurovaní komunikácie bude každá správa sledovať rovnakú cestu: LangBot ho prijme, Langflow vykoná inteligenciu toku a LangBot vráti odpoveď do pôvodného kanála.Táto architektúra umožňuje používať ten istý systém na viacerých platformách a neustále ho vylepšovať z vizuálneho editora bez nutnosti upravovať každého bota jednotlivo.