Ako prepojiť Flowise s OpenAI a nakonfigurovať AI asistentov

Vytvorenie asistenta s umelou inteligenciou sa často zdá jednoduché, kým sa nedostanete k API, pamäti konverzácií, vlastnej dokumentácii a používateľskému rozhraniu. Flowise sa snaží vyriešiť väčšinu tejto zložitosti pomocou vizuálneho editora, kde sa rôzne komponenty prepájajú ako stavebné bloky.

V tomto návode uvidíme Ako prepojiť Flowise s OpenAIVytvoríme sprievodcu s pamäťou, upravíme jeho správanie a overíme, či funguje správne. Taktiež si ukážeme, ako pridávať obrázky, používať dokumenty prostredníctvom RAG a chrániť tok pred jeho integráciou do webovej stránky.

Čo je Flowise a na čo sa používa?

Flowise je open-source platforma na vizuálnu tvorbu modelových aplikácií a agentov. Namiesto písania všetkej logiky v Pythone alebo JavaScripte vám umožňuje umiestniť prepojené uzly na plátne.

Každý uzol spracováva inú časť systému. Jeden môže reprezentovať jazykový model, iný históriu chatu, ďalší šablónu inštrukcií a ďalší vektorovú databázu s vlastnými informáciami. Prepojenia určujú, ako medzi nimi prúdia dáta.

Platforma ponúka rôzne spôsoby tvorby aplikácií:

• Asistent: Je to najdostupnejšia možnosť na vytváranie asistentov bez manuálneho navrhovania každého pripojenia.
• Priebeh chatu: Umožňuje vám vytvárať chatboty a jednoduché postupy prepojením modelov, pamäte, výziev, vyhľadávačov a ďalších komponentov.
• Tok agentov: Je určený pre zložitejšie procesy s niekoľkými krokmi, podmienkami, nástrojmi, agentmi a rozhodnutiami počas vykonávania.

V tomto návode použijeme Chatflow, pretože jasne demonštruje, ako sú OpenAI, pamäť a pokyny sprievodcu prepojené. Ak sa chcete dozvedieť viac o inom nástroji s podobným prístupom, môžete si tiež prečítať nášho sprievodcu pre [iné nástroje]. Vytvárajte pracovné postupy s umelou inteligenciou pomocou Langflow.

Vizuálny editor výrazne znižuje vstupnú bariéru, ale neodstraňuje všetky ťažkosti. Vytvorenie základného prototypu je relatívne jednoduché; publikovanie sprievodcu, ktorý slúži skutočným používateľom, si vyžaduje správu autentifikácie, nákladov, oprávnení dokumentov, limitov používania a zabezpečenia servera.

Čo potrebujete pred prepojením Flowise s OpenAI

Pred začatím si musíte pripraviť prostredie, v ktorom bude Flowise bežať, a prihlasovacie údaje, ktoré umožnia prístup k OpenAI.

• Inštalácia Flowise, či už lokálna, cez Docker alebo hostovaná na serveri.
• Kompatibilná a udržiavaná verzia Node.js, ak budete inštaláciu vykonávať pomocou NPM.
• Účet na vývojárskej platforme OpenAI.
• Projekt OpenAI s prístupom k API a platným kľúčom.
• Spôsob fakturácie alebo dostupný zostatok v prípade potreby.

Je dôležité nezamieňať si ChatGPT s rozhraním API. Predplatné ChatGPT neznamená, že sú zahrnuté aj hovory uskutočnené z rozhrania Flowise. Používanie API sa účtuje samostatne a cena závisí od modelu, spracovaných tokenov a použitých funkcií.

Nainštalujte si Flowise do počítača

Ak ešte nemáte Flowise, môžete si ho nainštalovať pomocou NPM. Otvorte terminál a spustite:

npm install -g flowise
npx flowise start

Po spustení služby otvorte túto adresu vo vašom prehliadači:

http://localhost:3000

Toto nastavenie je postačujúce na učenie a testovanie z vlastného počítača. Ak chcete mať sprievodcu trvalo k dispozícii, bolo by vhodnejšie použiť Docker alebo nasadiť Flowise na server s trvalým úložiskom, zálohami, HTTPS a riadením prístupu.

Vytvorte kľúč API rozhrania OpenAI

Prejdite na vývojársku platformu OpenAI, vyberte projekt, ktorý budete používať, a vytvorte si nový API kľúč. Uschovajte si ho na bezpečnom mieste, pretože slúži ako heslo pre prístup k zdrojom projektu.

Tento kľúč nesmiete vkladať na verejné stránky, do úložísk kódu, snímok obrazovky ani do skriptov, ktoré sa spúšťajú v prehliadači. Prihlasovacie údaje musia zostať na serveri Flowise a nikdy sa nesmú dostať do zariadenia koncového používateľa.

Taktiež je vhodné nastaviť limity výdavkov a upozornenia na spotrebu v rámci OpenAI. Týmto spôsobom chyba v pracovnom postupe alebo nadmerné používanie chatbota nespôsobí neočakávanú faktúru.

Ako si vytvoriť svoj prvý Chatflow

Na domovskej obrazovke Flowise prejdite do sekcie Chatflows a vytvorte nový. Pomenujte ho tak, aby identifikoval jeho funkciu, napríklad „OpenAI Test Assistant“.

Ak chcete nastaviť základnú konverzáciu s pamäťou, môžete pridať tieto komponenty:

1. Uzol ChatOpenAI, ktorý bude zodpovedný za komunikáciu s modelom.
2. Uzol Reťazec konverzácie, ktorý bude organizovať výmenu správ.
3. Pamäťový uzol, ako napr. Vyrovnávacia pamäť, aby sa zachoval kontext konverzácie.
4. Voliteľne, a Šablóna výzvy na chat definovať tón, pravidlá a funkciu asistenta.

Pripojte výstup ChatOpenAI k vstupu modelu v Conversation Chain. Potom pripojte Buffer Memory k vstupu pamäte v reťazci. Ak pridáte šablónu výzvy, prepojte ju s príslušným záznamom v Conversation Chain.

Názvy a presná poloha niektorých možností sa môžu medzi verziami mierne líšiť, ale logická štruktúra zostáva rovnaká: Model generuje odpoveď, reťazec riadi konverzáciu a pamäť zachováva kontext..

Konfigurácia uzla ChatOpenAI

Otvorte uzol ChatOpenAI a kliknite na možnosť vytvorenia poverenia. Zadajte kľúč API, ktorý ste predtým vygenerovali, a uložte konfiguráciu.

Ďalej vyberte model. Dostupný zoznam závisí od modelov dostupných z vášho projektu a verzie Flowise, preto sa neodporúča riadiť sa návodom, ktorý vás núti vybrať si konkrétny identifikátor. Pre počiatočné testovanie zvyčajne stačí začať s lacnejším modelom a kapacitu zvyšovať iba vtedy, keď si to úloha vyžaduje.

Uzol obsahuje ďalšie parametre, ktoré umožňujú úpravu odpovedí:

• Teplota: V niektorých modeloch riadi stupeň variácie v reakciách. Nízka hodnota zvyčajne prináša predvídateľnejšie výsledky.
• Maximálny počet žetónov: obmedzuje maximálnu dĺžku výstupu, keď model a integrácia tento parameter podporujú.
• Časový limit: nastavuje, ako dlho môže Flowise čakať pred zrušením požiadavky.
• ZákladnáCesta: Umožňuje vám zadať inú základnú URL adresu pri použití kompatibilného poskytovateľa alebo brány.
• Základné možnosti: Používa sa na pridanie rozšírených možností podporovaných integráciou.

Nemusíte vyplniť všetky polia. Ak sa chcete pripojiť priamo k OpenAI, mali by ste nechať pole BasePath prázdne, pokiaľ vaša organizácia nepoužíva proxy alebo autorizovanú bránu.

Definujte osobnosť asistenta

Model by nemal len prijímať otázky používateľov. Potrebuje aj pokyny vysvetľujúce jeho funkciu, ako reagovať a čo robiť, keď nemá dostatok informácií.

Môžete ich nastaviť pomocou šablóny chatu alebo poľa systémovej správy dostupného v komponente, ktorý používate. Jednoduchý príklad by bol:

Eres un asistente de soporte especializado en nuestros productos.

Responde en castellano de España y utiliza un tono claro y profesional.
No inventes características, precios ni condiciones comerciales.
Si la información disponible no permite responder, indícalo expresamente.
No solicites contraseñas, claves de API ni datos bancarios.

Pokyny by mali byť konkrétne a overiteľné. Požiadavka na modelku, aby „vždy odpovedala správne“, neposkytuje užitočné usmernenie. Je lepšie špecifikovať povolené zdroje, požadovanú dĺžku, cieľovú skupinu a spôsob, akým sa zaoberať otázkami mimo oblasti ich odbornosti.

Používajte OpenRouter, Together AI a ďalšie kompatibilné API.

ChatOpenAI vám tiež umožňuje pracovať s určitými službami, ktoré ponúkajú rozhranie kompatibilné s OpenAI API. V takýchto prípadoch by ste mali použiť kľúč, základná URL adresa a identifikátor modelu poskytnutý danou službounie je kľúčom k OpenAI.

Flowise dokumentuje použitie vlastnej základnej URL adresy pre služby ako OpenRouter a Together AI. Niektoré verzie tiež obsahujú vyhradené uzly pre určitých poskytovateľov, ktoré môžu ponúknuť jasnejšiu konfiguráciu alebo kompatibilitu s proprietárnymi funkciami.

Ak model nie je uvedený, spoločnosť Flowise ho má ChatOpenAI VlastnéTu môžete manuálne zadať názov modelu. Tento uzol však nerobí žiadne API kompatibilným. Poskytovateľ musí akceptovať očakávaný formát požiadavky a zadaný identifikátor musí existovať v jeho katalógu.

Pred nastavením brány vždy skontrolujte:

• Presná základná URL adresa vrátane verzie API, ak je to relevantné.
• Celý názov modelu.
• Aké ďalšie hlavičky dodávateľ požaduje?
• Podporuje streamovanie, nástroje, obrázky a štruktúrované odpovede.
• Ako sa fakturuje spotreba a aké sú limity.

Ak chcete lepšie pochopiť, ako tieto typy brán fungujú, môžete si prečítať, ako Pripojte OpenRouter k Open WebUI.

Otestujte sprievodcu a riešte bežné chyby

Uložte si Chatflow a otvorte testovací chat zabudovaný vo Flowise. Začnite s jednoduchou otázkou a potom vytvorte niekoľko súvisiacich dotazov, aby ste skontrolovali, či pamäť správne uchováva kontext.

Mali by ste tiež otestovať nejednoznačné otázky, požiadavky mimo ich rozsahu a pokyny, ktoré sa snažia obísť pôvodné pravidlá. Asistent, ktorý dobre reaguje na tri pripravené otázky, ešte nie je pripravený slúžiť skutočným používateľom.

Chyba	Pravdepodobná príčina	Čo skontrolovať
401 alebo nesprávny kľúč	Poverenie bolo zrušené, nesprávne skopírované alebo priradené k inému projektu.	Skontrolujte uložený kľúč, jeho oprávnenia a vybraný projekt.
429 alebo dosiahnutý limit	Nedostatok finančných prostriedkov, limit výdavkov alebo príliš veľa žiadostí	Skontrolujte využitie, limity projektu a frekvenciu požiadaviek.
Model sa nenašiel	Nesprávny názov alebo model nie je k dispozícii pre projekt	Aktualizujte zoznam a overte identifikátor v dokumentácii dodávateľa.
Asistent zabudne predchádzajúce správy.	Pamäť nie je pripojená alebo sa zmenil identifikátor relácie	Skontrolujte pamäťový uzol a spôsob, akým sa udržiava používateľská relácia.
Odpoveď trvá príliš dlho.	Pomalý model, veľmi rozsiahla výzva, nadmerná RAG alebo externé nástroje	Vyskúšajte ľahší model a zredukujte kontext odosielaný v každej požiadavke.
Zoznam modelov sa zdá byť prázdny	Problém s povereniami, povoleniami alebo komunikáciou s poskytovateľom	Znova uložte prihlasovacie údaje, skontrolujte protokoly Flowise a overte sieť.

Ako prepojiť Flowise s Azure OpenAI

Služba Azure OpenAI by nemala byť nakonfigurovaná úplne rovnako ako priama služba OpenAI. Flowise má špecifický uzol s názvom Azure ChatOpenAIktorého poverenia vyžadujú údaje, ako napríklad kľúč Azure, názov zdroja alebo inštancie, názov nasadenia a verziu rozhrania API.

Názov nasadenia je obzvlášť dôležitý: nie vždy sa zhoduje s komerčným názvom modelu. Musíte použiť identifikátor priradený pri vytváraní nasadenia v rámci služby Azure.

Keď spoločnosť používa súkromný koncový bod, server alebo kontajner, na ktorom beží Flowise, musí byť schopný:

• Správne rozpoznajte súkromnú doménu pomocou DNS.
• Dostaňte sa k virtuálnej sieti, kde sa služba nachádza.
• Obísť pravidlá brány firewall a príslušné bezpečnostné skupiny.
• Predložte autorizované poverenie alebo metódu overenia.

Ak volanie z počítača funguje, ale z kontajnera Flowise zlyhá, zvyčajne je potrebné skontrolovať sieťovú cestu a rozlíšenie DNS v samotnom kontajneri. Prepísanie URL adresy bez znalosti podnikovej architektúry môže vytvoriť nesprávne cesty a nevyrieši blokovanie brány firewall.

Najnovšie verzie Flowise obsahujú aj kontroly určené na blokovanie požiadaviek na potenciálne nebezpečné lokálne alebo interné adresy. Ak pracujete s autorizovanými súkromnými koncovými bodmi, skontrolujte túto konfiguráciu so správcom infraštruktúry. Globálne vypnutie ochrany HTTP bez posúdenia rizika môže server vystaviť útokom na interné služby.

Pridanie obrázkov do sprievodcu

Flowise umožňuje zobraziť tlačidlo na nahranie obrázka, keď použitý uzol a tok túto funkciu podporujú. V ChatOpenAI musíte túto možnosť povoliť. Povoliť nahrávanie obrázkov a vyberte model schopný prijímať obrázky ako vstup.

Samotné prepnutie prepínača nestačí. Dokumentácia Flowise obmedzuje spracovanie obrázkov na konkrétne reťazce a agentov Chatflow, vrátane LLM Chain, Conversation Chain, ReAct Agent, Conversational Agent a Tool Agent. Presná kompatibilita sa môže meniť s vývojom platformy.

Môžete tiež upraviť rozlíšenie alebo úroveň detailov, s akou sa obrázok odosiela. Vyššie rozlíšenie môže zlepšiť analýzu malých prvkov, ale zvyšuje počet spracovaných vizuálnych tokenov, a tým aj náklady na požiadavku.

Pred použitím tejto funkcie s dokumentmi, fotografiami zákazníkov alebo internými snímkami obrazovky aplikácií skontrolujte, aké údaje sa odosielajú poskytovateľovi, a odstráňte všetky osobné informácie, poverenia alebo položky, ktoré nie sú pre danú úlohu potrebné.

Vytvorte si sprievodcu s vlastnými dokumentmi pomocou RAG

Model pripojený k OpenAI reaguje na základe svojich pokynov a informácií uvedených v každej požiadavke. Ak chcete, aby si prezeral manuály, poznámky, interné zásady alebo technické listy produktov, môžete pridať systém pre rozšírená generácia regeneráciou alebo RAG.

Flowise vám umožňuje vytvoriť tento systém pomocou úložísk dokumentov alebo manuálnym pripojením načítavačov dokumentov, rozdeľovačov textu, vkladacích modelov, vektorových databáz a vyhľadávacích systémov.

Všeobecný postup je nasledovný:

1. Nahrajte dokumenty, ktoré budú tvoriť znalostnú základňu.
2. Rozdeľte ich na fragmenty vhodnej veľkosti.
3. Transformujte fragmenty do vektorových reprezentácií pomocou modelu vnorenia.
4. Uložte tieto vektory do kompatibilnej databázy.
5. Nájdite fragmenty, ktoré najviac súvisia s každou otázkou.
6. Odošlite otázku modelu spolu s načítaným kontextom.

To umožňuje asistentovi založiť svoju odpoveď na informáciách, ktoré neboli súčasťou pôvodného školenia. Podobný príklad nájdete v našej príručke pre vytvorte si asistenta, ktorý si bude môcť prezerať vaše vlastné poznámky a dokumenty.

RAG pomáha redukovať počet vymyslených odpovedí, ale nezaručuje ich úplnú elimináciu. Výsledok závisí od kvality dokumentov, ich fragmentácie, modelu vkladania, vykonaného vyhľadávania a pokynov zadaných modelu. Je vhodné požiadať asistenta, aby rozpoznal, kedy kontext neobsahuje odpoveď, a ak je to možné, aby identifikoval použitý dokument.

Publikujte asistenta pomocou widgetu alebo rozhrania API

Keď tok funguje správne, Flowise ponúka dva hlavné spôsoby, ako ho použiť mimo editora:

• Vložený widget: Generuje fragment, ktorý je možné pridať na webovú stránku na zobrazenie chatu.
• Predikčné API: Umožňuje vlastnej aplikácii odosielať správy do postupu a prijímať odpovede.

Sekcia zdieľania Chatflow poskytuje aktualizovaný kód widgetu a údaje potrebné na volanie rozhrania API. Identifikátor toku sa používa na určenie, ktorý Chatflow sa má vykonať, ale Nemalo by sa to považovať za heslo..

Štandardne má k neoprávnenému toku prístup ktokoľvek, kto pozná jeho identifikátor. Pred jeho zverejnením musíte priradiť kľúč k chatovaciemu toku alebo umiestniť API za vlastný backend, ktorý overuje používateľov.

Odporúča sa tiež uplatniť tieto opatrenia:

• Chráňte administračný panel Flowise.
• Používajte HTTPS a správne nakonfigurovaný reverzný proxy.
• Aplikujte limity aplikácií, aby ste obmedzili zneužívanie a neočakávané náklady.
• Neposielajte kľúč OpenAI v kóde widgetu.
• Samostatné testovacie a produkčné poverenia.
• Skontrolujte, aké konverzácie a osobné údaje sa ukladajú.
• Udržujte Flowise a jeho závislosti aktuálne.
• Vykonajte zálohy databázy, tokov a potrebných šifrovacích kľúčov.

Pred pridaním agentov a nástrojov začnite s malým tokom.

Najlepším východiskovým bodom je chatflow pozostávajúci z ChatOpenAI, vlákna konverzácie, spomienky a jasných pokynov. Keď táto štruktúra funguje správne, môžete pridávať dokumenty, externé nástroje, obrázky alebo podmienky bez straty kontroly nad tokom.

Vyhnite sa pridávaniu príliš veľkého počtu uzlov od začiatku. Každý ďalší nástroj prináša nové poverenia, náklady, povolenia a potenciálne chyby. Testujte komponenty samostatne, zaznamenávajte zlyhania a merajte, aké informácie sa odosielajú s každou požiadavkou.

Flowise vám umožňuje vytvárať prototypy oveľa rýchlejšie ako vyvíjať celú aplikáciu od nuly, ale konečná kvalita stále závisí od návrhu postupu, testovania a bezpečnostných opatrení. Začnite s konkrétnou úlohou, overte, či prináša pridanú hodnotu, a sprievodcu rozširujte iba vtedy, keď je to skutočne potrebné.