Kako povezati Flowise s OpenAI-jem i konfigurirati AI asistente

Izrada AI asistenta često se čini jednostavnim dok se ne dođe do API-ja, memorije za razgovor, prilagođene dokumentacije i korisničkog sučelja. Flowise pokušava riješiti veći dio ove složenosti putem vizualnog uređivača gdje se različite komponente povezuju poput gradivnih blokova.

U ovom tutorijalu ćemo vidjeti Kako povezati Flowise s OpenAI-jemIzradit ćemo čarobnjaka s memorijom, prilagoditi njegovo ponašanje i provjeriti da li ispravno radi. Također ćemo pregledati kako dodati slike, koristiti dokumente putem RAG-a i zaštititi tijek prije integracije u web stranicu.

Što je Flowise i za što se koristi?

Flowise je platforma otvorenog koda za vizualno stvaranje aplikacija i agenata temeljenih na modelima. Umjesto pisanja sve logike u Pythonu ili JavaScriptu, omogućuje vam postavljanje međusobno povezani čvorovi na platnu.

Svaki čvor obrađuje drugačiji dio sustava. Jedan može predstavljati jezični model, drugi povijest razgovora, treći predložak instrukcija, a treći vektorsku bazu podataka s vlastitim informacijama. Veze određuju kako podaci teku između njih.

Platforma nudi različite načine za izradu aplikacije:

• Pomoćnik: To je najpristupačnija opcija za stvaranje pomoćnika bez ručnog dizajniranja svake veze.
• Tijek razgovora: Omogućuje vam izradu chatbotova i jednostavnih tokova povezivanjem modela, memorije, upita, dohvaćača i drugih komponenti.
• Protok agenata: Dizajniran je za složenije procese, s nekoliko koraka, uvjeta, alata, agenata i odluka tijekom izvršavanja.

Za ovaj vodič koristit ćemo Chatflow jer jasno pokazuje kako su OpenAI, memorija i upute čarobnjaka povezani. Ako želite saznati više o drugom alatu sa sličnim pristupom, možete se obratiti i našem vodiču za [druge alate]. Stvorite AI tijekove rada pomoću Langflowa.

Vizualni uređivač značajno smanjuje početnu barijeru, ali ne uklanja sve poteškoće. Izrada osnovnog prototipa relativno je jednostavna; objavljivanje čarobnjaka koji služi stvarnim korisnicima zahtijeva upravljanje autentifikacijom, troškovima, dopuštenjima dokumenata, ograničenjima korištenja i sigurnošću poslužitelja.

Što vam je potrebno prije povezivanja Flowisea s OpenAI-jem

Prije početka, morate pripremiti okruženje u kojem će se Flowise pokretati i vjerodajnice koje će omogućiti pristup OpenAI-u.

• Instalacija Flowisea, bilo lokalna, putem Dockera ili hostirana na poslužitelju.
• Kompatibilna i održavana verzija Node.js-a ako ćete instalaciju izvršiti pomoću NPM-a.
• Račun na OpenAI platformi za razvojne programere.
• OpenAI projekt s API pristupom i važećim ključem.
• Način naplate ili raspoloživi saldo kada je potrebno.

Važno je ne miješati ChatGPT s API-jem. Pretplata na ChatGPT ne znači da su pozivi upućeni s Flowisea uključeni. Korištenje API-ja obračunava se zasebno a trošak ovisi o modelu, obrađenim tokenima i korištenim funkcijama.

Instalirajte Flowise na svoje računalo

Ako već nemate Flowise, možete ga instalirati pomoću NPM-a. Otvorite terminal i pokrenite:

npm install -g flowise
npx flowise start

Nakon što se usluga pokrene, otvorite ovu adresu u svom pregledniku:

http://localhost:3000

Ova postavka je dovoljna za učenje i testiranje s vlastitog računala. Ako želite da vam čarobnjak bude trajno dostupan, bilo bi prikladnije koristiti Docker ili implementirati Flowise na poslužitelju s trajnom pohranom, sigurnosnim kopijama, HTTPS-om i kontrolom pristupa.

Izradite OpenAI API ključ

Idite na OpenAI platformu za razvojne programere, odaberite projekt koji ćete koristiti i stvorite novi API ključ. Čuvajte ga na sigurnom mjestu jer služi kao lozinka za pristup resursima projekta.

Ovaj ključ ne smijete lijepiti na javne stranice, repozitorije koda, snimke zaslona ili skripte koje se izvode u pregledniku. Vjerodajnica mora ostati na Flowise poslužitelju i nikada ne smije doći do uređaja krajnjeg korisnika.

Također je preporučljivo postaviti ograničenja potrošnje i upozorenja o korištenju unutar OpenAI-a. Na taj način, pogreška u tijeku rada ili prekomjerna upotreba chatbota neće rezultirati neočekivanim računom.

Kako stvoriti svoj prvi Chatflow

Na početnom zaslonu Flowisea idite na odjeljak Chatflows i stvorite novi. Dajte mu naziv koji identificira njegovu funkciju, na primjer „OpenAI Test Assistant“.

Za postavljanje osnovnog razgovora s memorijom možete dodati ove komponente:

1. Čvor ChatOpenAI, koji će biti odgovoran za komunikaciju s modelom.
2. Čvor Lanac razgovora, koji će organizirati razmjenu poruka.
3. Memorijski čvor, kao što je npr. Međuspremnik, kako bi se sačuvao kontekst razgovora.
4. Po želji, a Predložak upita za chat definirati ton, pravila i funkciju asistenta.

Spojite izlaz ChatOpenAI-a s ulazom modela u lancu razgovora. Zatim spojite međuspremnik (Buffer Memory) s ulazom memorije u lancu. Ako dodate predložak upita, povežite ga s odgovarajućim unosom u lancu razgovora.

Nazivi i točan položaj nekih opcija mogu se neznatno razlikovati između verzija, ali logička struktura ostaje ista: Model generira odgovor, lanac upravlja razgovorom, a memorija čuva kontekst..

Konfigurirajte čvor ChatOpenAI

Otvorite čvor ChatOpenAI i kliknite opciju za stvaranje vjerodajnice. Unesite API ključ koji ste ranije generirali i spremite konfiguraciju.

Zatim odaberite model. Dostupni popis ovisi o modelima dostupnima iz vašeg projekta i verziji Flowisea, stoga se ne preporučuje slijediti vodič koji vas prisiljava da odaberete određeni identifikator. Za početno testiranje obično je dovoljno započeti s jeftinijim modelom i povećati kapacitet samo kada to zadatak zahtijeva.

Čvor uključuje i druge parametre koji omogućuju mijenjanje odgovora:

• Temperatura: U određenim modelima kontrolira stupanj varijacije u odgovorima. Niska vrijednost obično daje predvidljivije rezultate.
• Maksimalan broj tokena: ograničava maksimalnu duljinu izlaza kada model i integracija podržavaju ovaj parametar.
• Vremensko ograničenje: postavlja koliko dugo Flowise može čekati prije otkazivanja zahtjeva.
• Osnovni put: Omogućuje vam da odredite drugačiji osnovni URL kada koristite kompatibilnog pružatelja usluga ili pristupnika.
• Osnovne opcije: Koristi se za dodavanje naprednih opcija koje podržava integracija.

Ne morate ispuniti sva polja. Za izravnu vezu s OpenAI-jem, polje BasePath trebali biste ostaviti praznim, osim ako vaša organizacija ne koristi proxy ili ovlašteni pristupnik.

Definirajte osobnost asistenta

Model ne bi trebao samo primati korisnička pitanja. Također su mu potrebne upute koje objašnjavaju njegovu funkciju, kako odgovoriti i što učiniti kada nema dovoljno informacija.

Možete ih postaviti pomoću predloška za chat ili polja za sistemsku poruku dostupnog u komponenti koju koristite. Jednostavan primjer bio bi:

Eres un asistente de soporte especializado en nuestros productos.

Responde en castellano de España y utiliza un tono claro y profesional.
No inventes características, precios ni condiciones comerciales.
Si la información disponible no permite responder, indícalo expresamente.
No solicites contraseñas, claves de API ni datos bancarios.

Upute trebaju biti specifične i provjerljive. Zahtijevati od modela da "uvijek točno odgovori" ne pruža korisne smjernice. Bolje je navesti dopuštene izvore, željenu duljinu, ciljanu publiku i kako postupati s pitanjima izvan njihovog područja stručnosti.

Koristite OpenRouter, Together AI i druge kompatibilne API-je.

ChatOpenAI vam također omogućuje rad s određenim uslugama koje nude sučelje kompatibilno s OpenAI API-jem. U tim slučajevima trebali biste koristiti ključ, osnovni URL i identifikator modela koje pruža ta usluganije ključ za OpenAI.

Flowise dokumentira korištenje prilagođenog osnovnog URL-a za usluge poput OpenRoutera i Together AI. Neke verzije također uključuju namjenske čvorove za određene pružatelje usluga, što može ponuditi jasniju konfiguraciju ili kompatibilnost s vlasničkim značajkama.

Ako model nije naveden, Flowise ima ChatOpenAI prilagođenoOvdje možete ručno unijeti naziv modela. Međutim, ovaj čvor ne čini nijedan API kompatibilan. Pružatelj usluga mora prihvatiti očekivani format zahtjeva, a uneseni identifikator mora postojati u njegovom katalogu.

Prije postavljanja pristupnika uvijek provjerite:

• Točan osnovni URL, uključujući verziju API-ja gdje je primjenjivo.
• Puni naziv modela.
• Koje dodatne zaglavlja zahtijeva dobavljač?
• Podržava streaming, alate, slike i strukturirane odgovore.
• Kako se naplaćuje potrošnja i koja se ograničenja primjenjuju.

Ako želite bolje razumjeti kako ove vrste pristupnika funkcioniraju, možete se obratiti Povežite OpenRouter s Open WebUI-jem.

Testirajte čarobnjaka i riješite uobičajene pogreške

Spremite Chatflow i otvorite testni chat ugrađen u Flowise. Počnite s jednostavnim pitanjem, a zatim postavite nekoliko povezanih upita kako biste provjerili je li memorija ispravno zadržala kontekst.

Također biste trebali testirati dvosmislena pitanja, zahtjeve izvan njihovog opsega i upute koje pokušavaju zaobići početna pravila. Asistent koji dobro odgovara na tri pripremljena pitanja još nije spreman služiti stvarnim korisnicima.

Pogreška	Vjerojatni uzrok	Što provjeriti
401 ili neispravan ključ	Vjerodajnica opozvana, neispravno kopirana ili povezana s drugim projektom	Provjerite spremljeni ključ, njegova dopuštenja i odabrani projekt.
429 ili dosegnuto ograničenje	Nedovoljno sredstava, ograničenje potrošnje ili previše zahtjeva	Provjerite korištenje, ograničenja projekta i učestalost zahtjeva.
Model nije pronađen	Netočno ime ili model nije dostupan za projekt	Ažurirajte popis i provjerite identifikator u dokumentaciji dobavljača.
Asistent zaboravlja prethodne poruke.	Memorija nije spojena ili se identifikator sesije promijenio	Pregledajte memorijski čvor i kako se održava korisnička sesija.
Odgovor traje predugo.	Spori model, vrlo dugačak upit, prekomjerni RAG ili vanjski alati	Isprobajte jednostavniji model i smanjite kontekst koji se šalje u svakom zahtjevu.
Popis modela izgleda prazan	Problem s vjerodajnicama, dozvolama ili komunikacijom s davateljem usluga	Ponovno spremite vjerodajnice, provjerite Flowise zapisnike i potvrdite mrežu.

Kako povezati Flowise s Azure OpenAI-jem

Azure OpenAI ne bi trebao biti konfiguriran potpuno isto kao izravna OpenAI usluga. Flowise ima specifičan čvor pod nazivom Azure ChatOpenAIčije vjerodajnice zahtijevaju podatke kao što su Azure ključ, naziv resursa ili instance, naziv implementacije i verzija API-ja.

Naziv implementacije je posebno važan: ne podudara se uvijek s komercijalnim nazivom modela. Morate koristiti identifikator dodijeljen prilikom stvaranja implementacije unutar Azurea.

Kada tvrtka koristi privatnu krajnju točku, poslužitelj ili kontejner na kojem se izvodi Flowise mora biti u mogućnosti:

• Ispravno razriješite privatnu domenu pomoću DNS-a.
• Dosegnite virtualnu mrežu na kojoj se nalazi usluga.
• Zaobiđi pravila vatrozida i relevantne sigurnosne grupe.
• Predočite ovlaštenu vjerodajnicu ili metodu autentifikacije.

Ako poziv s računala funkcionira, ali ne uspije iz Flowise kontejnera, obično morate provjeriti mrežni put i DNS razrješenje unutar samog kontejnera. Prepisivanje URL-a bez poznavanja arhitekture poduzeća može stvoriti netočne putove i neće riješiti blokadu vatrozida.

Novije verzije Flowisea također uključuju provjere osmišljene za blokiranje zahtjeva prema potencijalno opasnim lokalnim ili internim adresama. Ako radite s ovlaštenim privatnim krajnjim točkama, pregledajte ovu konfiguraciju sa svojim administratorom infrastrukture. Globalno onemogućavanje HTTP zaštita bez procjene rizika može izložiti poslužitelj napadima na interne usluge.

Dodajte slike u čarobnjaka

Flowise vam omogućuje prikaz gumba za prijenos slike kada korišteni čvor i tijek podržavaju tu funkciju. U ChatOpenAI-u morate omogućiti tu opciju. Dopusti prijenos slika i odaberite model koji može primati slike kao ulaz.

Samo prebacivanje nije dovoljno. Flowise dokumentacija ograničava obradu slika na specifične Chatflow lance i agente, uključujući LLM Chain, Conversation Chain, ReAct Agent, Conversational Agent i Tool Agent. Točna kompatibilnost može se mijenjati kako se platforma razvija.

Također možete prilagoditi rezoluciju ili razinu detalja na kojoj se slika šalje. Viša rezolucija može poboljšati analizu malih elemenata, ali povećava broj obrađenih vizualnih tokena i, prema tome, trošak zahtjeva.

Prije korištenja ove značajke s dokumentima, fotografijama korisnika ili snimkama zaslona internih aplikacija, provjerite koji se podaci šalju davatelju usluga i uklonite sve osobne podatke, vjerodajnice ili stavke koje nisu potrebne za zadatak.

Izradite čarobnjaka s vlastitim dokumentima pomoću RAG-a

Model povezan s OpenAI-jem odgovara na temelju svojih uputa i informacija uključenih u svaki zahtjev. Ako želite da konzultira priručnike, bilješke, interne politike ili podatkovne listove proizvoda, možete dodati sustav za povećana generacija oporavkom ili RAG-om.

Flowise vam omogućuje stvaranje ovog sustava pomoću Spremišta dokumenata ili ručnim povezivanjem učitavača dokumenata, razdjelnika teksta, modela ugradnje, vektorskih baza podataka i sustava za pretraživanje.

Opći postupak je sljedeći:

1. Prenesite dokumente koji će činiti bazu znanja.
2. Podijelite ih na fragmente odgovarajuće veličine.
3. Transformirajte fragmente u vektorske prikaze koristeći model ugrađivanja.
4. Spremite te vektore u kompatibilnu bazu podataka.
5. Pronađite fragmente koji su najviše povezani sa svakim pitanjem.
6. Pošaljite pitanje modelu zajedno s dohvaćenim kontekstom.

To omogućuje asistentu da svoj odgovor temelji na informacijama koje nisu bile dio izvorne obuke. Sličan primjer možete vidjeti u našem vodiču za stvorite asistenta koji može pregledavati vaše bilješke i dokumente.

RAG pomaže u smanjenju lažnih odgovora, ali ne jamči njihovo potpuno uklanjanje. Ishod ovisi o kvaliteti dokumenata, njihovoj fragmentiranosti, modelu ugradnje, izvršenom pretraživanju i uputama danim modelu. Preporučljivo je zamoliti asistenta da prepozna kada kontekst ne sadrži odgovor i, kada je to moguće, da identificira korišteni dokument.

Objavite pomoćnika pomoću widgeta ili API-ja

Kada tijek ispravno radi, Flowise nudi dva glavna načina korištenja izvan uređivača:

• Ugrađeni widget: Generira fragment koji se može dodati web stranici za prikaz chata.
• API za predviđanje: Omogućuje prilagođenoj aplikaciji slanje poruka toku i primanje odgovora.

Odjeljak za dijeljenje Chatflowa pruža ažurirani kod widgeta i podatke potrebne za pozivanje API-ja. Identifikator toka koristi se za određivanje koji Chatflow treba izvršiti, ali Ne treba je smatrati lozinkom..

Prema zadanim postavkama, neovlaštenom toku može pristupiti svatko tko zna njegov identifikator. Prije objavljivanja morate dodijeliti ključ toku chata ili postaviti API iza vlastitog backenda koji autentificira korisnike.

Također je preporučljivo primijeniti ove mjere:

• Zaštitite administracijsku ploču Flowisea.
• Koristite HTTPS i ispravno konfiguriran obrnuti proxy.
• Primijenite ograničenja aplikacija kako biste spriječili zlouporabu i neočekivane troškove.
• Ne šaljite OpenAI ključ unutar koda widgeta.
• Odvojene testne i produkcijske vjerodajnice.
• Pregledajte koji se razgovori i osobni podaci pohranjuju.
• Redovito ažurirajte Flowise i njegove ovisnosti.
• Izvršite sigurnosne kopije baze podataka, tokova i potrebnih ključeva za šifriranje.

Započnite s malim tokom prije dodavanja agenata i alata

Najbolja početna točka je tijek razgovora koji se sastoji od ChatOpenAI-a, niti razgovora, sjećanja i jasnih uputa. Nakon što ova struktura ispravno funkcionira, možete dodati dokumente, vanjske alate, slike ili uvjete bez gubitka kontrole nad tokom.

Izbjegavajte dodavanje previše čvorova od samog početka. Svaki dodatni alat uvodi nove vjerodajnice, troškove, dopuštenja i potencijalne pogreške. Testirajte komponente zasebno, zabilježite kvarove i izmjerite koje se informacije šalju sa svakim zahtjevom.

Flowise vam omogućuje izradu prototipova puno brže nego razvoj cijele aplikacije od nule, ali konačna kvaliteta i dalje ovisi o dizajnu toka, testiranju i sigurnosnim mjerama. Započnite s određenim zadatkom, provjerite dodaje li vrijednost i proširite čarobnjaka samo kada postoji stvarna potreba.