Kako omogućiti Open WebUI internetsku pretragu pomoću SearXNG-a

Kako aktivirati internetsku pretragu Open WebUI-ja pomoću SearXNG-a? Ako ste primijetili da vaš lokalni jezični model ne uspijeva jer mu nedostaje pristup mreži u stvarnom vremenu, vjerojatno tražite način da mu date "oči" za vanjski svijet. Open WebUI je fantastičan alat, ali da bi zaista zablistao i prestao izmišljati stvari kada ga pitate za aktualne vijesti, potrebna mu je snažna tražilica. Tu dolazi do izražaja. SearXNG, besplatna i privatno prihvatljiva metatražilica koja djeluje kao most između vaše umjetne inteligencije i weba.

Postavljanje ove kombinacije u početku se može činiti kao glavobolja, posebno ako se mučite s Docker kontejnerima ili URL-ovima koji se ne povezuju, ali kada je jednom pravilno pokrenete, razlika je ogromna. Ne radi se samo o spajanju dva virtualna kabela, već o prilagoditi interne postavke Kako bismo osigurali kompatibilnost formata podataka i kako se model ne bi izgubio putem, pogledajmo korak po korak kako to postaviti tako da vaš asistent može jednostavno skenirati mrežu.

Instaliranje SearXNG-a pomoću Dockera

Prvi korak je postavljanje infrastrukture tražilice. Najčišći način za to je kloniranje službenog repozitorija searchng-dockerNakon što ste unutar mape, najvažnije je pogledati datoteku. .env aktivirati SEARXNG_HOSTNAMEšto u osnovi govori službi tko ste i gdje živite.

Ako ustanovite da port 8080 već koristi neka druga aplikacija, ne brinite; možete ga promijeniti u datoteci docker-compose.yaml za bilo koji drugi slobodni prostor koji imate. Ključna točka ovdje je ukloni ograničenja lokalnog hosta u toj datoteci kako bi Open WebUI mogao komunicirati s njom. Osim toga, bitno je dodijeliti kontejneru potrebna dopuštenja kako bi mogao generirati vlastite konfiguracijske datoteke u korijenskom direktoriju.

Konfiguriranje datoteka limiter.toml i settings.yml

Kako biste spriječili da veza postane kaotična, morate stvoriti datoteku pod nazivom limiter.toml Provjerite je li dopušteno; ako već postoji, jednostavno dodajte nedostajuće retke kako biste spriječili sustav da blokira zahtjeve umjetne inteligencije. S druge strane, postoji važan trik: izbrišite zadanu datoteku settings.yml Ako postoji, sustav će generirati novi, čisti prilikom prvog pokretanja spremnika.

Nakon tog početnog brzog pokretanja, preporučuje se dodavanje instrukcije cap_drop: - ALL u pisanju poruka radi čiste sigurnosti. Sada dolazi dio gdje većina ne uspijeva: omogući JSON formatMorate pristupiti datoteci settings.yml, pronađite odjeljak za pretraživanje i dodajte json na popis dopuštenih formata. Bez ovoga, Open WebUI će primati podatke koje ne razumije i izbaciti zloglasnu grešku 403 Forbidden.

Povezivanje s Open WebUI-jem

Nakon što se SearXNG pokrene i konfigurira, vrijeme je za odlazak na administratorsku ploču Open WebUI. Idite na Postavke > Administrator > Alati > Web pretraživanjeAktivirajte potvrdni okvir "Omogući pretraživanje" i u padajućem izborniku tražilice odaberite pretraživanje.

URL upita je ključ uspjeha. Ovisno o tome gdje imate sve instalirano, imat ćete nekoliko opcija. Ako koristite Docker na istoj mreži, možete koristiti naziv spremnika (http://searxng:8080/search?q=<query>), ili ako radije igrate na sigurno s IP adresom hosta, koristite http://host.docker.internal:8080/search?q=<query>Najvažnije je to završetak /search?q= Obavezno jeAko to zaboravite, umjetna inteligencija neće znati kako poslati pitanje tražilici.

Rješavanje uobičajenih problema i optimizacija

Ako vidite da pretraga funkcionira, ali sadržaj koji vraća umjetna inteligencija je prazan ili vrlo loš, krivac je obično kontekstni prozorMnoge web stranice su ogromne i ako vaš model prihvaća samo 2048 tokena, podaci će biti prekinuti. Povećajte ograničenje na 16384 ili više u naprednim postavkama modela. Također, ako primijetite da vas blokiraju stranice poput Wikipedije ili Cloudflarea, to je zato što otkrivaju da ste bot. Rješenje je konfigurirati KORISNIČKI_AGENT koji oponaša pravi preglednik poput Chromea ili Firefoxa.

Drugi uobičajeni problem javlja se pri korištenju HTTP proxyja. Ako upiti dosegnu SearXNG ali sadržaj rezultirajuće web stranice nije moguće pročitati, aktivirajte opciju Okruženje pouzdanog proxyja u postavkama web pretraživanja. Konačno, ako model jednostavno ignorira alat za pretraživanje, provjerite koristite li model s mogućnostima pozivanja alata (poziv funkcije) i da je aktivan način pozivanja izvornih funkcija.

Praktična upotreba u chatu

Za testiranje svega, uđite u chat i kliknite gumb Integracije (pored ikone +). Tamo biste trebali Ručno aktivirajte prekidač za pretraživanje webaImajte na umu da je ova postavka po sesiji; ako osvježite stranicu ili promijenite razgovor, morat ćete je ponovno aktivirati. Kako biste spriječili preopterećenje ili blokiranje sustava zbog prekomjernog broja zahtjeva, možete prilagoditi broj istovremenih rezultata i ukupan broj rezultata u administratorskoj ploči.

Integrirani lokalni sustav pretraživanja omogućuje bilo kojem LLM-u, bez obzira na starost, pristup ažurnim podacima, izbjegavajući uobičajenu zbrku. Ključ leži u... provjerite je li JSON format aktivan u SearXNG-u i da je URL upita točan, a također i ispravno upravljanje memorijom modela kako bi mogao obraditi informacije izvučene s weba bez izostavljanja vitalnih detalja.