Kompletní průvodce instalací a konfigurací RAGFlow s Dockerem

Pokud hledáte způsob, jak přimět umělou inteligenci, aby zakládala své odpovědi na vašich vlastních souborech, RAGFlow je jednou z nejkomplexnějších alternativ. Je to… motor pro zvýšení výroby energie pomocí rekuperace open source, který analyzuje strukturu dokumentů a poskytuje modelu relevantní informace pro snížení obvyklých halucinací LLM.

Navíc si jej můžete nainstalovat na vlastní infrastrukturu mějte kontrolu nad svými daty a vyhnout se úplné závislosti na externích platformách. Díky architektuře založené na Dockeru umožňuje správu ingestování, indexování a vytváření asistentů a agentů prostřednictvím vizuálního rozhraní.

Technické požadavky před zahájením

Aby systém správně fungoval, potřebujete počítač, který splňuje určité minimální požadavky. Správa dokumentů, vyhledávače a indexování mohou spotřebovávat značné množství zdrojů, zejména při práci s velkými kolekcemi.

Dokumentace RAGFlow stanoví následující požadavky:

• Procesor x86 se čtyřmi nebo více jádry.
• Alespoň 16 GB RAM.
• Minimálně 50 GB dostupného úložiště.
• Docker 24.0.0 nebo novější.
• Docker Compose 2.26.1 nebo novější.
• Python 3.13 nebo novější.

Pokud plánujete pro své agenty používat spouštěč kódu v režimu sandbox, budete muset také nainstalovat gViewer izolovat provádění a zlepšit bezpečnost životního prostředí.

Dalším důležitým bodem je konfigurace jádra. Musíte se ujistit, že hodnota vm.max_map_count být rovno nebo větší než 262144. V opačném případě může dokumentový modul zobrazit chyby paměti nebo se nemusí správně spustit.

Aktuální hodnotu můžete zkontrolovat pomocí:

sysctl vm.max_map_count

Pokud to potřebujete dočasně upravit, spusťte:

sudo sysctl -w vm.max_map_count=262144

Tato změna bude po restartu systému ztracena. Chcete-li ji zachovat, přidejte do souboru následující řádek /etc/sysctl.conf:

vm.max_map_count=262144

Kroky k nasazení RAGFlow s Dockerem

Jakmile je prostředí připraveno, prvním krokem je naklonovat oficiální repozitář z RAGFlow na GitHubu:

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker

Abyste se vyhnuli nekompatibilitě mezi konfiguračními soubory a obrazem Dockeru, doporučuje se vybrat stabilní verzi publikovanou v repozitáři. Poté můžete spustit RAGFlow pomocí:

docker compose -f docker-compose.yml up -d

Tento příkaz využívá CPU pro úlohy DeepDoc. Pokud máte Kompatibilní s grafickými kartami NVIDIA, přidejte do souboru následující proměnnou .env před spuštěním kontejnerů:

DEVICE=gpu

Dále použijte stejný soubor Docker Compose:

docker compose -f docker-compose.yml up -d

Chcete-li ověřit, zda se server spustil správně, zkontrolujte protokoly odpovídajícího kontejneru:

docker logs -f docker-ragflow-cpu-1

Přesný název kontejneru se může lišit v závislosti na použité verzi a konfiguraci. Pokud protokoly ukazují, že server běží v 0.0.0.0Nyní můžete otevřít rozhraní.

Ve výchozím nastavení jednoduše zadejte IP adresu serveru do prohlížeče:

http://IP_DEL_SERVIDOR

Výchozí port HTTP je 80, takže ho obvykle nemusíte zadávat. Jakmile jste uvnitř, přístup Poskytovatelé modelůVyberte poskytovatele, kterého chcete použít, a nakonfigurujte jeho přihlašovací údaje. RAGFlow umožňuje samostatně definovat modely chatu, vkládání, rozpoznávání obrázků a další kompatibilní úlohy.

Správa dokumentů a pracovní postupy

Hlavní výhoda RAGFlow spočívá ve způsobu zpracování informací. Místo pouhého rozdělení obsahu na libovolné fragmenty používá různé analyzátory k interpretaci struktury dokumentů, tabulek, obrázků a naskenovaných souborů.

Chcete-li začít, vytvořte datovou sadu, nahrajte soubory a vyberte šablona fragmentace vhodné. Platforma podporuje různé formáty, včetně PDF, DOCX, tabulek, prezentací, textových souborů a obrázků.

RAGFlow také umožňuje prozkoumat generované fragmentyMůžete je ručně upravovat a přidávat klíčová slova. Tato možnost je užitečná, pokud analyzátor správně neinterpretoval tabulku, nadpis nebo konkrétní sekci.

Když systém načítá informace k odpovědi na otázku, může zahrnout citace, které odkazují na původní fragmenty. To zlepšuje sledovatelnost odpovědíTo však nezaručuje, že model bude zcela bezchybný.

Po zpracování dokumentů si můžete v sekci chatu vytvořit asistenta. Mezi jeho možnosti patří možnost definovat, co má reagovat, když v databázi znalostí nenajde dostatek informací.

Nastavení zprávy typu „Tyto informace nemohu najít v dostupných dokumentech“ pomáhá snížit riziko, že model improvizuje s odpovědí bez dokumentární podpory.

Pokročilé nastavení a optimalizace systému

Hlavní parametry nasazení se nacházejí v souboru .envOdtud můžete upravovat prvky, jako je HTTP port, hesla MySQL a MinIO, dokumentový engine nebo využití GPU.

RAGFlow používá Elasticsearch jako výchozí engine pro ukládání a načítání textu a vektorů. Umožňuje také přepnutí do režimu Infinity pomocí této proměnné:

DOC_ENGINE=infinity

Tato změna však automaticky nezachovává existující data. Oficiální postup vyžaduje zastavení kontejnerů a smazání jejich svazků.

docker compose -f docker-compose.yml down -v

Parametr -v smazat svazky Dockeru a všechna data na nich uložená. Před spuštěním příkazu se ujistěte, že máte zálohu a že opravdu chcete začít s čistou instalací.

Po založení DOC_ENGINE=infinity v souboru .envKontejnery můžete restartovat:

docker compose -f docker-compose.yml up -d

Oficiální obrazy RAGFlow jsou navrženy pro platformy x86. Pokud používáte procesor ARM64Pro určitá zařízení, jako například zařízení s Apple Silicon nebo servery s Amazon Graviton, budete muset vytvořit kompatibilní obraz systému podle pokynů v projektu.

Od verze 0.22 distribuuje RAGFlow pouze odlehčenou verzi svého obrazu. Tato edice má velikost přibližně 2 GB a pro poskytování potřebných jazykových modelů a vkládání se spoléhá na externí nebo doplňkové služby.

Pokud chcete službu zpřístupnit internetu, nedoporučuje se publikovat její port přímo. Nejbezpečnějším přístupem je použití reverzní proxy jako Nginx nebo Traefik Před RAGFlow povolte HTTPS a přidejte příslušné kontroly přístupu.

Integrace lokálních modelů a soukromí

RAGFlow může také používat modely běžící ve vaší vlastní infrastruktuře. Mezi podporované možnosti patří: Ollama, LM Studio a vLLMKonkrétní konfigurace však závisí na poskytovateli a nainstalované verzi.

V běžné instalaci lze Ollamu přidat z Nastavení > Poskytovatelé modelů > OllamaTam musíte zadat model a adresu, přes kterou bude RAGFlow moci přistupovat k serveru Ollama.

Pokud RAGFlow běží uvnitř Dockeru, nezapomeňte, že localhost Odkazuje na samotný kontejner. Po instalaci Ollamy na hostitelský systém budete muset použít adresu přístupnou z kontejnerů, například IP adresu počítače nebo host.docker.internal až bude k dispozici.

Pro udržení dat v síti nestačí pouhé použití modelu lokálního chatu. Musíte také ověřit, že vkládání modelů, rozpoznávání obrázků, přehodnocení a jakékoli další související služby spouštět lokálně. Pokud jsou některé informace závislé na externím API, mohly by opustit vaši infrastrukturu.

Platforma umožňuje použití modelů pro změnu pořadí načtených fragmentů před jejich odesláním do LLM. To může zlepšit relevanci odpovědí v určitých kolekcích, i když výsledek bude záviset na dokumentech, vybraném modelu a nastavení vyhledávání.

RAGFlow vám umožňuje transformovat kolekci dokumentů do prohledávatelné znalostní báze pomocí umělé inteligence. Jeho nástroje pro analýzu, fragmentaci, vyhledávání a sledovatelnost vám pomohou získat informovanější odpovědi, zatímco lokální nasazení nabízí větší kontrolu nad infrastrukturou a zpracováním dat.