Повний посібник з встановлення та налаштування RAGFlow за допомогою Docker

Якщо ви шукаєте спосіб, щоб штучний інтелект базував свої відповіді на ваших власних файлах, RAGFlow — одна з найповніших альтернатив. Це… двигун для збільшення генерації за рахунок рекуперації відкритий код, який аналізує структуру документів і надає моделі відповідну інформацію для зменшення звичних галюцинацій LLM.

Крім того, ви можете встановити його на власній інфраструктурі, щоб контролювати свої дані та уникнути повної залежності від зовнішніх платформ. Завдяки архітектурі на основі Docker, він дозволяє керувати прийомом даних, індексацією та створенням помічників і агентів через візуальний інтерфейс.

Технічні вимоги перед початком роботи

Для коректного функціонування системи потрібен комп’ютер, який відповідає певним мінімальним вимогам. Керування документами, пошукові системи та індексування можуть споживати значні ресурси, особливо під час роботи з великими колекціями.

Документація RAGFlow встановлює такі вимоги:

• процесор x86 з чотирма або більше ядрами.
• Принаймні 16 ГБ оперативної пам'яті.
• Мінімум 50 ГБ доступного сховища.
• Докер 24.0.0 або пізнішої версії.
• Docker Compose 2.26.1 або пізнішої версії.
• Python 3.13 або пізнішої версії.

Якщо ви плануєте використовувати виконавець коду в режимі "пісочниці" для своїх агентів, вам також потрібно буде встановити gViewer ізолювати виконання та покращити безпеку навколишнього середовища.

Ще один важливий момент – це конфігурація ядра. Ви повинні переконатися, що значення vm.max_map_count дорівнювати або бути більшим за 262144. В іншому випадку механізм обробки документів може відображати помилки пам’яті або не запускатися належним чином.

Ви можете перевірити поточне значення за допомогою:

sysctl vm.max_map_count

Якщо вам потрібно тимчасово змінити його, виконайте команду:

sudo sysctl -w vm.max_map_count=262144

Ця зміна буде втрачена після перезавантаження системи. Щоб зберегти її, додайте до файлу наступний рядок /etc/sysctl.conf:

vm.max_map_count=262144

Кроки для розгортання RAGFlow за допомогою Docker

Після того, як середовище підготовлено, першим кроком є клонувати офіційний репозиторій з RAGFlow на GitHub:

git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker

Щоб уникнути несумісності між файлами конфігурації та образом Docker, рекомендується вибрати стабільну версію, опубліковану в репозиторії. Після цього ви можете запустити RAGFlow за допомогою:

docker compose -f docker-compose.yml up -d

Ця команда використовує процесор для завдань DeepDoc. Якщо у вас є Сумісний з відеокартами NVIDIA, додайте до файлу наступну змінну .env перед запуском контейнерів:

DEVICE=gpu

Далі використовуйте той самий файл Docker Compose:

docker compose -f docker-compose.yml up -d

Щоб перевірити, чи сервер запустився правильно, перевірте журнали відповідного контейнера:

docker logs -f docker-ragflow-cpu-1

Точна назва контейнера може відрізнятися залежно від версії та конфігурації, що використовуються. Коли журнали вказують на те, що сервер працює в 0.0.0.0Тепер ви можете відкрити інтерфейс.

За замовчуванням просто введіть IP-адресу сервера у свій браузер:

http://IP_DEL_SERVIDOR

Стандартний HTTP-порт — 80, тому зазвичай його не потрібно вводити. Увійшовши всередину, ви отримаєте доступ Постачальники моделейВиберіть постачальника, якого ви хочете використовувати, та налаштуйте його облікові дані. RAGFlow дозволяє окремо визначати моделі чату, вбудовування, розпізнавання зображень та інші сумісні завдання.

Управління документами та робочий процес

Головна перевага RAGFlow полягає в тому, як він обробляє інформацію. Замість простого розділення контенту на довільні фрагменти, він використовує різні аналізатори для інтерпретації структури документів, таблиць, зображень та сканованих файлів.

Щоб почати, створіть набір даних, завантажте файли та виберіть шаблон фрагментації підходить. Платформа підтримує різні формати, включаючи PDF, DOCX, електронні таблиці, презентації, текстові файли та зображення.

RAGFlow також дозволяє перевірте згенеровані фрагментиВи можете вручну редагувати їх та додавати ключові слова. Ця опція корисна, коли аналізатор неправильно інтерпретував таблицю, заголовок або певний розділ.

Коли система отримує інформацію для відповіді на запитання, вона може включати цитати, що ведуть назад до оригінальних фрагментів. Це покращує відстежуваність відповідейОднак це не гарантує, що модель буде повністю безпомилковою.

Після обробки документів ви можете створити помічника з розділу чату. Серед його опцій є можливість визначити, що він має реагувати, коли не знаходить достатньо інформації в базі знань.

Встановлення повідомлення на кшталт «Я не можу знайти цю інформацію в доступних документах» допомагає зменшити ризик того, що модель імпровізує з відповіддю без документального підтвердження.

Розширені налаштування та оптимізація системи

Основні параметри розгортання знаходяться у файлі .envЗвідти ви можете змінювати такі елементи, як порт HTTP, паролі MySQL та MinIO, механізм обробки документів або використання графічного процесора.

RAGFlow використовує Elasticsearch як механізм за замовчуванням для зберігання та отримання тексту та векторів. Він також дозволяє перемикатися на Infinity за допомогою цієї змінної:

DOC_ENGINE=infinity

Однак ця зміна не зберігає автоматично існуючі дані. Офіційна процедура вимагає зупинки контейнерів та видалення їхніх томів.

docker compose -f docker-compose.yml down -v

Параметр -v видалити томи Docker та всі дані, що зберігаються на них. Перш ніж запускати команду, переконайтеся, що у вас є резервна копія, і що ви дійсно хочете почати з чистої інсталяції.

Після встановлення DOC_ENGINE=infinity у файлі .envВи можете перезапустити контейнери:

docker compose -f docker-compose.yml up -d

Офіційні образи RAGFlow розроблені для платформ x86. Якщо ви використовуєте процесор ARM64Для певних пристроїв, таких як пристрої з Apple Silicon або сервери з Amazon Graviton, вам потрібно буде створити сумісний образ, дотримуючись інструкцій проекту.

Починаючи з версії 0.22, RAGFlow розповсюджував лише полегшену версію свого образу. Ця версія має розмір приблизно 2 ГБ і покладається на зовнішні або додаткові сервіси для забезпечення необхідних мовних моделей та вбудовування.

Якщо ви хочете надати сервісу доступ до Інтернету, не рекомендується безпосередньо публікувати його порт. Найбезпечніший підхід – використовувати зворотний проксі-сервер, такий як Nginx або Traefik Перед RAGFlow увімкніть HTTPS та додайте відповідні елементи керування доступом.

Інтеграція локальних моделей та конфіденційності

RAGFlow також може використовувати моделі, що працюють у вашій власній інфраструктурі. Підтримувані опції включають: Оллама, LM Studio та vLLMОднак, конкретна конфігурація залежить від постачальника та встановленої версії.

У звичайній установці Ollama можна додати з Налаштування > Постачальники моделей > OllamaТам потрібно вказати модель та адресу, через яку RAGFlow зможе отримати доступ до сервера Ollama.

Якщо RAGFlow працює всередині Docker, пам’ятайте, що localhost Він вказує на сам контейнер. Коли Ollama встановлено на хост-системі, вам потрібно буде використовувати адресу, доступну з контейнерів, таку як IP-адреса машини або host.docker.internal коли воно стане доступним.

Щоб зберегти дані у вашій мережі, простого використання моделі локального чату недостатньо. Вам також потрібно перевірити, що вбудовування моделей, розпізнавання зображень, переоцінювання та будь-які інші пов'язані послуги працювати локально. Якщо щось залежить від зовнішнього API, деяка інформація може залишити вашу інфраструктуру.

Платформа дозволяє використовувати моделі переранжування для зміни порядку отриманих фрагментів перед їх надсиланням до LLM. Це може покращити релевантність відповідей у ​​певних колекціях, хоча результат залежатиме від документів, вибраної моделі та налаштувань пошуку.

RAGFlow дозволяє перетворити колекцію документів на базу знань з можливістю пошуку за допомогою штучного інтелекту. Його інструменти аналізу, фрагментації, пошуку та відстеження допомагають отримувати більш обґрунтовані відповіді, а локальне розгортання пропонує кращий контроль над інфраструктурою та обробкою даних.