Як налаштувати AnythingLLM вперше без ускладнень

Якщо ви вперше думаєте про налаштування AnythingLLM, це означає, що ви хочете зробити крок у світ локального штучного інтелекту. Чудовий вибір! Ви не лише матимете більше контролю над своїми даними та більшу конфіденційність, але й зможете використовувати різні моделі, не покладаючись на зовнішні сервіси. У цій публікації Ми проведемо вас через перші кроки, щоб ви могли налаштувати все ідеально та без ускладнень.

Як налаштувати AnythingLLM вперше без ускладнень

Локальний штучний інтелект продовжує набирати позиції, і це справедливо: Конфіденційність, повний контроль над даними та безкоштовний доступ до дедалі потужніших моделейАле іноді страх перед технічною складністю, пов'язаною з його впровадженням, пригнічує ентузіазм. Саме тут на допомогу приходять такі рішення, як AnythingLLM.

Уявіть собі, що у вас є власний ChatGPT, який працює виключно на вашому комп’ютері, з вашими документами та без передачі інформації третім особам. AnythingLLM саме це й робить: Платформа, яка дозволяє вам спілкуватися з мовними моделями, створювати агентів ШІ та створювати приватні бази даних з вашими власними файлами.

Найкраще в AnythingLLM те, що це універсальний додатокВін об'єднує все необхідне в одному місці. Він розроблений для того, щоб зробити штучний інтелект та технологію доповненого покоління відтворення (RAG) доступними для всіх. RAG поєднує мовну модель із зовнішніми джерелами даних, такими як локальні документи, для генерування точніших, прецизійніших та актуальніших відповідей.

Тож вам не потрібно бути експертом з програмування, щоб використовувати штучний інтелект локально: просто встановіть AnythingLLM. Але, Що буде далі? Перше налаштування AnythingLLM може бути складним. Саме тому ми підготували цей посібник, щоб допомогти вам розпочати без жодних проблем.

Перші кроки після встановлення AnythingLLM

Найпростіший спосіб розпочати роботу – це використовувати настільну версію AnythingLLM. Інструмент доступний у Версія для настільних комп'ютерів Linux, macOS та Windowsякі ви можете завантажити з їхнього офіційний веб-сайтЯкщо ви бажаєте використовувати серверну версію, див. запис Як встановити та налаштувати AnythingLLM за допомогою Docker.

Коли ви вперше почнете налаштовувати AnythingLLM, вас зустріне майстер. На цьому етапі ключовим кроком є виберіть свого постачальника LLMТобто, мовна модель, яка діятиме як мозок ШІ. Серед найпоширеніших варіантів:

• AnythingLLM з інтегрованою OllamaЦе найпростіший варіант для початку. Майстер повідомить вам, що він обрав найбільш підходящу модель для встановленого обладнання та продовжить завантаження. Якщо ви не хочете жодних ускладнень, просто дозвольте процесу завершитися.
• Самостійне розміщення в ОлламаЦе стосується випадків, коли на вашому комп'ютері вже запущено Ollama, і ви налаштували власні моделі.
• Постачальники хмарних послуг (Groq, OpenAI, Google Gemini): Якщо ви надаєте перевагу платним моделям або безкоштовним моделям з обмеженим доступом від сторонніх компаній, ви також можете налаштувати їх тут.

Звичайно, пізніше ви можете вибрати потрібні вам моделі з розділу Конфігурація, який знаходиться внизу ліворуч на головному екрані. Там, під розділом Постачальники штучного інтелектуНатисніть на LLM, і ви знайдете цілий розділ із доступними моделями та параметрами конфігурації, необхідними для їх використання.

Ваше перше робоче місце

Після вибору моделі помічник попросить вас створити ваше перше робоче місце. (Робочий простір), Це важливий крок для першого налаштування AnythingLLM без ускладнень. Подумайте про робочий простір як незалежний проект або папка, що має власну конфігураціюНаприклад, ви можете використовувати різну мовну модель для кожного робочого простору. Ці робочі простори мають власні документи, власну історію чату та власну назву.

Флагманською особливістю AnythingLLM є можливість «Нагодуйте» ШІ власними документамиЦе відомо як RAG і дозволяє ШІ відповідати на запитання на основі наданої вами інформації, а не лише загальних знань. Процес дуже інтуїтивно зрозумілий:

1. Усередині вашого Робочий простір, шукайте кнопку, щоб завантажити документи (значок «+»).
2. Ви можете завантажувати файли зі свого комп’ютера або навіть надати URL-адресу веб-сторінки для читання.
3. Після завантаження система обробить документ. Потім вам потрібно буде «перемістити» його до своєї робочої області та натиснути «Зберегти та вбудувати«Цей останній крок перетворює текст у вашому документі у формат, який штучний інтелект може зрозуміти та ефективно шукати».
4. Щоб штучний інтелект врахував цей документ у розмові, ви можете його "закріпити" (Закріпити) у чаті, що підказує вам пріоритезувати це джерело інформації.

Активуйте Навички агента під час першого налаштування AnythingLLM

Дуже важливим аспектом першого налаштування AnythingLLM є Навички агентаІнструмент постачається з три здібності агента активовані за замовчуваннямПерший — це RAG та довготривала пам'ятьщо дозволяє агенту ознайомитися з вашими місцевими документами.

Двоє інших є Перегляд та узагальнення документів y Вилучення веб-сайтівЯкщо ви натиснете на кожен з них, то зможете прочитати короткий опис його функцій та корисності. Потім буде перераховано ще п'ять навичок. вимкнено за замовчуваннямАле їх також варто активувати. Це:

• Доступ до файлової системиДозволяє агенту читати, записувати, шукати та керувати файлами в певному каталозі.
• Створення документівАгент зможе створювати документи для завантаження з чату в різних форматах (.xlsx, .docx, .pdf тощо).
• Генерувати графіки: Дозволяє створювати різні типи графіків на основі даних, наданих у чаті.
• Пошук та перегляд веб-сторінок у реальному часіЦя здатність дозволяє агенту звертатися до Інтернету, щоб відповісти на запитання.
• SQL-конекторАгент зможе підключатися до баз даних SQL для відповіді на запитання.

Крім того, згідно з розділом Інтеграції додатківВи можете ввімкнути роз'єми, щоб Агент взаємодіє з Gmail, Outlook та Календарем Google за допомогою ключів APIЦі опції дуже корисні, якщо ви хочете використовувати штучний інтелект для запитів або створення чернеток електронних листів, або для створення та зміни подій. Під час першого налаштування AnythingLLM варто переглянути ці навички та активувати ті, які ви збираєтеся використовувати щодня.