Jak skonfigurować AnythingLLM po raz pierwszy bez komplikacji

Jeśli zastanawiasz się, jak po raz pierwszy skonfigurować AnythingLLM, oznacza to, że chcesz wkroczyć w świat lokalnej sztucznej inteligencji. Świetny wybór! Nie tylko będziesz mieć większą kontrolę nad swoimi danymi i większą prywatność, ale także będziesz mógł korzystać z różnych modeli bez polegania na usługach zewnętrznych. W tym wpisie Poprowadzimy Cię przez pierwsze kroki, dzięki czemu wszystko będzie działać idealnie bez żadnych komplikacji.

Jak skonfigurować AnythingLLM po raz pierwszy bez komplikacji

Lokalna sztuczna inteligencja zyskuje coraz większą popularność, i słusznie: Prywatność, całkowita kontrola nad danymi i swobodny dostęp do coraz potężniejszych modeliCzasami jednak strach przed techniczną złożonością wdrożenia tłumi entuzjazm. Właśnie wtedy z pomocą przychodzą rozwiązania takie jak AnythingLLM.

Wyobraź sobie, że masz własny ChatGPT, ale działający w całości na Twoim komputerze, z Twoimi dokumentami i bez udostępniania informacji osobom trzecim. AnythingLLM jest właśnie tym: Platforma umożliwiająca czatowanie z modelami językowymi, tworzenie agentów AI i budowanie prywatnych baz danych z własnymi plikami.

Najlepszą rzeczą w AnythingLLM jest to, że jest to aplikacja typu „wszystko w jednym”Łączy wszystko, czego potrzebujesz, w jednym miejscu. Został zaprojektowany, aby udostępnić wszystkim technologię sztucznej inteligencji (AI) i rozszerzonej generacji pamięci (RAG). RAG łączy model językowy z zewnętrznymi źródłami danych, takimi jak dokumenty lokalne, aby generować dokładniejsze, bardziej precyzyjne i aktualne odpowiedzi.

Nie musisz więc być ekspertem od programowania, aby korzystać ze sztucznej inteligencji lokalnie: wystarczy zainstalować AnythingLLM. Ale Co dalej? Pierwsza konfiguracja AnythingLLM może być onieśmielająca. Dlatego przygotowaliśmy ten przewodnik, aby pomóc Ci zacząć bez żadnych problemów.

Pierwsze kroki po zainstalowaniu AnythingLLM

Najłatwiejszym sposobem na rozpoczęcie jest skorzystanie z wersji komputerowej AnythingLLM. Narzędzie jest dostępne w Wersja na komputery stacjonarne dla systemów Linux, macOS i Windowsktóre możesz pobrać z ich strony oficjalna strona internetowaJeśli wolisz korzystać z wersji serwerowej, zobacz wpis Jak zainstalować i skonfigurować AnythingLLM z Dockerem.

Gdy po raz pierwszy rozpoczniesz konfigurację AnythingLLM, powita Cię kreator. W tym momencie kluczowym krokiem jest… wybierz swojego dostawcę LLMCzyli model języka, który będzie działał jak mózg sztucznej inteligencji. Do najpopularniejszych opcji należą:

• AnythingLLM ze zintegrowanym OllamąTo najprostsza opcja na początek. Kreator poinformuje Cię, że wybrał najodpowiedniejszy model dla zainstalowanego sprzętu i rozpocznie pobieranie. Jeśli nie chcesz żadnych komplikacji, po prostu poczekaj, aż proces się zakończy.
• Samodzielnie zakwaterowany OllamaDotyczy to sytuacji, gdy Ollama jest już uruchomiona na Twoim komputerze i skonfigurowałeś własne modele.
• Dostawcy chmury (Groq, OpenAI, Google Gemini): Jeśli wolisz korzystać z płatnych modeli lub darmowych, ograniczonych czasowo modeli firm zewnętrznych, możesz je również skonfigurować tutaj.

Oczywiście później możesz wybrać modele, które chcesz z sekcji Konfiguracja, który znajduje się w lewym dolnym rogu ekranu głównego. Tam, pod sekcją Dostawcy sztucznej inteligencjiPo kliknięciu LLM znajdziesz całą sekcję z dostępnymi modelami i opcjami konfiguracji potrzebnymi do ich wykorzystania.

Twoje pierwsze miejsce pracy

Po wybraniu modelu asystent poprosi Cię o utworzenie pierwszego obszaru roboczego (Przestrzeń robocza), To niezbędny krok, aby po raz pierwszy bezproblemowo skonfigurować AnythingLLM. Pomyśl o przestrzeń robocza jak niezależny projekt lub folder, który ma własną konfiguracjęNa przykład możesz użyć innego modelu językowego dla każdego obszaru roboczego. Każdy z tych obszarów ma własne dokumenty, historię czatów i nazwę.

Flagową funkcją AnythingLLM jest możliwość „Nakarm” sztuczną inteligencję własnymi dokumentamiNazywa się to RAG i pozwala sztucznej inteligencji odpowiadać na pytania w oparciu o podane przez Ciebie informacje, a nie tylko na podstawie swojej wiedzy ogólnej. Proces jest bardzo intuicyjny:

1. Wewnątrz twojego Miejsce pracy, poszukaj przycisku, aby przesyłanie dokumentów (ikona „+”).
2. Możesz przesłać pliki ze swojego komputera lub nawet podać adres URL strony internetowej, aby ją odczytać.
3. Po przesłaniu dokument zostanie przetworzony przez system. Następnie należy go „przenieść” do obszaru roboczego i kliknąć „Zapisz i osadź„Ten ostatni krok konwertuje tekst w dokumencie do formatu, który sztuczna inteligencja może zrozumieć i efektywnie przeszukiwać”.
4. Aby mieć pewność, że sztuczna inteligencja uwzględni ten dokument w rozmowie, możesz go „przypiąć” (Przypnij to) na czacie, który informuje, że należy nadać priorytet danemu źródłu informacji.

Aktywuj Umiejętności agenta podczas pierwszej konfiguracji AnythingLLM

Bardzo ważnym aspektem przy pierwszym zakładaniu AnythingLLM jest Umiejętności agentaNarzędzie jest dostarczane z trzy umiejętności agenta aktywowane domyślniePierwszy jest RAG i pamięć długotrwałaco pozwala agentowi zapoznać się z lokalnymi dokumentami.

Pozostałe dwa to Przeglądaj i podsumowuj dokumenty y Wyodrębnij strony internetoweKlikając na każdą z nich, możesz przeczytać krótki opis jej funkcji i przydatności. Następnie pojawi się lista pięciu kolejnych umiejętności. domyślnie wyłączoneAle warto je również aktywować. Są to:

• Dostęp do systemu plików: Umożliwia agentowi odczytywanie, zapisywanie, wyszukiwanie i zarządzanie plikami w określonym katalogu.
• Tworzenie dokumentówAgent będzie mógł tworzyć dokumenty do pobrania z poziomu czatu w różnych formatach (.xlsx, .docx, .pdf itd.).
• Generuj wykresy:Pozwala na tworzenie różnych typów wykresów na podstawie danych udostępnionych na czacie.
• Przeszukiwanie i przeglądanie stron internetowych na żywoDzięki tej możliwości agent może konsultować się z Internetem i odpowiadać na pytania.
• Łącznik SQLAgent będzie mógł łączyć się z bazami danych SQL w celu udzielania odpowiedzi na pytania.

Dodatkowo w sekcji Integracje aplikacjiMożna włączyć łączniki, aby Agent współpracuje z Gmailem, Outlookiem i Kalendarzem Google za pomocą kluczy APITe opcje są bardzo przydatne, jeśli chcesz używać sztucznej inteligencji do wyszukiwania lub tworzenia wiadomości e-mail, a także tworzenia i modyfikowania wydarzeń. Konfigurując AnythingLLM po raz pierwszy, warto przejrzeć te umiejętności i aktywować te, z których zamierzasz korzystać na co dzień.