- Oficjalną i najskuteczniejszą metodą aktualizacji jest ponowne uruchomienie instalatora OllamaSetup.exe.
- Ścieżkami przechowywania modeli można zarządzać przy użyciu zmiennej środowiskowej OLLAMA_MODELS.
- Narzędzie jest kompatybilne z procesorami graficznymi NVIDIA i AMD, ale dla uzyskania optymalnej wydajności wymaga zaktualizowanych sterowników.
- Umożliwia lokalne wykonywanie modeli takich jak Llama 3 i integrację zewnętrznych interfejsów wizualnych.
Jeśli interesuje Cię świat sztucznej inteligencji, prawdopodobnie znasz już Ollamę. To narzędzie open source, które pozwala budować modele językowe na własnym komputerze, bez konieczności korzystania z chmury. Co najważniejsze, jest niezwykle wszechstronne i pozwala uruchamiać wydajne programy LLM bez konieczności posiadania komputera o mocy superkomputera NASA, choć oczywiście, jeśli dysponujesz skromniejszym sprzętem, generowanie tokenów będzie nieco wolniejsze.
Instalacja to bułka z masłem, ale czasami zastanawiasz się, jak aktualizować oprogramowanie lub jak naprawić typowe błędy podczas aktualizacji. Aby uchronić Cię przed problemami technicznymi, przygotowaliśmy ten kompletny poradnik, w którym znajdziesz wszystko, co musisz wiedzieć. Wszystko, co musisz wiedzieć, aby Ollama latała w systemie Windows.
Jak poprawnie zaktualizować Ollamę w systemie Windows
Wiele osób popełnia błąd próbując aktualizować Ollamę za pomocą poleceń Linuksa, takich jak słynne curl shw terminalu systemu Windows. Jeśli to zrobisz, możesz zobaczyć komunikaty informujące o czyszczeniu poprzedniej wersji, ale po ponownym uruchomieniu programu wersja pozostaje taka samaDzieje się tak, ponieważ instalator systemu Windows nie działa w ten sposób, wykorzystując skrypty powłoki.
Najprostszym i najskuteczniejszym sposobem na zachowanie aktualizacji jest ponowne uruchomienie pliku. OllamaSetup.exeTen instalator jest inteligentny i obsługuje aktualizację plików binarnych bez usuwania ustawień ani wcześniej pobranych modeli. Zasadniczo to najszybszy sposób na uzyskanie najnowszych ulepszeń i wsparcia dla najnowszych modeli.
Jeśli wolisz bardziej ręczną instalację lub chcesz zintegrować Ollamę jako usługę systemową, dostępny jest plik .zip (ollama-windows-amd64.zip), który zawiera tylko interfejs wiersza poleceń i zależności. W takim przypadku jest on niezbędny podczas aktualizacji. usuń stare katalogi przed dekompresją nowych plików, aby uniknąć konfliktów plików.
Wymagania systemowe i optymalizacja sprzętu
Aby wszystko działało płynnie, potrzebujesz systemu Windows 10 (wersja 22H2 lub nowsza), Home lub Pro. Jeśli chodzi o moc graficzną, Ollama jest kompatybilna z kartami NVIDIA i AMD Radeon. Jeśli masz kartę NVIDIA, upewnij się, że posiadasz… sterowniki 551.61 lub nowszeUżytkownicy AMD powinni skorzystać ze stosu sterowników ROCm v7 lub HIP7, choć jeśli sprzęt nie jest w pełni kompatybilny, system zazwyczaj wybiera alternatywę w postaci sterownika Vulkan.
Zwróć uwagę na ten ciekawy szczegół: na niektórych starszych terminalach Windows 10 postacie postępu Ollama mogą pojawiać się jako dziwne małe kwadraciki To wina Unicode. Jeśli Ci się to przytrafi, nie panikuj, po prostu zmień czcionkę w terminalu na nowszą, a problem zniknie.
Zarządzanie plikami i lokalizacja modelu
Domyślnie Ollama instaluje się w folderze użytkownika i nie wymaga uprawnień administratora. Jednak modele językowe mogą zajmować dziesiątki lub setki gigabajtówI jest bardzo prawdopodobne, że Twój dysk C: szybko stanie się za mały. Aby zapobiec awarii systemu, możesz zmienić ścieżkę zapisu tych plików.
Aby przenieść modele, należy utworzyć zmienną środowiskową o nazwie MODELE_PIEKARNIKÓW W ustawieniach konta użytkownika wystarczy przejść do Panelu sterowania lub Ustawień, znaleźć Zmienne środowiskowe i wskazać ścieżkę do folderu, w którym chcesz przechowywać pliki LLM. Po wykonaniu tej czynności pamiętaj o zamknięciu aplikacji z zasobnika systemowego i ponownym jej otwarciu, aby zmiany zostały wprowadzone.
Jeśli chcesz zbadać, co dzieje się pod maską, możesz uzyskać dostęp do dzienników za pomocą polecenia explorer %LOCALAPPDATA%\OllamaTam znajdziesz aktualizacja.log Aby zobaczyć, jak przebiegają aktualizacje, użyj app.log dla interfejsu graficznego i server.log dla procesów serwera.
Wykorzystanie modeli i wdrażanie interfejsów
Po aktualizacji możesz zacząć grać modelami takimi jak Llama 3, Phi 3, Mistral czy Gemma. Aby pobrać i uruchomić jeden z nich, wystarczy wpisać poniższy kod w konsoli. ollama run llama3Jedna ważna rada to: zostaw dwa razy więcej wolnego miejsca na dysku w porównaniu do wagi modelu, który chcesz zainstalować, aby uniknąć błędów zapisu.
Jeśli konsola poleceń wydaje Ci się zbyt podstawowa, możesz zainstalować Otwórz WebUI Korzystając z Dockera, zyskujesz wizualny interfejs bardzo podobny do ChatGPT, dzięki czemu interakcja z modelami lokalnymi jest o wiele bardziej intuicyjna i atrakcyjna wizualnie, a nawet łatwiejsza do nauczenia. Jak udostępnić Open WebUI innym użytkownikom Twojej sieci.
Co więcej, Ollamama daje Ci swobodę stwórz własny LLM Spersonalizowany. Oznacza to, że możesz skonfigurować system, aby łączyć różne modele lub dostosowywać parametry tak, aby sztuczna inteligencja zachowywała się dokładnie tak, jak chcesz, zawsze zachowując Twoją prywatność, nie wysyłając danych na serwery zewnętrzne.
Aktualizacja Ollama w systemie Windows zapewnia zgodność z najnowszymi procesorami GPU, optymalizuje szybkość reakcji i umożliwia zarządzanie lokalizacją dużych modeli za pomocą zmiennych środowiskowych, a wszystko to przy jednoczesnym korzystaniu z elastycznego interfejsu, zarówno za pośrednictwem poleceń, jak i narzędzi zewnętrznych, takich jak Docker.
Jestem entuzjastą technologii, który swoje „geekowskie” zainteresowania przekształcił w zawód. Spędziłem ponad 10 lat mojego życia, korzystając z najnowocześniejszych technologii i majsterkując przy wszelkiego rodzaju programach z czystej ciekawości. Teraz specjalizuję się w technologii komputerowej i grach wideo. Dzieje się tak dlatego, że od ponad 5 lat piszę dla różnych serwisów poświęconych technologii i grom wideo, tworząc artykuły, których celem jest dostarczenie potrzebnych informacji w języku zrozumiałym dla każdego.
Jeśli masz jakieś pytania, moja wiedza obejmuje wszystko, co jest związane z systemem operacyjnym Windows, a także Androidem dla telefonów komórkowych. Moje zaangażowanie jest wobec Ciebie. Zawsze jestem gotowy poświęcić kilka minut i pomóc Ci rozwiązać wszelkie pytania, jakie możesz mieć w tym internetowym świecie.