- Den offisielle og mest effektive metoden for oppdatering er å kjøre installasjonsprogrammet OllamaSetup.exe på nytt.
- Modelllagringsbaner kan administreres ved hjelp av miljøvariabelen OLLAMA_MODELS.
- Verktøyet er kompatibelt med NVIDIA- og AMD-GPU-er, og krever oppdaterte drivere for optimal ytelse.
- Det tillater lokal utførelse av modeller som Llama 3 og integrering av eksterne visuelle grensesnitt.
Hvis du er interessert i kunstig intelligens, kjenner du sannsynligvis allerede Ollama. Det er et åpen kildekode-verktøy som lar deg bygge språkmodeller på din egen datamaskin uten å måtte stole på skyen. Best av alt, den er superallsidig og lar deg kjøre kraftige LLM-er uten at PC-en din trenger å være en NASA-superdatamaskin, selv om tokengenerering selvfølgelig vil være litt tregere hvis du har mer beskjeden maskinvare.
Det er barnemat å installere det, men noen ganger lurer du på hvordan du holder programvaren oppdatert eller hvordan du fikser vanlige feil når du prøver å oppdatere. For å spare deg for tekniske problemer har vi utarbeidet denne komplette guiden der vi forteller deg alt du trenger å vite. Alt du trenger å vite for å få Ollama til å fungere på Windows-systemet ditt.
Slik oppdaterer du Ollama riktig på Windows
Mange gjør feilen å prøve å oppdatere Ollama ved hjelp av Linux-kommandoer, som den berømte curl shi Windows-terminalen. Hvis du gjør dette, kan du se meldinger som sier at den forrige versjonen blir ryddet opp, men når du starter programmet på nytt, versjonen forblir den sammeDette skjer fordi Windows-installasjonsprogrammet ikke fungerer ved hjelp av skallskript på den måten.
Den enkleste og mest effektive måten å holde seg oppdatert på er å kjøre filen på nytt. OllamaSetup.exeDette installasjonsprogrammet er smart og håndterer binæroppdateringer uten å slette innstillingene dine eller tidligere nedlastede modeller. I hovedsak er det den raskeste veien til å få de nyeste forbedringene og støtten for de nyeste modellene.
Hvis du foretrekker en mer manuell installasjon eller trenger å integrere Ollama som en systemtjeneste, finnes det en .zip-fil (ollama-windows-amd64.zip) som bare inneholder CLI og avhengigheter. I dette tilfellet er den viktig hvis du oppgraderer. slett gamle kataloger før du dekomprimerer de nye for å unngå filkonflikter.
Systemkrav og maskinvareoptimalisering
For at alt skal kjøre knirkefritt, trenger du Windows 10 (versjon 22H2 eller nyere), enten Home eller Pro. Når det gjelder grafikkkraft, er Ollama kompatibel med NVIDIA og AMD Radeon. Hvis du har et NVIDIA-kort, sørg for at du har drivere 551.61 eller høyereFor AMD-brukere anbefales ROCm v7- eller HIP7-driverstakken, selv om systemet vanligvis tyr til Vulkan som et alternativ hvis maskinvaren ikke er fullt kompatibel.
Legg merke til denne merkelige detaljen: på noen eldre Windows 10-terminaler kan Ollamas fremdriftstegn vises som merkelige små firkanter Dette skyldes Unicode. Hvis dette skjer med deg, ikke få panikk, bare endre terminalens skrifttype til en mer moderne, så vil problemet forsvinne.
Filbehandling og modellplassering
Som standard installeres Ollama i brukermappen din og ber ikke om administratorrettigheter. Språkmodeller kan imidlertid oppta titalls eller hundrevis av gigabyteOg det er svært sannsynlig at C-stasjonen din raskt blir for liten. For å forhindre at systemet krasjer, kan du endre banen der disse filene lagres.
For å flytte modellene må du opprette en miljøvariabel kalt OVNSMODELLER I brukerkontoinnstillingene dine går du bare til Kontrollpanel eller Innstillinger, finner Miljøvariabler og tilordner banen til mappen der du vil lagre LLM-filene. Etter å ha gjort dette, husk å lukke programmet fra systemstatusfeltet og åpne det på nytt for at endringene skal tre i kraft.
Hvis du trenger å undersøke hva som skjer under panseret, kan du få tilgang til loggene ved hjelp av kommandoen explorer %LOCALAPPDATA%\OllamaDer finner du oppgradering.logg For å se hvordan oppdateringene har gått, bruk app.log for det grafiske grensesnittet og server.log for serverprosesser.
Bruk av modeller og utrulling av grensesnitt
Når den er oppdatert, kan du begynne å spille med modeller som Llama 3, Phi 3, Mistral eller Gemma. For å laste ned og kjøre en, skriver du ganske enkelt følgende i konsollen. ollama run llama3Et viktig råd er la det være dobbelt så mye ledig plass på disk sammenlignet med vekten til modellen du vil installere for å unngå skrivefeil.
Hvis kommandokonsollen virker for grunnleggende for deg, kan du installere Åpne WebUI bruker Docker. Dette gir deg et visuelt grensesnitt som er veldig likt ChatGPT sitt, noe som gjør samhandling med dine lokale modeller mye mer intuitiv og visuelt tiltalende, og til og med læring. Slik deler du Open WebUI med andre brukere av nettverket ditt.
Videre gir Ollamama deg friheten til å lag din egen LLM Tilpasset. Dette betyr at du kan konfigurere systemet til å kombinere ulike modeller eller justere parameterne slik at AI-en oppfører seg akkurat som du ønsker, og alltid ivareta personvernet ditt ved å ikke sende data til eksterne servere.
Å ha Ollama oppdatert på Windows sikrer kompatibilitet med de nyeste GPU-ene, optimaliserer responshastigheten og lar deg administrere plasseringen av tunge modeller ved hjelp av miljøvariabler, alt mens du nyter godt av et fleksibelt grensesnitt enten via kommandoer eller eksterne verktøy som Docker.
Jeg er en teknologientusiast som har gjort sine "geek"-interesser til et yrke. Jeg har brukt mer enn 10 år av livet mitt på å bruke banebrytende teknologi og fikse med alle slags programmer av ren nysgjerrighet. Nå har jeg spesialisert meg på datateknologi og videospill. Dette er fordi jeg i mer enn 5 år har skrevet for forskjellige nettsteder om teknologi og videospill, og laget artikler som prøver å gi deg den informasjonen du trenger på et språk som er forståelig for alle.
Hvis du har spørsmål, spenner min kunnskap fra alt relatert til Windows-operativsystemet samt Android for mobiltelefoner. Og mitt engasjement er til deg, jeg er alltid villig til å bruke noen minutter og hjelpe deg med å løse eventuelle spørsmål du måtte ha i denne internettverdenen.