- Den officiella och mest effektiva metoden för uppdatering är att köra installationsprogrammet för OllamaSetup.exe igen.
- Modelllagringssökvägar kan hanteras med hjälp av miljövariabeln OLLAMA_MODELS.
- Verktyget är kompatibelt med NVIDIA- och AMD-grafikprocessorer, vilket kräver uppdaterade drivrutiner för optimal prestanda.
- Det möjliggör lokal exekvering av modeller som Llama 3 och integration av externa visuella gränssnitt.
Om du är intresserad av artificiell intelligens känner du förmodligen redan till Ollama. Det är det där verktyget med öppen källkod som låter dig bygga språkmodeller på din egen dator utan att behöva förlita dig på molnet. Bäst av allt är att den är supermångsidig och låter dig köra kraftfulla LLM:er utan att din dator behöver vara en NASA-superdator, även om tokengenereringen naturligtvis, om du har mer blygsam hårdvara, kommer att vara lite långsammare.
Att installera det är en barnlek, men ibland undrar man hur man håller programvaran uppdaterad eller hur man åtgärdar de vanliga felen när man försöker uppdatera. För att undvika tekniska problem har vi förberett den här kompletta guiden där vi berättar allt du behöver veta. Allt du behöver veta för att få Ollama att fungera på ditt Windows-system.
Hur man uppdaterar Ollama korrekt på Windows
Många gör misstaget att försöka uppdatera Ollama med hjälp av Linux-kommandon, som till exempel de berömda curl shi Windows-terminalen. Om du gör detta kan du se meddelanden som säger att den tidigare versionen rensas, men när du startar om programmet, versionen förblir densammaDetta händer eftersom Windows-installationsprogrammet inte fungerar med hjälp av shell-skript på det sättet.
Det enklaste och mest effektiva sättet att hålla sig uppdaterad är att köra filen igen. OllamaSetup.exeDet här installationsprogrammet är smart och hanterar uppdateringen av binärfiler utan att ta bort dina inställningar eller tidigare nedladdade modeller. I grund och botten är det snabbspåret för att få de senaste förbättringarna och stödet för de nyaste modellerna.
Om du föredrar en mer manuell installation eller behöver integrera Ollama som en systemtjänst finns det en .zip-fil (ollama-windows-amd64.zip) som endast innehåller CLI och beroenden. I det här fallet är den viktig om du uppgraderar. ta bort gamla kataloger innan du dekomprimerar de nya för att undvika filkonflikter.
Systemkrav och hårdvaruoptimering
För att allt ska fungera smidigt behöver du Windows 10 (version 22H2 eller senare), antingen Home eller Pro. När det gäller grafikkraft är Ollama kompatibel med NVIDIA och AMD Radeon. Om du har ett NVIDIA-kort, se till att du har drivrutiner 551.61 eller högreFör AMD-användare rekommenderas ROCm v7- eller HIP7-drivrutinsstacken, även om systemet vanligtvis använder Vulkan som ett alternativ om hårdvaran inte är helt kompatibel.
Observera denna märkliga detalj: på vissa äldre Windows 10-terminaler kan Ollamas framstegstecken visas som konstiga små rutor Detta beror på Unicode. Om detta händer dig, få inte panik, ändra helt enkelt din terminals teckensnitt till ett modernare så kommer problemet att försvinna.
Filhantering och modellplats
Som standard installeras Ollama i din användarmapp och begär inte administratörsrättigheter. Språkmodeller kan dock uppta tiotals eller hundratals gigabyteOch det är mycket troligt att din C-enhet snabbt blir för liten. För att förhindra att systemet kraschar kan du ändra sökvägen där dessa filer sparas.
För att flytta modellerna måste du skapa en miljövariabel som heter UGNSMODELLER I dina användarkontoinställningar går du helt enkelt till Kontrollpanelen eller Inställningar, letar upp Miljövariabler och anger sökvägen till mappen där du vill lagra LLM-filerna. Kom ihåg att stänga programmet från systemfältet och öppna det igen för att ändringarna ska träda i kraft.
Om du behöver undersöka vad som händer under huven kan du komma åt loggarna med kommandot explorer %LOCALAPPDATA%\OllamaDär hittar du uppgradering.logg För att se hur uppdateringarna har gått, använd app.log för det grafiska gränssnittet och server.log för serverprocesser.
Användning av modeller och implementering av gränssnitt
När du har uppdaterat kan du börja spela med modeller som Llama 3, Phi 3, Mistral eller Gemma. För att ladda ner och köra en, skriv bara följande i konsolen. ollama run llama3Ett viktigt råd är lämna dubbelt så mycket fritt utrymme på disken jämfört med vikten på den modell du vill installera för att undvika skrivfel.
Om kommandokonsolen verkar för grundläggande för dig kan du installera den Öppna webbgränssnittet med hjälp av Docker. Detta gör att du har ett visuellt gränssnitt som är väldigt likt ChatGPT:s, vilket gör interaktionen med dina lokala modeller mycket mer intuitiv och visuellt tilltalande, och till och med inlärningsvänlig. Så här delar du Open WebUI med andra användare av ditt nätverk.
Dessutom ger Ollamama dig friheten att skapa din egen juridikexamen Anpassad. Det betyder att du kan konfigurera systemet för att kombinera olika modeller eller justera parametrarna så att AI:n beter sig exakt som du vill, och alltid bibehålla din integritet genom att inte skicka data till externa servrar.
Att ha Ollama uppdaterat på Windows säkerställer kompatibilitet med de senaste GPU:erna, optimerar svarshastigheten och låter dig hantera platsen för tunga modeller med hjälp av miljövariabler, allt samtidigt som du njuter av ett flexibelt gränssnitt, oavsett om det är via kommandon eller externa verktyg som Docker.
Jag är en teknikentusiast som har gjort sina "nördar"-intressen till ett yrke. Jag har tillbringat mer än 10 år av mitt liv med att använda den senaste tekniken och mixtrat med alla typer av program av ren nyfikenhet. Nu har jag specialiserat mig på datateknik och tv-spel. Detta beror på att jag i mer än 5 år har arbetat med att skriva för olika webbplatser om teknik och videospel, skapa artiklar som försöker ge dig den information du behöver på ett språk som är begripligt för alla.
Om du har några frågor sträcker sig min kunskap från allt som rör operativsystemet Windows samt Android för mobiltelefoner. Och mitt engagemang är för dig, jag är alltid villig att spendera några minuter och hjälpa dig att lösa alla frågor du kan ha i den här internetvärlden.