- Den officielle og mest effektive metode til opdatering er at køre OllamaSetup.exe-installationsprogrammet igen.
- Modellagringsstier kan administreres ved hjælp af miljøvariablen OLLAMA_MODELS.
- Værktøjet er kompatibelt med NVIDIA- og AMD-GPU'er, hvilket kræver opdaterede drivere for optimal ydeevne.
- Det muliggør lokal udførelse af modeller som Llama 3 og integration af eksterne visuelle grænseflader.
Hvis du er interesseret i kunstig intelligens, kender du sikkert allerede Ollama. Det er det open source-værktøj, der lader dig bygge sprogmodeller på din egen computer uden at være afhængig af skyen. Bedst af alt er det, at det er super alsidigt og giver dig mulighed for at køre kraftfulde LLM'er uden at din pc behøver at være en NASA-supercomputer, selvom tokengenerering selvfølgelig vil være lidt langsommere, hvis du har mere beskeden hardware.
Det er nemt at installere det, men nogle gange spekulerer man på, hvordan man holder softwaren opdateret, eller hvordan man retter de almindelige fejl, når man forsøger at opdatere. For at undgå tekniske problemer har vi udarbejdet denne komplette guide, hvor vi fortæller dig alt, hvad du behøver at vide. Alt du behøver at vide for at få Ollama til at køre på dit Windows-system.
Sådan opdaterer du Ollama korrekt på Windows
Mange begår den fejl at forsøge at opdatere Ollama ved hjælp af Linux-kommandoer, såsom den berømte curl shi Windows-terminalen. Hvis du gør dette, kan du muligvis se meddelelser, der siger, at den tidligere version bliver ryddet op, men når du genstarter programmet, versionen forbliver den sammeDette sker, fordi Windows-installationsprogrammet ikke fungerer ved hjælp af shell-scripts på den måde.
Den enkleste og mest effektive måde at holde sig opdateret på er at køre filen igen. OllamaSetup.exeDette installationsprogram er smart og håndterer opdateringen af binære filer uden at slette dine indstillinger eller tidligere downloadede modeller. Det er i bund og grund den hurtigste vej til at få de seneste forbedringer og support til de nyeste modeller.
Hvis du foretrækker en mere manuel installation eller har brug for at integrere Ollama som en systemtjeneste, findes der en .zip-fil (ollama-windows-amd64.zip), der kun indeholder CLI og afhængigheder. I dette tilfælde er den vigtig, hvis du opgraderer. slet gamle mapper før du dekomprimerer de nye for at undgå filkonflikter.
Systemkrav og hardwareoptimering
For at alt kan køre problemfrit, skal du bruge Windows 10 (version 22H2 eller nyere), enten Home eller Pro. Med hensyn til grafikstyrke er Ollama kompatibel med NVIDIA og AMD Radeon. Hvis du har et NVIDIA-kort, skal du sørge for at have drivere 551.61 eller højereFor AMD-brugere anbefales ROCm v7- eller HIP7-driverstakken, selvom systemet normalt bruger Vulkan som et alternativ, hvis hardwaren ikke er fuldt kompatibel.
Bemærk denne kuriøse detalje: på nogle ældre Windows 10-terminaler kan Ollamas fremskridtstegn vises som mærkelige små firkanter Dette skyldes Unicode. Hvis dette sker for dig, så gå ikke i panik, skift blot din terminals skrifttype til en mere moderne, og problemet vil forsvinde.
Filhåndtering og modelplacering
Som standard installeres Ollama i din brugermappe og anmoder ikke om administratorrettigheder. Sprogmodeller kan dog optage ti eller hundredvis af gigabyteOg det er meget sandsynligt, at dit C:-drev hurtigt bliver for lille. For at forhindre systemet i at gå ned, kan du ændre stien, hvor disse filer gemmes.
For at flytte modellerne skal du oprette en miljøvariabel kaldet OVNMODELLER I dine brugerkontoindstillinger skal du blot gå til Kontrolpanel eller Indstillinger, finde Miljøvariabler og tildele stien til den mappe, hvor du vil gemme LLM-filerne. Når du har gjort dette, skal du huske at lukke programmet fra proceslinjen og åbne det igen, så ændringerne kan træde i kraft.
Hvis du har brug for at undersøge, hvad der sker under motorhjelmen, kan du få adgang til loggene ved hjælp af kommandoen explorer %LOCALAPPDATA%\OllamaDer finder du opgradering.log For at se, hvordan opdateringerne er gået, skal du bruge app.log til den grafiske brugerflade og server.log til serverprocesser.
Brug af modeller og implementering af grænseflader
Når den er opdateret, kan du begynde at spille med modeller som Llama 3, Phi 3, Mistral eller Gemma. For at downloade og køre en skal du blot skrive følgende i konsollen. ollama run llama3Et vigtigt råd er efterlad dobbelt så meget fri plads på disken sammenlignet med vægten af den model, du vil installere, for at undgå skrivefejl.
Hvis kommandokonsollen virker for simpel for dig, kan du installere den, Åbn webgrænseflade ved hjælp af Docker. Dette giver dig en visuel brugerflade, der minder meget om ChatGPT's, hvilket gør interaktionen med dine lokale modeller meget mere intuitiv og visuelt tiltalende, og endda læringsvenlig. Sådan deler du Open WebUI med andre brugere af dit netværk.
Derudover giver Ollamama dig friheden til at Opret din egen LLM Tilpasset. Det betyder, at du kan konfigurere systemet til at kombinere forskellige modeller eller justere parametrene, så AI'en opfører sig præcis, som du ønsker, og altid bevarer dit privatliv ved ikke at sende data til eksterne servere.
At have Ollama opdateret på Windows sikrer kompatibilitet med de nyeste GPU'er, optimerer responshastigheden og giver dig mulighed for at administrere placeringen af tunge modeller ved hjælp af miljøvariabler, alt imens du nyder godt af en fleksibel brugerflade, uanset om det er via kommandoer eller eksterne værktøjer som Docker.
Jeg er en teknologientusiast, der har vendt sine "nørde" interesser til et erhverv. Jeg har brugt mere end 10 år af mit liv på at bruge avanceret teknologi og pille ved alle slags programmer af ren nysgerrighed. Nu har jeg specialiseret mig i computerteknologi og videospil. Dette skyldes, at jeg i mere end 5 år har skrevet til forskellige hjemmesider om teknologi og videospil, og lavet artikler, der søger at give dig den information, du har brug for, på et sprog, der er forståeligt for alle.
Har du spørgsmål, så spænder min viden fra alt relateret til Windows styresystemet samt Android til mobiltelefoner. Og mit engagement er over for dig, jeg er altid villig til at bruge et par minutter og hjælpe dig med at løse eventuelle spørgsmål, du måtte have i denne internetverden.