Sådan ændrer du den mappe, hvor Ollama gemmer modeller, for at spare plads

Løber du tør for plads på din hoveddisk på grund af størrelsen på store sprogmodeller? Det kan være løsningen at ændre den mappe, hvor Ollama gemmer modellerne. I denne artikel viser vi dig hvordan. Sådan ændrer du standardstien til et andet drev ved hjælp af miljøvariabler på Windows, Linux og macOS, så dit system forbliver optimeret uden at afinstallere noget.

Hvorfor skal man ændre den mappe, hvor Ollama gemmer modellerne?

Sparer det virkelig plads at ændre den mappe, hvor Ollama gemmer modellerne? Ja. Men med en vigtig advarsel: Du reducerer faktisk ikke størrelsen på modellerne, men frigør snarere plads på dit hoveddrev. Sprogmodeller (LLM'er) er binære filer på flere gigabyte og kan ikke komprimeres yderligere, end de allerede er, gennem kvantisering.

Endnu, Ved at ændre den mappe, hvor Ollama gemmer modellerne, opnår du følgende: 

• Fjern overbelastning fra systemdisken (normalt C: eller rodpartitionen /): Du forhindrer, at disken, hvor dit operativsystem er installeret, fyldes op. Dette gør ofte din computer langsommere eller forhindrer vigtige opdateringer.
• Du bruger andre diske: Hvis du ændrer den mappe, hvor Ollama gemmer modeller, kan du flytte mapper, der vejer 20 GB eller 50 GB eller mere, til en mekanisk harddisk, en sekundær SSD eller ekstern lagring med større kapacitet.

Hvis du ønsker at reducere den samlede plads, som modellerne optager, har du to effektive alternativer: på den ene side kan du brug versioner med højere kvantisering, som er mindre modellerDet er bedre at downloade varianter som q4_K_M i stedet for q8_0 eller fp16. Og på den anden side anbefales det Slet skabeloner, du ikke længere bruger eller tests, som du ikke længere bruger direkte fra konsollen med ollama rm nombre_del_modelo.

Sådan ændrer du den mappe, hvor Ollama gemmer modeller, for at spare plads

For at ændre den mappe, hvor Ollama gemmer modellerne (som som standard normalt er placeret på hoveddrevet). C:\Users\Usuario\.ollama\models), skal du definer miljøvariablen OLLAMA_MODELSNedenfor forklarer vi, hvordan du gør det på Windows, Linux og macOS.

På Windows

Følg disse Trin til at ændre den mappe, hvor Ollama gemmer modellerne i Windows:

1. Luk Ollama helt: Højreklik på Ollama-ikonet i proceslinjen (meddelelsesområdet), og vælg Afslut Ollama for at forhindre fillåsning under overførsel.
2. Flyt den aktuelle mappe (valgfrit): Hvis du allerede har downloadet skabelonerne og ikke ønsker at downloade dem igen, skal du gå til C:\Users\TuUsuario\.ollama og flyt modelmappen til den nye placering (f.eks. D:\Ollama\models o E:\ModelosIA).
3. Opret miljøvariablen i Windows:
   • Tryk på tasten Windows + R, skriver sysdm.cpl og tryk Gå ind.
   • Gå til fanen Avancerede muligheder og klik på knappen Miljøvariabler…
   • I afsnittet Brugervariabler (eller systemvariabler) skal du klikke på Ny…
   • Udfyld felterne med følgende oplysninger:
     • Variabelnavn: OVNMODELLER
     • Variablens værdi: D:\Ollama\models (eller den præcise sti, hvor du vil gemme modellerne fra nu af).
     • Klik på Acceptere i alle vinduerne.
4. Genstart Ollamama: Åbn Ollama-applikationen igen. Fra nu af vil alle kommandoer ollama run o ollama pull De vil downloade og læse filerne direkte fra den nye sti, du har valgt.

På Linux

I Linux, Ændringen foretages ved at definere miljøvariablen OLLAMA_MODELS før Ollama-tjenesten kører. Hvis du har installeret Ollama Ved hjælp af det officielle script kører det som en baggrundstjeneste, der administreres af systemdFølg disse trin for at ændre den mappe, hvor Ollama gemmer modeller i Linux.

1. Rediger Ollama-tjenesten: sudo systemctl edit ollama.service.
2. Tilføj miljøvariablen. I den fil, der åbnes, skal du tilføje følgende linjer og erstatte stien med din nye mappe: [Service]
Environment="OLLAMA_MODELS=/ruta/deseada/ollama/models".
3. Tildel tilladelser til den nye mappe. Sørg for, at ollama-brugeren har adgang til den nye placering: sudo chown -R ollama:ollama /ruta/deseada/ollama/models.
4. Genoplad og genstart tjenesten: sudo systemctl daemon-reload
sudo systemctl restart ollama.

På macOS

Hvis du bruger Ollamas grafiske applikation på macOS, er den reneste måde at definere variablen globalt for systemet på ved at launchctlSådan ændrer du den mappe, hvor Ollama gemmer modeller på macOS Følg nedenstående trin:

1. Luk Ollama helt fra den øverste menulinje.
2. Indstil den permanente miljøvariabel. For at gøre dette skal du åbne Terminal og køre kommandoen: launchctl setenv OLLAMA_MODELS "/Ruta/Deseada/ollama/models".
3. Genstart Ollama fra din applikationsmappe.

Men hvis du kører Ollama direkte fra terminalen i stedet for den grafiske app, skal du blot tilføje export OLLAMA_MODELS="/Ruta/Deseada/ollama/models" til din fil ~/.zshrc o ~/.bashrc.

Ekstra tips til at spare plads

At ændre den mappe, hvor Ollama gemmer modeller, er ikke det eneste, du kan gøre for at spare diskplads. Selvom dette bestemt er en af ​​de vigtigste foranstaltninger, du kan tage, hvis du har meget store sprogmodeller, Der er andre praktiske tiltag, der kan hjælpe dig med at optimere din pladsDisse er nogle af dem:

• Vælg effektive kvantiseringer: Medmindre du kræver meget streng matematisk eller kodningsmæssig nøjagtighed, kan du downloade q4_K_M- eller q4_0-versionerne. Disse tilbyder en optimal balance mellem kvalitet og størrelse og reducerer modellens vægt med op til 60-70 % sammenlignet med fp16 med minimalt tab af nøjagtighed.
• Vælg moderne "Small/Medium" modeller:  Nyere modeller med lavere parametre (såsom 3B til 8B parametre) klarer sig ofte bedre end ældre 14B eller 30B modeller ved at optage halvdelen af ​​pladsen.
• Brug ikke så mange sprogmodeller: I stedet for at have flere specialiserede modeller (en til skrivning, en til oversættelse, en anden til chat…), så vælg en enkelt model, der er mere generel, men alsidig nok til at tjene dig til de fleste hverdagsopgaver.
• Fjern forældreløse blobs: Ollama gemmer lagene i mappen manifests y blobsHvis du annullerer en download midtvejs, kan der stadig være resterende filer tilbage. Slet den gamle version med ollama rmsikre fjernelse af de tilhørende filer.

Kort sagt, skift den mappe, hvor Ollama gemmer modellerne. Det er en simpel og ligetil procedure, der forhindrer overbelastning af din primære harddisk.Ved at omkonfigurere miljøvariablen frigør du vigtig plads på dit operativsystem og administrerer dine AI-modeller mere fleksibelt på drev med større kapacitet uden at gå på kompromis med ydeevnen.