Slik endrer du mappen der Ollama lagrer modeller for å spare plass

Går du tom for plass på hoveddisken din på grunn av størrelsen på store språkmodeller? Å endre mappen der Ollama lagrer modellene kan være løsningen. I denne artikkelen skal vi vise deg hvordan. Slik endrer du standardbanen til en annen stasjon ved hjelp av miljøvariabler på Windows, Linux og macOS, og hold systemet ditt optimalisert uten å avinstallere noe.

Hvorfor endre mappen der Ollama lagrer modellene?

Sparer det virkelig plass å endre mappen der Ollama lagrer modellene? Ja. Men med et viktig forbehold: du reduserer ikke størrelsen på modellene, men frigjør heller plass på hoveddisken. Språkmodeller (LLM-er) er binære filer på flere gigabyte og kan ikke komprimeres ytterligere enn de allerede er gjennom kvantisering.

Ennå, Ved å endre mappen der Ollama lagrer modellene, oppnår du følgende: 

• Fjern overbelastning fra systemdisken (vanligvis C: eller rotpartisjonen /): Du hindrer at disken der operativsystemet ditt er installert fylles opp. Dette gjør ofte datamaskinen din tregere eller forhindrer viktige oppdateringer.
• Du bruker andre plater: Hvis du endrer mappen der Ollama lagrer modeller, kan du flytte mapper som veier 20 GB eller 50 GB eller mer til en mekanisk harddisk, en sekundær SSD eller ekstern lagring med større kapasitet.

Hvis du ønsker å redusere den totale plassen modellene opptar, har du to effektive alternativer: på den ene siden kan du bruk versjoner med høyere kvantisering, som er mindre modellerDet er bedre å laste ned varianter som q4_K_M i stedet for q8_0 eller fp16. Og på den annen side anbefales det Slett maler du ikke lenger bruker eller tester som du ikke lenger bruker direkte fra konsollen med ollama rm nombre_del_modelo.

Slik endrer du mappen der Ollama lagrer modeller for å spare plass

For å endre mappen der Ollama lagrer modellene (som som standard vanligvis ligger på hovedstasjonen). C:\Users\Usuario\.ollama\models), må du definer miljøvariabelen OLLAMA_MODELSNedenfor forklarer vi hvordan du gjør det på Windows, Linux og macOS.

På Windows

Følg disse Fremgangsmåte for å endre mappen der Ollama lagrer modellene i Windows:

1. Lukk Ollama helt: Høyreklikk på Ollama-ikonet i oppgavelinjen (systemstatusfeltet) og velg Avslutt Ollama for å forhindre fillåsing under overføring.
2. Flytt gjeldende mappe (valgfritt): Hvis du allerede har lastet ned malene og ikke vil laste dem ned igjen, kan du gå til C:\Users\TuUsuario\.ollama og flytt models-mappen til den nye plasseringen (for eksempel D:\Ollama\models o E:\ModelosIA).
3. Opprett miljøvariabelen i Windows:
   • Trykk på tasten Windows + R, skriver sysdm.cpl og trykk Gå.
   • Gå til fanen Avanserte alternativer og klikk på knappen Miljøvariabler…
   • I delen Brukervariabler (eller systemvariabler) klikker du på Ny…
   • Fyll ut feltene med følgende informasjon:
     • Variabelnavn: OVNSMODELLER
     • Verdi av variabelen: D:\Ollama\models (eller den nøyaktige stien der du vil lagre modellene fra nå av).
     • Klikk på Akseptere i alle vinduene.
4. Start Ollamama på nytt: Åpne Ollama-applikasjonen på nytt. Fra nå av vil alle kommandoer ollama run o ollama pull De vil laste ned og lese filene direkte fra den nye banen du valgte.

På Linux

I Linux, Endringen gjøres ved å definere miljøvariabelen OLLAMA_MODELS før Ollama-tjenesten kjører. Hvis du installerte Ollama Ved å bruke det offisielle skriptet kjører det som en bakgrunnstjeneste administrert av systemdFølg disse trinnene for å endre mappen der Ollama lagrer modeller i Linux.

1. Rediger Ollama-tjenesten: sudo systemctl edit ollama.service.
2. Legg til miljøvariabelen. I filen som åpnes, legg til følgende linjer, og erstatt banen med den nye mappen: [Service]
Environment="OLLAMA_MODELS=/ruta/deseada/ollama/models".
3. Tildel tillatelser til den nye mappen. Sørg for at ollama-brukeren har tilgang til den nye plasseringen: sudo chown -R ollama:ollama /ruta/deseada/ollama/models.
4. Lad opp og start tjenesten på nytt: sudo systemctl daemon-reload
sudo systemctl restart ollama.

På macOS

Hvis du bruker Ollama-grafikkapplikasjonen på macOS, er den reneste måten å definere variabelen globalt for systemet på ved å launchctlFor å endre mappen der Ollama lagrer modeller på macOS Følg trinnene nedenfor:

1. Lukk Ollama helt fra den øverste menylinjen.
2. Angi den permanente miljøvariabelen. For å gjøre dette, åpne Terminal og kjør kommandoen: launchctl setenv OLLAMA_MODELS "/Ruta/Deseada/ollama/models".
3. Start Ollama på nytt fra Programmer-mappen.

Men hvis du kjører Ollama direkte fra terminalen i stedet for den grafiske appen, trenger du bare å legge til export OLLAMA_MODELS="/Ruta/Deseada/ollama/models" til filen din ~/.zshrc o ~/.bashrc.

Ekstra tips for å spare plass

Å endre mappen der Ollama lagrer modeller er ikke det eneste du kan gjøre for å spare diskplass. Selv om dette absolutt er et av de viktigste tiltakene du kan ta hvis du har veldig store språkmodeller, Det finnes andre praktiske tiltak som vil hjelpe deg med å optimalisere plassen dinDette er noen av dem:

• Velg effektive kvantiseringer: Med mindre du krever svært streng matematisk eller kodingsprøytilighet, kan du laste ned q4_K_M- eller q4_0-versjonene. Disse gir en optimal balanse mellom kvalitet og størrelse, og reduserer modellens vekt med opptil 60–70 % sammenlignet med fp16 med minimalt tap av nøyaktighet.
• Velg moderne «Små/Mellomstore» modeller:  Nyere modeller med lavere parametere (som 3B til 8B-parametere) yter ofte bedre enn eldre 14B- eller 30B-modeller ved å ta opp halvparten av plassen.
• Ikke bruk så mange språkmodeller: I stedet for å ha flere spesialiserte modeller (én for skriving, én for oversettelse, en annen for chatting...), velg én modell som er mer generell, men allsidig nok til å tjene deg for de fleste hverdagsoppgaver.
• Fjern foreldreløse blobs: Ollama lagrer lagene i mappen manifests y blobsHvis du avbryter en nedlasting midtveis, kan det hende at gjenværende filer blir liggende igjen. Slett den gamle versjonen med ollama rmsørge for fjerning av tilknyttede filer.

Kort sagt, endre mappen der Ollama lagrer modellene Det er en enkel og grei prosedyre som forhindrer overbelastning av hovedharddisken.Ved å konfigurere miljøvariabelen på nytt frigjør du viktig plass på operativsystemet og administrerer AI-modellene dine mer fleksibelt på disker med større kapasitet uten at det går på bekostning av ytelsen.