- Uradna in najučinkovitejša metoda za posodobitev je ponovni zagon namestitvenega programa OllamaSetup.exe.
- Poti shranjevanja modelov je mogoče upravljati z uporabo okoljske spremenljivke OLLAMA_MODELS.
- Orodje je združljivo z grafičnimi procesorji NVIDIA in AMD, za optimalno delovanje pa so potrebni posodobljeni gonilniki.
- Omogoča lokalno izvajanje modelov, kot je Llama 3, in integracijo zunanjih vizualnih vmesnikov.
Če vas zanima svet umetne inteligence, verjetno že poznate Ollamo. To je orodje z odprto kodo, ki vam omogoča graditi jezikovne modele na vašem računalniku, ne da bi se morali zanašati na oblak. Najboljše od vsega pa je, da je izjemno vsestranski in vam omogoča zagon zmogljivih LLM-ov, ne da bi moral biti vaš računalnik superračunalnik Nase, čeprav bo seveda, če imate skromnejšo strojno opremo, generiranje žetonov nekoliko počasnejše.
Namestitev je mačji kašelj, a včasih se sprašujete, kako posodabljati programsko opremo ali kako odpraviti pogoste napake pri poskusu posodabljanja. Da bi se izognili tehničnim težavam, smo pripravili ta celovit vodnik, v katerem vam bomo povedali vse, kar morate vedeti. Vse, kar morate vedeti, da bo Ollama letela v vašem sistemu Windows.
Kako pravilno posodobiti Ollamo v sistemu Windows
Mnogi ljudje naredijo napako, da poskušajo posodobiti Ollamo z ukazi Linuxa, kot je na primer slavni curl shv terminalu sistema Windows. Če to storite, se lahko prikažejo sporočila, da se prejšnja različica čisti, ko pa program znova zaženete, različica ostaja enakaTo se zgodi, ker namestitveni program za Windows ne deluje z uporabo lupinskih skriptov na ta način.
Najenostavnejši in najučinkovitejši način za posodabljanje je ponovni zagon datoteke. OllamaSetup.exeTa namestitveni program je pameten in poskrbi za posodobitev binarnih datotek, ne da bi izbrisal vaše nastavitve ali prej prenesene modele. V bistvu je to najhitrejša pot do najnovejših izboljšav in podpore za najnovejše modele.
Če imate raje bolj ročno namestitev ali morate Ollamo integrirati kot sistemsko storitev, je na voljo datoteka .zip (ollama-windows-amd64.zip), ki vsebuje samo CLI in odvisnosti. V tem primeru je bistvenega pomena, če nadgrajujete. izbriši stare imenike preden razpakirate nove, da se izognete konfliktom datotek.
Sistemske zahteve in optimizacija strojne opreme
Za nemoteno delovanje potrebujete Windows 10 (različico 22H2 ali novejšo), Home ali Pro. Kar zadeva grafično moč, je Ollama združljiva z NVIDIA in AMD Radeon. Če imate grafično kartico NVIDIA, se prepričajte, da imate gonilniki 551.61 ali novejšiZa uporabnike AMD je priporočljiv gonilniški sklad ROCm v7 ali HIP7, čeprav se sistem običajno zateče k Vulkanu kot alternativi, če strojna oprema ni popolnoma združljiva.
Upoštevajte to zanimivo podrobnost: na nekaterih starejših terminalih sistema Windows 10 se lahko znaki napredka Ollame prikažejo kot čudni majhni kvadratki To je posledica Unicode. Če se vam to zgodi, ne paničarite, preprosto spremenite pisavo terminala v sodobnejšo in težava bo izginila.
Upravljanje datotek in lokacija modela
Ollama se privzeto namesti v vašo uporabniško mapo in ne zahteva skrbniških pravic. Vendar pa lahko jezikovni modeli zasedejo deset ali sto gigabajtovIn zelo verjetno je, da bo vaš pogon C: hitro postal premajhen. Da preprečite sesutje sistema, lahko spremenite pot, kamor so shranjene te datoteke.
Za premikanje modelov morate ustvariti okoljsko spremenljivko z imenom MODELI_PEČIC V nastavitvah uporabniškega računa preprosto pojdite na Nadzorno ploščo ali Nastavitve, poiščite Spremenljivke okolja in dodelite pot do mape, kamor želite shraniti datoteke LLM. Po tem ne pozabite zapreti aplikacije iz sistemske vrstice in jo znova odpreti, da spremembe začnejo veljati.
Če morate raziskati, kaj se dogaja pod pokrovom, lahko do dnevnikov dostopate z ukazom explorer %LOCALAPPDATA%\OllamaTam boste našli upgrade.log Če želite videti, kako so potekale posodobitve, uporabite app.log za grafični vmesnik in server.log za strežniške procese.
Uporaba modelov in uvajanje vmesnikov
Ko je posodobitev izvedena, se lahko začnete igrati z modeli, kot so Llama 3, Phi 3, Mistral ali Gemma. Če želite enega prenesti in zagnati, preprosto v konzolo vnesite naslednje. ollama run llama3En pomemben nasvet je pustite dvakrat več prostega prostora na disku v primerjavi s težo modela, ki ga želite namestiti, da se izognete napakam pri pisanju.
Če se vam zdi ukazna konzola preveč osnovna, lahko namestite Odpri spletni uporabniški vmesnik z uporabo Dockerja. To vam omogoča vizualni vmesnik, zelo podoben tistemu v ChatGPT, zaradi česar je interakcija z vašimi lokalnimi modeli veliko bolj intuitivna in vizualno privlačna ter celo učna. Kako deliti odprti spletni uporabniški vmesnik z drugimi uporabniki vašega omrežja.
Poleg tega vam Ollamama daje svobodo, da ustvarite svoj lastni LLM Prilagojeno. To pomeni, da lahko sistem konfigurirate tako, da združuje različne modele ali prilagodite parametre, tako da se umetna inteligenca obnaša točno tako, kot želite, pri čemer vedno ohranjate svojo zasebnost, saj ne pošiljate podatkov zunanjim strežnikom.
Posodobitev Ollame v sistemu Windows zagotavlja združljivost z najnovejšimi grafičnimi procesorji, optimizira hitrost odziva in omogoča upravljanje lokacije težkih modelov z uporabo okoljskih spremenljivk, hkrati pa uživate v prilagodljivem vmesniku, bodisi prek ukazov bodisi zunanjih orodij, kot je Docker.
Sem tehnološki navdušenec, ki je svoja "geek" zanimanja spremenil v poklic. Več kot 10 let svojega življenja sem porabil za uporabo vrhunske tehnologije in premleval najrazličnejše programe iz čiste radovednosti. Zdaj sem se specializiral za računalniško tehnologijo in video igre. To je zato, ker že več kot 5 let pišem za različna spletna mesta o tehnologiji in video igrah ter ustvarjam članke, ki vam želijo dati informacije, ki jih potrebujete, v jeziku, ki je razumljiv vsem.
Če imate kakršna koli vprašanja, moje znanje sega od vsega v zvezi z operacijskim sistemom Windows kot tudi Androidom za mobilne telefone. In moja zaveza je vam, vedno sem pripravljen porabiti nekaj minut in vam pomagati razrešiti kakršna koli vprašanja, ki jih morda imate v tem internetnem svetu.