- Oficiálnou a najefektívnejšou metódou aktualizácie je opätovné spustenie inštalátora OllamaSetup.exe.
- Cesty k úložisku modelov je možné spravovať pomocou premennej prostredia OLLAMA_MODELS.
- Nástroj je kompatibilný s grafickými kartami NVIDIA a AMD a pre optimálny výkon vyžaduje aktualizované ovládače.
- Umožňuje lokálne vykonávanie modelov ako napríklad Llama 3 a integráciu externých vizuálnych rozhraní.
Ak sa zaujímate o svet umelej inteligencie, pravdepodobne už poznáte Ollamu. Je to nástroj s otvoreným zdrojovým kódom, ktorý vám umožňuje vytvárať jazykové modely na vašom vlastnom počítači bez toho, aby ste sa museli spoliehať na cloud. A čo je najlepšie, je super všestranný a umožňuje vám spúšťať výkonné LLM bez toho, aby váš počítač musel byť superpočítačom NASA, hoci samozrejme, ak máte skromnejší hardvér, generovanie tokenov bude o niečo pomalšie.
Inštalácia je hračka, ale niekedy sa pýtate, ako udržiavať softvér aktuálny alebo ako opraviť bežné chyby pri pokuse o aktualizáciu. Aby sme vám ušetrili čas v technických problémoch, pripravili sme tohto kompletného sprievodcu, v ktorom vám povieme všetko, čo potrebujete vedieť. Všetko, čo potrebujete vedieť, aby ste spustili Ollamu na vašom systéme Windows.
Ako správne aktualizovať Ollamu vo Windowse
Mnoho ľudí robí chybu, keď sa pokúšajú aktualizovať Ollamu pomocou príkazov Linuxu, ako je napríklad slávny curl shv termináli systému Windows. Ak to urobíte, môžu sa zobraziť správy o tom, že sa čistí predchádzajúca verzia, ale po reštartovaní programu... verzia zostáva rovnakáStáva sa to preto, lebo inštalátor systému Windows nefunguje s použitím shellových skriptov týmto spôsobom.
Najjednoduchší a najefektívnejší spôsob, ako zostať aktuálny, je znova spustiť súbor. Súbor OllamaSetup.exeTento inštalátor je inteligentný a zvládne aktualizáciu binárnych súborov bez vymazania nastavení alebo predtým stiahnutých modelov. V podstate je to najrýchlejšia cesta k získaniu najnovších vylepšení a podpory pre najnovšie modely.
Ak uprednostňujete manuálnejšiu inštaláciu alebo potrebujete integrovať Ollamu ako systémovú službu, k dispozícii je súbor .zip (ollama-windows-amd64.zip), ktorý obsahuje iba rozhranie príkazového riadka a závislosti. V tomto prípade je nevyhnutný, ak vykonávate aktualizáciu. vymazať staré adresáre pred dekomprimáciou nových súborov, aby ste predišli konfliktom súborov.
Systémové požiadavky a optimalizácia hardvéru
Pre hladký chod všetkého potrebujete systém Windows 10 (verzia 22H2 alebo novšia), buď Home, alebo Pro. Pokiaľ ide o grafický výkon, Ollama je kompatibilná s grafickými kartami NVIDIA a AMD Radeon. Ak máte kartu NVIDIA, uistite sa, že máte ovládače 551.61 alebo vyššiePre používateľov AMD sa odporúča ovládač ROCm v7 alebo HIP7, hoci systém sa zvyčajne uchyľuje k Vulkanu ako alternatíve, ak hardvér nie je plne kompatibilný.
Všimnite si tento zvláštny detail: na niektorých starších termináloch systému Windows 10 sa znaky priebehu v Ollame môžu zobrazovať ako zvláštne malé štvorce Je to kvôli Unicode. Ak sa vám to stane, neprepadajte panike, jednoducho zmeňte písmo terminálu na modernejšie a problém zmizne.
Správa súborov a umiestnenie modelu
Ollama sa štandardne inštaluje do priečinka používateľa a nevyžaduje oprávnenia správcu. Jazykové modely však môžu byť zaberané... desiatky alebo stovky gigabajtovA je veľmi pravdepodobné, že váš disk C: sa rýchlo stane príliš malým. Aby ste predišli zlyhaniu systému, môžete zmeniť cestu, kam sú tieto súbory uložené.
Na presun modelov musíte vytvoriť premennú prostredia s názvom MODELY_RÚR V nastaveniach používateľského účtu jednoducho prejdite do Ovládacieho panela alebo Nastavenia, vyhľadajte Premenné prostredia a priraďte cestu k priečinku, kam chcete uložiť súbory LLM. Po vykonaní tohto kroku nezabudnite zatvoriť aplikáciu z panela úloh a znova ju otvoriť, aby sa zmeny prejavili.
Ak potrebujete preskúmať, čo sa deje „pod kapotou“, môžete k protokolom pristupovať pomocou príkazu explorer %LOCALAPPDATA%\OllamaTam nájdete upgrade.log Ak chcete zistiť, ako aktualizácie prebiehali, použite súbor app.log pre grafické rozhranie a server.log pre serverové procesy.
Používanie modelov a nasadenie rozhraní
Po aktualizácii si môžete začať hrať s modelmi ako Llama 3, Phi 3, Mistral alebo Gemma. Ak si chcete jeden stiahnuť a spustiť, jednoducho zadajte do konzoly nasledujúci príkaz. ollama run llama3Jedna dôležitá rada je nechajte dvojnásobok voľného miesta na disku v porovnaní s hmotnosťou modelu, ktorý chcete nainštalovať, aby sa predišlo chybám pri zápise.
Ak sa vám príkazový panel zdá príliš jednoduchý, môžete si ho nainštalovať Otvoriť webové rozhranie pomocou Dockeru. To vám umožňuje mať vizuálne rozhranie veľmi podobné rozhraniu ChatGPT, vďaka čomu je interakcia s vašimi lokálnymi modelmi oveľa intuitívnejšia a vizuálne príťažlivejšia, a dokonca aj jednoduchšia v učení. Ako zdieľať Open WebUI s ostatnými používateľmi vašej siete.
Okrem toho vám Ollamama dáva slobodu vytvorte si vlastný LLM Prispôsobené. To znamená, že si môžete systém nakonfigurovať tak, aby kombinoval rôzne modely alebo upravoval parametre tak, aby sa umelá inteligencia správala presne tak, ako chcete, pričom vždy zachováva vaše súkromie tým, že neodosiela údaje na externé servery.
Aktualizácia Ollamy vo Windowse zaisťuje kompatibilitu s najnovšími grafickými procesormi, optimalizuje rýchlosť odozvy a umožňuje spravovať umiestnenie náročných modelov pomocou premenných prostredia, a to všetko pri flexibilnom rozhraní, či už prostredníctvom príkazov alebo externých nástrojov, ako je Docker.
Som technologický nadšenec, ktorý zo svojich „geekovských“ záujmov urobil povolanie. Strávil som viac ako 10 rokov svojho života používaním špičkových technológií a hraním so všetkými druhmi programov z čistej zvedavosti. Teraz som sa špecializoval na počítačovú techniku a videohry. Je to preto, že už viac ako 5 rokov píšem pre rôzne webové stránky o technológiách a videohrách a vytváram články, ktoré sa snažia poskytnúť vám potrebné informácie v jazyku, ktorý je zrozumiteľný pre každého.
Ak máte nejaké otázky, moje znalosti siahajú od všetkého, čo súvisí s operačným systémom Windows, ako aj Androidom pre mobilné telefóny. A môj záväzok je voči vám, vždy som ochotný venovať pár minút a pomôcť vám vyriešiť akékoľvek otázky, ktoré môžete mať v tomto internetovom svete.