- A frissítés hivatalos és leghatékonyabb módja az OllamaSetup.exe telepítő újbóli futtatása.
- A modell tárolási útvonalai az OLLAMA_MODELS környezeti változóval kezelhetők.
- Az eszköz kompatibilis az NVIDIA és az AMD GPU-kkal, ezért az optimális teljesítményhez frissített illesztőprogramokra van szükség.
- Lehetővé teszi olyan modellek helyi végrehajtását, mint a Llama 3, valamint külső vizuális interfészek integrálását.
Ha érdekel a mesterséges intelligencia világa, valószínűleg már ismered az Ollamát. Ez egy nyílt forráskódú eszköz, amely lehetővé teszi, hogy nyelvi modellek felépítése saját számítógépeden anélkül, hogy a felhőre kellene támaszkodnod. A legjobb az egészben, hogy rendkívül sokoldalú, és lehetővé teszi nagy teljesítményű LLM-ek futtatását anélkül, hogy a számítógépednek NASA szuperszámítógépnek kellene lennie, bár természetesen, ha szerényebb hardverrel rendelkezel, a tokenek generálása valamivel lassabb lesz.
A telepítése gyerekjáték, de néha azon tűnődünk, hogyan tartsuk naprakészen a szoftvert, vagy hogyan javítsuk ki a frissítés során gyakran előforduló hibákat. Hogy elkerüljük a technikai problémákat, elkészítettük ezt a teljes útmutatót, amelyben mindent elmondunk, amit tudnunk kell. Minden, amit tudnod kell ahhoz, hogy az Ollama repülni tudjon a Windows rendszereden.
Az Ollama helyes frissítése Windows rendszeren
Sokan elkövetik azt a hibát, hogy Linux parancsokkal próbálják frissíteni az Ollama programot, például a híres curl sha Windows terminálon belül. Ha ezt teszi, előfordulhat, hogy üzeneteket lát arról, hogy az előző verziót törlik, de a program újraindításakor... a verzió ugyanaz maradEz azért történik, mert a Windows telepítő nem működik ilyen módon shell szkriptekkel.
A naprakészség megőrzésének legegyszerűbb és leghatékonyabb módja a fájl újbóli futtatása. OllamaSetup.exeEz a telepítő okos, és a bináris fájlok frissítését a beállítások vagy a korábban letöltött modellek törlése nélkül végzi. Lényegében ez a leggyorsabb út a legújabb fejlesztések és a legújabb modellek támogatásának megszerzéséhez.
Ha manuálisabb telepítést szeretnél, vagy rendszerszolgáltatásként kell integrálnod az Ollamát, akkor van egy .zip fájl (ollama-windows-amd64.zip), amely csak a parancssori felületet és a függőségeket tartalmazza. Ebben az esetben elengedhetetlen a frissítéshez. törölje a régi könyvtárakat mielőtt kicsomagolná az újakat a fájlütközések elkerülése érdekében.
Rendszerkövetelmények és hardveroptimalizálás
Ahhoz, hogy minden zökkenőmentesen működjön, Windows 10 (22H2 vagy újabb verzió) szükséges, Home vagy Pro rendszerrel. A grafikus teljesítmény tekintetében az Ollama kompatibilis az NVIDIA és az AMD Radeon rendszerekkel. Ha NVIDIA kártyával rendelkezik, győződjön meg róla, hogy rendelkezik a megfelelővel. 551.61-es vagy magasabb szintű illesztőprogramokAMD felhasználók számára az ROCm v7 vagy a HIP7 illesztőprogram-csomag ajánlott, bár a rendszer általában a Vulkanhoz folyamodik alternatívaként, ha a hardver nem teljesen kompatibilis.
Figyeljük meg ezt a furcsa részletet: néhány régebbi Windows 10 terminálon Ollama folyamatjelző karakterei így jelenhetnek meg: furcsa kis négyzetek Ez az Unicode miatt van. Ha ez történik veled, ne ess pánikba, egyszerűen változtasd meg a terminálod betűtípusát egy modernebbre, és a probléma megszűnik.
Fájlkezelés és modell helye
Alapértelmezés szerint az Ollama a felhasználói mappába települ, és nem kér rendszergazdai jogosultságokat. Előfordulhat azonban, hogy a nyelvi modellek elfoglalják a helyet. tíz vagy több száz gigabájtÉs nagyon valószínű, hogy a C: meghajtód gyorsan túl kicsivé válik. A rendszer összeomlásának elkerülése érdekében megváltoztathatod a fájlok mentési útvonalát.
A modellek mozgatásához létre kell hozni egy környezeti változót, melynek neve: SÜTŐMODELLEK A felhasználói fiók beállításaiban egyszerűen lépjen a Vezérlőpultra vagy a Beállításokra, keresse meg a Környezeti változók elemet, és rendelje hozzá annak a mappának az elérési útját, ahová az LLM fájlokat tárolni szeretné. Ezután ne felejtse el bezárni az alkalmazást a tálcáról, majd újra megnyitni, hogy a módosítások érvénybe lépjenek.
Ha meg kell vizsgálnia, mi történik a motorháztető alatt, a naplókhoz a következő paranccsal férhet hozzá: explorer %LOCALAPPDATA%\OllamaOtt megtalálod a frissítés.log A frissítések állapotának megtekintéséhez használd az app.log fájlt a grafikus felülethez, és a server.log fájlt a szerverfolyamatokhoz.
Modellek használata és interfészek telepítése
A frissítés után olyan modellekkel játszhatsz, mint a Llama 3, a Phi 3, a Mistral vagy a Gemma. A letöltéshez és futtatáshoz egyszerűen írd be a következőt a konzolba. ollama run llama3Az egyik fontos tanács az, kétszer annyi szabad helyet hagyjon a lemezen a telepíteni kívánt modell súlyához képest, hogy elkerülje az írási hibákat.
Ha a parancskonzol túl alapvetőnek tűnik számodra, telepítheted Nyílt webes felhasználói felület Docker használatával. Ez lehetővé teszi a ChatGPT-hez nagyon hasonló vizuális felületet, így a helyi modellekkel való interakció sokkal intuitívabb és vizuálisan vonzóbb, sőt, akár tanulási szempontból is könnyebb. Hogyan osztható meg az Open WebUI más felhasználókkal? a hálózatodról.
Továbbá, Ollamama szabadságot ad neked, hogy Hozd létre a saját LLM-edet Testreszabható. Ez azt jelenti, hogy a rendszert úgy konfigurálhatja, hogy különböző modelleket kombináljon, vagy módosítsa a paramétereket, hogy a mesterséges intelligencia pontosan úgy viselkedjen, ahogyan Ön szeretné, miközben mindig megőrzi az Ön adatainak védelmét azáltal, hogy nem küld adatokat külső szerverekre.
Az Ollama Windows rendszeren történő frissítése biztosítja a legújabb GPU-kkal való kompatibilitást, optimalizálja a válaszidőt, és lehetővé teszi a nehéz modellek helyének kezelését környezeti változók segítségével, mindezt egy rugalmas felület élvezve, akár parancsokon, akár külső eszközökön, például a Dockeren keresztül.
Technológia-rajongó vagyok, aki "geek" érdeklődését szakmává változtatta. Életemből több mint 10 évet töltöttem a legmodernebb technológiával, és pusztán kíváncsiságból mindenféle programmal bütykölgettem. Most a számítástechnikára és a videojátékokra szakosodtam. Ennek az az oka, hogy több mint 5 éve írok különféle technológiával és videojátékokkal foglalkozó weboldalakra, olyan cikkeket készítve, amelyek mindenki számára érthető nyelven igyekeznek megadni a szükséges információkat.
Ha bármilyen kérdése van, tudásom a Windows operációs rendszerrel, valamint a mobiltelefonokhoz készült Androiddal kapcsolatos mindenre kiterjed. És az én elkötelezettségem az Ön iránti elkötelezettségem, mindig készen állok néhány percet rászánni arra, hogy segítsek megoldani minden kérdését ebben az internetes világban.