- Die offizielle und effektivste Methode zum Aktualisieren ist die erneute Ausführung des Installationsprogramms OllamaSetup.exe.
- Die Speicherpfade der Modelle können über die Umgebungsvariable OLLAMA_MODELS verwaltet werden.
- Das Tool ist mit NVIDIA- und AMD-GPUs kompatibel, benötigt jedoch aktualisierte Treiber für eine optimale Leistung.
- Es ermöglicht die lokale Ausführung von Modellen wie Llama 3 und die Integration externer visueller Schnittstellen.
Wenn Sie sich für künstliche Intelligenz interessieren, kennen Sie Ollama wahrscheinlich schon. Es ist ein Open-Source-Tool, mit dem Sie Sprachmodelle erstellen Auf Ihrem eigenen Computer, ohne auf die Cloud angewiesen zu sein. Das Beste daran: Es ist äußerst vielseitig und ermöglicht Ihnen die Ausführung leistungsstarker LLMs, ohne dass Ihr PC ein NASA-Supercomputer sein muss. Bei weniger leistungsstarker Hardware verläuft die Token-Generierung allerdings etwas langsamer.
Die Installation ist kinderleicht, aber manchmal fragt man sich, wie man die Software aktuell hält oder häufige Fehler beim Aktualisieren behebt. Damit Sie sich nicht in technischen Schwierigkeiten verstricken, haben wir diesen umfassenden Leitfaden erstellt, in dem wir Ihnen alles Wissenswerte erklären. Alles, was Sie wissen müssen, um Ollama auf Ihrem Windows-System zum Laufen zu bringen.
So aktualisieren Sie Ollama unter Windows richtig
Viele machen den Fehler, Ollama mithilfe von Linux-Befehlen aktualisieren zu wollen, wie beispielsweise dem bekannten curl shim Windows-Terminal. Wenn Sie dies tun, werden möglicherweise Meldungen angezeigt, die darauf hinweisen, dass die vorherige Version bereinigt wird. Wenn Sie das Programm jedoch neu starten, Die Version bleibt dieselbeDies geschieht, weil der Windows-Installer auf diese Weise nicht mit Shell-Skripten funktioniert.
Die einfachste und effektivste Methode, um auf dem neuesten Stand zu bleiben, besteht darin, die Datei erneut auszuführen. OllamaSetup.exeDieser Installer ist intelligent und aktualisiert die Binärdateien, ohne Ihre Einstellungen oder zuvor heruntergeladene Modelle zu löschen. Er ist somit der schnellste Weg, um die neuesten Verbesserungen und die Unterstützung für die aktuellsten Modelle zu erhalten.
Wenn Sie eine manuelle Installation bevorzugen oder Ollama als Systemdienst integrieren möchten, steht eine ZIP-Datei (ollama-windows-amd64.zip) zur Verfügung, die nur die Befehlszeilenschnittstelle (CLI) und die zugehörigen Abhängigkeiten enthält. Diese ist insbesondere bei einem Upgrade erforderlich. Alte Verzeichnisse löschen bevor die neuen Dateien entpackt werden, um Dateikonflikte zu vermeiden.
Systemanforderungen und Hardwareoptimierung
Für einen reibungslosen Betrieb benötigen Sie Windows 10 (Version 22H2 oder höher), entweder Home oder Pro. Ollama ist mit NVIDIA- und AMD-Radeon-Grafikkarten kompatibel. Wenn Sie eine NVIDIA-Karte besitzen, stellen Sie sicher, dass Sie die folgenden Voraussetzungen erfüllen: Treiber 551.61 oder höherFür AMD-Nutzer wird der ROCm v7- oder HIP7-Treiberstack empfohlen, obwohl das System normalerweise auf Vulkan als Alternative zurückgreift, wenn die Hardware nicht vollständig kompatibel ist.
Beachten Sie dieses interessante Detail: Auf einigen älteren Windows 10-Terminals können die Fortschrittsanzeigen von Ollama wie folgt aussehen: seltsame kleine Quadrate Das liegt an Unicode. Sollte das bei Ihnen der Fall sein, keine Panik! Ändern Sie einfach die Schriftart Ihres Terminals auf eine modernere, und das Problem ist behoben.
Dateiverwaltung und Modellspeicherort
Ollama wird standardmäßig in Ihrem Benutzerordner installiert und benötigt keine Administratorrechte. Sprachmodelle können jedoch Speicherplatz belegen. Dutzende oder Hunderte von GigabyteEs ist sehr wahrscheinlich, dass Ihr C:-Laufwerk schnell zu klein wird. Um Systemabstürze zu vermeiden, können Sie den Speicherort dieser Dateien ändern.
Um die Modelle zu verschieben, müssen Sie eine Umgebungsvariable namens erstellen. OFENMODELLE Gehen Sie in Ihren Benutzerkontoeinstellungen einfach auf „Systemsteuerung“ oder „Einstellungen“, suchen Sie nach „Umgebungsvariablen“ und geben Sie den Pfad zu dem Ordner an, in dem die LLM-Dateien gespeichert werden sollen. Schließen Sie anschließend die Anwendung über die Taskleiste und öffnen Sie sie erneut, damit die Änderungen wirksam werden.
Wenn Sie untersuchen müssen, was im Hintergrund passiert, können Sie mit dem Befehl auf die Protokolle zugreifen. explorer %LOCALAPPDATA%\OllamaDort finden Sie die upgrade.log Um zu sehen, wie die Aktualisierungen verlaufen sind, verwenden Sie app.log für die grafische Benutzeroberfläche und server.log für Serverprozesse.
Nutzung von Modellen und Bereitstellung von Schnittstellen
Nach dem Update können Sie Modelle wie Llama 3, Phi 3, Mistral oder Gemma ausprobieren. Um ein Modell herunterzuladen und auszuführen, geben Sie einfach Folgendes in die Konsole ein. ollama run llama3Ein wichtiger Ratschlag lautet: Lassen Sie doppelt so viel Freiraum. Vergleichen Sie die Größe des Modells, das Sie installieren möchten, mit dem Gewicht des Modells auf der Festplatte, um Schreibfehler zu vermeiden.
Falls Ihnen die Befehlskonsole zu einfach erscheint, können Sie installieren WebUI öffnen Durch die Verwendung von Docker erhalten Sie eine visuelle Oberfläche, die der von ChatGPT sehr ähnlich ist, wodurch die Interaktion mit Ihren lokalen Modellen wesentlich intuitiver und optisch ansprechender wird und sogar das Lernen erleichtert wird. So teilen Sie Open WebUI mit anderen Benutzern Ihres Netzwerks.
Darüber hinaus bietet Ihnen Ollamama die Freiheit, Gestalten Sie Ihren eigenen LLM Anpassbar. Das bedeutet, dass Sie das System so konfigurieren können, dass verschiedene Modelle kombiniert oder die Parameter so angepasst werden, dass sich die KI genau so verhält, wie Sie es wünschen, wobei Ihre Privatsphäre stets gewahrt bleibt, indem keine Daten an externe Server gesendet werden.
Durch die Aktualisierung von Ollama unter Windows wird die Kompatibilität mit den neuesten GPUs sichergestellt, die Reaktionsgeschwindigkeit optimiert und die Verwaltung des Speicherorts rechenintensiver Modelle mithilfe von Umgebungsvariablen ermöglicht. Gleichzeitig profitieren Sie von einer flexiblen Benutzeroberfläche, sei es über Befehle oder externe Tools wie Docker.
Ich bin ein Technik-Enthusiast, der seine „Geek“-Interessen zum Beruf gemacht hat. Ich habe mehr als 10 Jahre meines Lebens damit verbracht, modernste Technologie zu nutzen und aus purer Neugier an allen möglichen Programmen herumzubasteln. Mittlerweile habe ich mich auf Computertechnik und Videospiele spezialisiert. Das liegt daran, dass ich seit mehr als fünf Jahren für verschiedene Websites zum Thema Technologie und Videospiele schreibe und Artikel erstelle, die Ihnen die Informationen, die Sie benötigen, in einer für jeden verständlichen Sprache vermitteln möchten.
Bei Fragen reicht mein Wissen von allem rund um das Windows-Betriebssystem bis hin zu Android für Mobiltelefone. Und mein Engagement gilt Ihnen, ich bin immer bereit, ein paar Minuten zu investieren und Ihnen bei der Lösung aller Fragen in dieser Internetwelt zu helfen.