- Η επίσημη και πιο αποτελεσματική μέθοδος ενημέρωσης είναι να εκτελέσετε ξανά το πρόγραμμα εγκατάστασης OllamaSetup.exe.
- Οι διαδρομές αποθήκευσης μοντέλων μπορούν να διαχειριστούν χρησιμοποιώντας τη μεταβλητή περιβάλλοντος OLLAMA_MODELS.
- Το εργαλείο είναι συμβατό με GPU NVIDIA και AMD, απαιτώντας ενημερωμένα προγράμματα οδήγησης για βέλτιστη απόδοση.
- Επιτρέπει την τοπική εκτέλεση μοντέλων όπως το Llama 3 και την ενσωμάτωση εξωτερικών οπτικών διεπαφών.
Αν ασχολείστε με τον κόσμο της τεχνητής νοημοσύνης, πιθανότατα γνωρίζετε ήδη το Ollama. Είναι αυτό το εργαλείο ανοιχτού κώδικα που σας επιτρέπει να δημιουργία γλωσσικών μοντέλων στον δικό σας υπολογιστή χωρίς να χρειάζεται να βασίζεστε στο cloud. Το καλύτερο από όλα είναι ότι είναι εξαιρετικά ευέλικτο και σας επιτρέπει να εκτελείτε ισχυρά LLM χωρίς ο υπολογιστής σας να χρειάζεται να είναι υπερυπολογιστής της NASA, αν και φυσικά, εάν έχετε πιο μέτριο υλικό, η δημιουργία token θα είναι λίγο πιο αργή.
Η εγκατάστασή του είναι παιχνιδάκι, αλλά μερικές φορές αναρωτιέστε πώς να διατηρείτε το λογισμικό ενημερωμένο ή πώς να διορθώσετε αυτά τα συνηθισμένα σφάλματα όταν προσπαθείτε να ενημερώσετε. Για να σας γλιτώσουμε από τεχνικά προβλήματα, έχουμε ετοιμάσει αυτόν τον πλήρη οδηγό όπου θα σας πούμε όλα όσα πρέπει να γνωρίζετε. Όλα όσα πρέπει να ξέρετε για να κάνετε το Ollama να πετάει στο σύστημα των Windows σας.
Πώς να ενημερώσετε σωστά το Ollama στα Windows
Πολλοί άνθρωποι κάνουν το λάθος να προσπαθούν να ενημερώσουν το Ollama χρησιμοποιώντας εντολές Linux, όπως η διάσημη curl shμέσα στο τερματικό των Windows. Εάν το κάνετε αυτό, ενδέχεται να δείτε μηνύματα που να αναφέρουν ότι η προηγούμενη έκδοση καθαρίζεται, αλλά όταν επανεκκινήσετε το πρόγραμμα, η έκδοση παραμένει η ίδιαΑυτό συμβαίνει επειδή το πρόγραμμα εγκατάστασης των Windows δεν λειτουργεί χρησιμοποιώντας δέσμες ενεργειών κελύφους με αυτόν τον τρόπο.
Ο απλούστερος και πιο αποτελεσματικός τρόπος για να παραμένετε ενημερωμένοι είναι να εκτελέσετε ξανά το αρχείο. OllamaSetup.exeΑυτό το πρόγραμμα εγκατάστασης είναι έξυπνο και χειρίζεται την ενημέρωση των δυαδικών αρχείων χωρίς να διαγράφει τις ρυθμίσεις σας ή τα μοντέλα που έχετε κατεβάσει προηγουμένως. Ουσιαστικά, είναι ο γρήγορος δρόμος για να λάβετε τις πιο πρόσφατες βελτιώσεις και υποστήριξη για τα νεότερα μοντέλα.
Αν προτιμάτε μια πιο χειροκίνητη εγκατάσταση ή χρειάζεται να ενσωματώσετε το Ollama ως υπηρεσία συστήματος, υπάρχει ένα αρχείο .zip (ollama-windows-amd64.zip) που περιέχει μόνο το CLI και τις εξαρτήσεις. Σε αυτήν την περίπτωση, είναι απαραίτητο εάν κάνετε αναβάθμιση. διαγραφή παλιών καταλόγων πριν από την αποσυμπίεση των νέων για την αποφυγή διενέξεων αρχείων.
Απαιτήσεις συστήματος και βελτιστοποίηση υλικού
Για να λειτουργήσουν όλα ομαλά, χρειάζεστε Windows 10 (έκδοση 22H2 ή νεότερη), είτε Home είτε Pro. Όσον αφορά την ισχύ γραφικών, το Ollama είναι συμβατό με NVIDIA και AMD Radeon. Εάν έχετε κάρτα NVIDIA, βεβαιωθείτε ότι έχετε την οδηγοί 551.61 ή υψηλότεροιΓια τους χρήστες AMD, συνιστάται η στοίβα προγραμμάτων οδήγησης ROCm v7 ή HIP7, αν και το σύστημα συνήθως καταφεύγει στο Vulkan ως εναλλακτική λύση εάν το υλικό δεν είναι πλήρως συμβατό.
Σημειώστε αυτήν την περίεργη λεπτομέρεια: σε ορισμένα παλαιότερα τερματικά των Windows 10, οι χαρακτήρες προόδου του Ollama ενδέχεται να εμφανίζονται ως παράξενα μικρά τετράγωνα Αυτό οφείλεται στο Unicode. Αν σας συμβεί αυτό, μην πανικοβάλλεστε, απλώς αλλάξτε τη γραμματοσειρά του τερματικού σας σε μια πιο μοντέρνα και το πρόβλημα θα εξαφανιστεί.
Διαχείριση αρχείων και τοποθεσία μοντέλου
Από προεπιλογή, το Ollama εγκαθίσταται στον φάκελο χρήστη σας και δεν ζητά δικαιώματα διαχειριστή. Ωστόσο, τα μοντέλα γλώσσας ενδέχεται να καταλαμβάνουν δεκάδες ή εκατοντάδες γιγαμπάιτΚαι είναι πολύ πιθανό η μονάδα δίσκου C: να γίνει γρήγορα πολύ μικρή. Για να αποτρέψετε την κατάρρευση του συστήματος, μπορείτε να αλλάξετε τη διαδρομή όπου αποθηκεύονται αυτά τα αρχεία.
Για να μετακινήσετε τα μοντέλα, πρέπει να δημιουργήσετε μια μεταβλητή περιβάλλοντος που ονομάζεται ΜΟΝΤΕΛΑ ΦΟΥΡΝΟΥ Στις ρυθμίσεις του λογαριασμού χρήστη σας, απλώς μεταβείτε στον Πίνακα Ελέγχου ή στις Ρυθμίσεις, βρείτε τις Μεταβλητές Περιβάλλοντος και αντιστοιχίστε τη διαδρομή προς τον φάκελο όπου θέλετε να αποθηκεύσετε τα αρχεία LLM. Αφού το κάνετε αυτό, θυμηθείτε να κλείσετε την εφαρμογή από την περιοχή ειδοποιήσεων και να την ανοίξετε ξανά για να ισχύσουν οι αλλαγές.
Αν χρειαστεί να διερευνήσετε τι συμβαίνει στο παρασκήνιο, μπορείτε να αποκτήσετε πρόσβαση στα αρχεία καταγραφής χρησιμοποιώντας την εντολή explorer %LOCALAPPDATA%\OllamaΕκεί θα βρείτε το upgrade.log Για να δείτε πώς έχουν προχωρήσει οι ενημερώσεις, χρησιμοποιήστε το app.log για το γραφικό περιβάλλον εργασίας και το server.log για τις διεργασίες του διακομιστή.
Χρήση μοντέλων και ανάπτυξη διεπαφών
Μόλις ενημερωθεί, μπορείτε να ξεκινήσετε να παίζετε με μοντέλα όπως Llama 3, Phi 3, Mistral ή Gemma. Για να κατεβάσετε και να εκτελέσετε ένα, απλώς πληκτρολογήστε τα ακόλουθα στην κονσόλα. ollama run llama3Μια σημαντική συμβουλή είναι αφήστε διπλάσιο ελεύθερο χώρο στο δίσκο σε σύγκριση με το βάρος του μοντέλου που θέλετε να εγκαταστήσετε για να αποφύγετε σφάλματα εγγραφής.
Αν η κονσόλα εντολών σας φαίνεται πολύ βασική, μπορείτε να την εγκαταστήσετε Άνοιγμα WebUI χρησιμοποιώντας το Docker. Αυτό σας επιτρέπει να έχετε μια οπτική διεπαφή πολύ παρόμοια με αυτή του ChatGPT, καθιστώντας την αλληλεπίδραση με τα τοπικά σας μοντέλα πολύ πιο διαισθητική και οπτικά ελκυστική, ακόμη και μαθησιακή. Πώς να μοιραστείτε το Open WebUI με άλλους χρήστες του δικτύου σας.
Επιπλέον, το Ollamama σας δίνει την ελευθερία να δημιουργήστε το δικό σας LLM Προσαρμοσμένο. Αυτό σημαίνει ότι μπορείτε να διαμορφώσετε το σύστημα ώστε να συνδυάζει διαφορετικά μοντέλα ή να προσαρμόζετε τις παραμέτρους έτσι ώστε η Τεχνητή Νοημοσύνη να συμπεριφέρεται ακριβώς όπως θέλετε, διατηρώντας πάντα το απόρρητό σας, μη στέλνοντας δεδομένα σε εξωτερικούς διακομιστές.
Η ενημέρωση του Ollama στα Windows διασφαλίζει τη συμβατότητα με τις πιο πρόσφατες GPU, βελτιστοποιεί την ταχύτητα απόκρισης και σας επιτρέπει να διαχειρίζεστε την τοποθεσία βαρέων μοντέλων χρησιμοποιώντας μεταβλητές περιβάλλοντος, ενώ παράλληλα απολαμβάνετε μια ευέλικτη διεπαφή είτε μέσω εντολών είτε μέσω εξωτερικών εργαλείων όπως το Docker.
Είμαι λάτρης της τεχνολογίας που έχει μετατρέψει τα «γκικ» ενδιαφέροντά του σε επάγγελμα. Έχω περάσει περισσότερα από 10 χρόνια της ζωής μου χρησιμοποιώντας τεχνολογία αιχμής και ασχολούμαι με όλα τα είδη προγραμμάτων από καθαρή περιέργεια. Τώρα έχω ειδικευτεί στην τεχνολογία υπολογιστών και στα βιντεοπαιχνίδια. Αυτό οφείλεται στο γεγονός ότι για περισσότερα από 5 χρόνια εργάζομαι γράφοντας για διάφορους ιστότοπους σχετικά με την τεχνολογία και τα βιντεοπαιχνίδια, δημιουργώντας άρθρα που επιδιώκουν να σας δώσουν τις πληροφορίες που χρειάζεστε σε μια γλώσσα κατανοητή από όλους.
Αν έχετε απορίες, οι γνώσεις μου κυμαίνονται από οτιδήποτε σχετίζεται με το λειτουργικό σύστημα Windows καθώς και με Android για κινητά τηλέφωνα. Και η δέσμευσή μου είναι απέναντί σας, είμαι πάντα πρόθυμος να αφιερώσω λίγα λεπτά και να σας βοηθήσω να επιλύσετε τυχόν απορίες που μπορεί να έχετε σε αυτόν τον κόσμο του Διαδικτύου.