- השיטה הרשמית והיעילה ביותר לעדכון היא להפעיל שוב את מתקין OllamaSetup.exe.
- ניתן לנהל נתיבי אחסון מודלים באמצעות משתנה הסביבה OLLAMA_MODELS.
- הכלי תואם למעבדי GPU של NVIDIA ו-AMD, ודורש מנהלי התקנים מעודכנים לקבלת ביצועים אופטימליים.
- זה מאפשר ביצוע מקומי של מודלים כמו Llama 3 ושילוב של ממשקים ויזואליים חיצוניים.
אם אתם מתעניינים בעולם הבינה המלאכותית, אתם כנראה כבר מכירים את אולמה. זהו כלי קוד פתוח שמאפשר לכם... בניית מודלים של שפה במחשב שלכם מבלי שתצטרכו להסתמך על הענן. והכי חשוב, זה סופר רב-תכליתי ומאפשר לכם להריץ LLMs רבי עוצמה מבלי שהמחשב שלכם יצטרך להיות מחשב-על של נאס"א, אם כי כמובן, אם יש לכם חומרה צנועה יותר, יצירת אסימונים תהיה מעט איטית יותר.
ההתקנה היא קלי קלות, אבל לפעמים אתם תוהים איך לשמור על התוכנה מעודכנת או איך לתקן את השגיאות הנפוצות כשמנסים לעדכן. כדי לחסוך לכם תקיעה בבעיות טכניות, הכנו את המדריך המלא הזה שבו נספר לכם כל מה שאתם צריכים לדעת. כל מה שצריך לדעת כדי לגרום לאולמה לעבוד על מערכת ההפעלה Windows שלכם.
כיצד לעדכן את Ollama ב-Windows בצורה נכונה
אנשים רבים עושים את הטעות של ניסיון לעדכן את Ollama באמצעות פקודות לינוקס, כמו המפורסמת curl shבתוך מסוף Windows. אם תעשה זאת, ייתכן שתראה הודעות המציינות שהגרסה הקודמת מנוקה, אך כאשר תפעיל מחדש את התוכנית, הגרסה נשארת זההזה קורה מכיוון שמתקין Windows אינו פועל באמצעות סקריפטי מעטפת בצורה זו.
הדרך הפשוטה והיעילה ביותר להישאר מעודכנים היא להפעיל את הקובץ שוב. OllamaSetup.exeמתקין זה חכם ומטפל בעדכון הקבצים הבינאריים מבלי למחוק את ההגדרות שלך או מודלים שהורדת בעבר. בעיקרו של דבר, זהו המסלול המהיר לקבלת השיפורים והתמיכה האחרונים עבור הדגמים החדשים ביותר.
אם אתם מעדיפים התקנה ידנית יותר או צריכים לשלב את Ollama כשירות מערכת, יש קובץ .zip (ollama-windows-amd64.zip) המכיל רק את ממשק שורת הפקודה (CLI) והתלויות. במקרה זה, זה חיוני אם אתם משדרגים. מחיקת ספריות ישנות לפני פירוק הדחיסה של החדשים כדי למנוע התנגשויות קבצים.
דרישות מערכת ואופטימיזציה של חומרה
כדי שהכל יפעל בצורה חלקה, אתם צריכים Windows 10 (גרסה 22H2 ואילך), Home או Pro. מבחינת עוצמת הגרפיקה, Ollama תואם ל-NVIDIA ול-AMD Radeon. אם יש לכם כרטיס NVIDIA, ודאו שיש לכם את... נהגים 551.61 ומעלהעבור משתמשי AMD, מומלץ להשתמש בערכת הדרייברים ROCm v7 או HIP7, אם כי בדרך כלל המערכת פונה ל-Vulkan כחלופה אם החומרה אינה תואמת במלואה.
שימו לב לפרט המוזר הזה: בכמה מסופי Windows 10 ישנים יותר, תווי ההתקדמות של Ollama עשויים להופיע כ- ריבועים קטנים ומשונים זה נובע מיוניקוד. אם זה קורה לכם, אל תיבהלו, פשוט שנו את הגופן של הטרמינל שלכם לגופן מודרני יותר והבעיה תיעלם.
ניהול קבצים ומיקום מודל
כברירת מחדל, Ollama מותקן בתיקיית המשתמש שלך ואינו מבקש הרשאות מנהל. עם זאת, מודלים של שפות עשויים לתפוס את... עשרות או מאות ג'יגה-בייטוסביר מאוד שכונן C: שלך יהפוך במהירות לקטן מדי. כדי למנוע קריסת המערכת, תוכל לשנות את הנתיב שבו נשמרים קבצים אלה.
כדי להעביר את המודלים, עליך ליצור משתנה סביבה בשם דגמי_תנור בהגדרות חשבון המשתמש שלך, פשוט עבור אל לוח הבקרה או הגדרות, מצא משתני סביבה והקצה את הנתיב לתיקייה שבה ברצונך לאחסן את קבצי ה-LLM. לאחר מכן, זכור לסגור את היישום ממגש המערכת ולפתוח אותו מחדש כדי שהשינויים ייכנסו לתוקף.
אם אתם צריכים לחקור מה קורה מתחת למכסה המנוע, תוכלו לגשת ליומנים באמצעות הפקודה explorer %LOCALAPPDATA%\Ollamaשם תמצאו את ה upgrade.log כדי לראות כיצד התקדמות העדכונים, השתמש ב-app.log עבור הממשק הגרפי וב-server.log עבור תהליכי השרת.
שימוש במודלים ופריסה של ממשקים
לאחר העדכון, תוכלו להתחיל לשחק עם מודלים כמו Llama 3, Phi 3, Mistral או Gemma. כדי להוריד ולהפעיל אחד, פשוט הקלידו את הפרטים הבאים בקונסולה. ollama run llama3עצה חשובה אחת היא להשאיר פי שניים מקום פנוי בדיסק בהשוואה למשקל הדגם שברצונך להתקין כדי למנוע שגיאות כתיבה.
אם קונסולת הפקודות נראית לכם בסיסית מדי, תוכלו להתקין פתח את ממשק המשתמש של האינטרנט באמצעות Docker. זה מאפשר לך ממשק ויזואלי דומה מאוד לזה של ChatGPT, מה שהופך את האינטראקציה עם המודלים המקומיים שלך לאינטואיטיבית ומושכת ויזואלית הרבה יותר, ואפילו ללמידה. כיצד לשתף את Open WebUI עם משתמשים אחרים של הרשת שלך.
יתר על כן, Ollamama מעניקה לך את החופש ל צור תואר שני משלך מותאם אישית. משמעות הדבר היא שתוכלו להגדיר את המערכת לשלב מודלים שונים או להתאים את הפרמטרים כך שהבינה המלאכותית תתנהג בדיוק כפי שאתם רוצים, תוך שמירה על פרטיותכם על ידי אי שליחת נתונים לשרתים חיצוניים.
עדכון Ollama ב-Windows מבטיח תאימות עם ה-GPU העדכניים ביותר, מייעל את מהירות התגובה ומאפשר לך לנהל את מיקום המודלים הכבדים באמצעות משתני סביבה, והכל תוך כדי הנאה מממשק גמיש בין אם באמצעות פקודות או כלים חיצוניים כמו Docker.
אני חובב טכנולוגיה שהפך את תחומי העניין ה"חנון" שלו למקצוע. ביליתי יותר מ-10 שנים מחיי בטכנולוגיה מתקדמת והתעסקות עם כל מיני תוכניות מתוך סקרנות טהורה. עכשיו התמחיתי בטכנולוגיית מחשבים ומשחקי וידאו. הסיבה לכך היא שכבר יותר מ-5 שנים אני כותב לאתרים שונים בנושאי טכנולוגיה ומשחקי וידאו, ויוצר מאמרים המבקשים לתת לכם את המידע הדרוש לכם בשפה מובנת לכולם.
אם יש לך שאלות, הידע שלי נע מכל מה שקשור למערכת ההפעלה Windows וכן אנדרואיד לטלפונים ניידים. והמחויבות שלי היא אליך, אני תמיד מוכן להקדיש כמה דקות ולעזור לך לפתור כל שאלה שיש לך בעולם האינטרנט הזה.