- Официальный и наиболее эффективный способ обновления — повторный запуск установщика OllamaSetup.exe.
- Пути к хранилищу моделей можно управлять с помощью переменной среды OLLAMA_MODELS.
- Данная программа совместима с графическими процессорами NVIDIA и AMD, для оптимальной работы требуются обновленные драйверы.
- Это позволяет локально запускать такие модели, как Llama 3, и интегрировать внешние визуальные интерфейсы.
Если вас интересует мир искусственного интеллекта, вы, вероятно, уже знакомы с Ollama. Это инструмент с открытым исходным кодом, который позволяет вам... создание языковых моделей На собственном компьютере, без необходимости полагаться на облако. Самое главное, это невероятно универсально и позволяет запускать мощные LLM-программы, не требуя от вашего ПК суперкомпьютера NASA, хотя, конечно, при более скромном оборудовании генерация токенов будет немного медленнее.
Установка — проще простого, но иногда возникает вопрос, как поддерживать программное обеспечение в актуальном состоянии или как исправить распространенные ошибки при попытке обновления. Чтобы избавить вас от технических проблем, мы подготовили это подробное руководство, в котором расскажем обо всем, что вам нужно знать. Всё, что вам нужно знать, чтобы запустить Ollama на вашей системе Windows..
Как правильно обновить Ollama на Windows
Многие ошибочно пытаются обновить Ollama с помощью команд Linux, таких как известная команда `update`. curl shв терминале Windows. Если вы это сделаете, вы можете увидеть сообщения о том, что предыдущая версия удаляется, но после перезапуска программы... версия остаётся прежнейЭто происходит потому, что установщик Windows не работает с использованием скриптов оболочки таким образом.
Самый простой и эффективный способ оставаться в курсе событий — это запустить файл ещё раз. OllamaSetup.exeЭтот установщик работает интеллектуально и обновляет бинарные файлы без удаления ваших настроек или ранее загруженных моделей. По сути, это быстрый способ получить последние улучшения и поддержку для новейших моделей.
Если вы предпочитаете более ручную установку или вам необходимо интегрировать Ollama в качестве системной службы, существует .zip-файл (ollama-windows-amd64.zip), содержащий только CLI и зависимости. В этом случае он необходим при обновлении. удалить старые каталоги перед распаковкой новых файлов во избежание конфликтов между файлами.
Системные требования и оптимизация оборудования
Для бесперебойной работы вам потребуется Windows 10 (версия 22H2 или более поздняя), Home или Pro. Что касается графической мощности, Ollama совместима с видеокартами NVIDIA и AMD Radeon. Если у вас видеокарта NVIDIA, убедитесь, что она имеет... драйверы 551.61 или вышеПользователям AMD рекомендуется использовать драйверы ROCm v7 или HIP7, хотя в случае неполной совместимости оборудования система обычно переключается на Vulkan.
Обратите внимание на любопытную деталь: на некоторых старых терминалах с Windows 10 символы прогресса в Ollama могут отображаться как странные маленькие квадратики Это связано с кодировкой Unicode. Если у вас возникла такая проблема, не паникуйте, просто смените шрифт в терминале на более современный, и проблема исчезнет.
Управление файлами и расположение модели
По умолчанию Ollama устанавливается в папку пользователя и не запрашивает права администратора. Однако языковые модели могут занимать... десятки или сотни гигабайтИ весьма вероятно, что ваш диск C: быстро станет слишком мал. Чтобы предотвратить сбои системы, вы можете изменить путь сохранения этих файлов.
Для перемещения моделей необходимо создать переменную среды с именем МОДЕЛИ ДУХОВОК В настройках вашей учетной записи просто перейдите в Панель управления или Настройки, найдите Переменные среды и укажите путь к папке, где вы хотите хранить файлы LLM. После этого не забудьте закрыть приложение из системного трея и снова открыть его, чтобы изменения вступили в силу.
Если вам нужно выяснить, что происходит «под капотом», вы можете получить доступ к журналам с помощью команды. explorer %LOCALAPPDATA%\OllamaТам вы найдете upgrade.log Чтобы посмотреть, как прошли обновления, используйте файл app.log для отображения графического интерфейса и server.log для отображения процессов сервера.
Использование моделей и развертывание интерфейсов
После обновления вы сможете начать играть с такими моделями, как Llama 3, Phi 3, Mistral или Gemma. Чтобы загрузить и запустить одну из них, просто введите следующее в консоль. ollama run llama3Один важный совет: оставьте вдвое больше свободного пространства на диске, в зависимости от веса модели, которую вы хотите установить, чтобы избежать ошибок записи.
Если консоль командной строки кажется вам слишком простой, вы можете установить... Открыть веб-интерфейс Использование Docker. Это позволяет создать визуальный интерфейс, очень похожий на ChatGPT, что делает взаимодействие с локальными моделями гораздо более интуитивным и визуально привлекательным, а также способствует обучению. Как поделиться Open WebUI с другими пользователями вашей сети.
Кроме того, Ollamama предоставляет вам свободу... создайте свою собственную магистерскую программу (LLM). Индивидуальная настройка. Это означает, что вы можете настроить систему для комбинирования различных моделей или скорректировать параметры таким образом, чтобы ИИ вел себя именно так, как вы хотите, всегда сохраняя вашу конфиденциальность, не отправляя данные на внешние серверы.
Обновление Ollama для Windows обеспечивает совместимость с новейшими графическими процессорами, оптимизирует скорость отклика и позволяет управлять расположением ресурсоемких моделей с помощью переменных среды, при этом обеспечивая гибкий интерфейс как через команды, так и через внешние инструменты, такие как Docker.
Я энтузиаст технологий, который превратил свои «компьютерные» интересы в профессию. Я провел более 10 лет своей жизни, используя передовые технологии и возясь со всевозможными программами из чистого любопытства. Сейчас я специализируюсь на компьютерных технологиях и видеоиграх. Это потому, что более 5 лет я пишу статьи для различных сайтов, посвященных технологиям и видеоиграм, создавая статьи, которые стремятся дать вам необходимую информацию на понятном каждому языке.
Если у вас есть какие-либо вопросы, мои знания варьируются от всего, что связано с операционной системой Windows, а также Android для мобильных телефонов. И я предан вам, я всегда готов потратить несколько минут и помочь вам решить любые вопросы, которые могут у вас возникнуть в этом мире Интернета.