- 공식적이고 가장 효과적인 업데이트 방법은 OllamaSetup.exe 설치 프로그램을 다시 실행하는 것입니다.
- 모델 저장 경로는 OLLAMA_MODELS 환경 변수를 사용하여 관리할 수 있습니다.
- 이 도구는 NVIDIA 및 AMD GPU와 호환되며, 최적의 성능을 위해서는 최신 드라이버가 필요합니다.
- 이를 통해 Llama 3과 같은 모델을 로컬에서 실행하고 외부 시각적 인터페이스를 통합할 수 있습니다.
인공지능 분야에 관심이 있다면 아마 Ollama를 이미 알고 계실 겁니다. Ollama는 오픈 소스 도구로, 인공지능을 활용하여 인공지능을 구현할 수 있도록 도와줍니다. 언어 모델 구축 클라우드에 의존하지 않고 자신의 컴퓨터에서 바로 사용할 수 있습니다. 무엇보다 가장 큰 장점은 매우 다재다능하여 NASA 슈퍼컴퓨터 수준의 고성능 PC가 없더라도 강력한 LLM을 실행할 수 있다는 것입니다. 물론, 사양이 낮은 하드웨어를 사용하는 경우 토큰 생성 속도는 다소 느려질 수 있습니다.
설치는 아주 간단하지만, 소프트웨어를 최신 상태로 유지하는 방법이나 업데이트 중에 발생하는 일반적인 오류를 해결하는 방법을 궁금해하실 때가 있습니다. 기술적인 문제에 얽매이지 않도록, 필요한 모든 정보를 담은 완벽한 가이드를 준비했습니다. Windows 시스템에서 Ollama를 실행하는 데 필요한 모든 정보.
Windows에서 Ollama를 올바르게 업데이트하는 방법
많은 사람들이 유명한 명령어를 포함한 리눅스 명령어를 사용하여 Ollama를 업데이트하려고 시도하는 실수를 저지릅니다. curl sh윈도우 터미널 내에서 실행하세요. 이렇게 하면 이전 버전이 정리되고 있다는 메시지가 표시될 수 있지만, 프로그램을 다시 시작하면 문제가 해결됩니다. 버전은 그대로 유지됩니다.이는 윈도우 설치 프로그램이 그런 방식으로 셸 스크립트를 사용하지 않기 때문에 발생합니다.
최신 상태를 유지하는 가장 간단하고 효과적인 방법은 파일을 다시 실행하는 것입니다. 올라마설정.exe이 설치 프로그램은 똑똑하게 작동하여 설정이나 이전에 다운로드한 모델을 삭제하지 않고 바이너리 업데이트를 처리합니다. 즉, 최신 모델에 대한 최신 개선 사항과 지원을 가장 빠르게 받을 수 있는 방법입니다.
수동 설치를 선호하거나 Ollama를 시스템 서비스로 통합해야 하는 경우, CLI와 종속성만 포함된 .zip 파일(ollama-windows-amd64.zip)이 있습니다. 이 파일은 업그레이드 시 필수적입니다. 오래된 디렉터리를 삭제합니다 파일 충돌을 방지하기 위해 새 파일의 압축을 풀기 전에.
시스템 요구 사항 및 하드웨어 최적화
모든 기능을 원활하게 사용하려면 Windows 10(버전 22H2 이상) Home 또는 Pro 버전이 필요합니다. 그래픽 카드 사양은 NVIDIA 및 AMD Radeon과 호환됩니다. NVIDIA 카드를 사용하는 경우, 다음 사항을 확인하십시오. 드라이버 551.61 이상AMD 사용자에게는 ROCm v7 또는 HIP7 드라이버 스택을 권장하지만, 하드웨어 호환성이 완벽하지 않은 경우 시스템은 일반적으로 대안으로 Vulkan을 사용합니다.
흥미로운 점은 다음과 같습니다. 일부 구형 Windows 10 터미널에서는 Ollama의 진행 문자가 다음과 같이 표시될 수 있습니다. 이상한 작은 사각형들 이는 유니코드 때문입니다. 만약 이런 현상이 발생한다면 당황하지 마시고, 터미널의 글꼴을 최신 글꼴로 변경하면 문제가 해결될 것입니다.
파일 관리 및 모델 위치
기본적으로 Ollama는 사용자 폴더에 설치되며 관리자 권한을 요구하지 않습니다. 하지만 언어 모델이 일부 공간을 차지할 수 있습니다. 수십 또는 수백 기가바이트그리고 C 드라이브의 용량이 금방 부족해질 가능성이 매우 높습니다. 시스템 오류를 방지하려면 이러한 파일이 저장되는 경로를 변경할 수 있습니다.
모델을 이동하려면 환경 변수를 생성해야 합니다. 오븐 모델 사용자 계정 설정에서 제어판 또는 설정으로 이동하여 환경 변수를 찾고 LLM 파일을 저장할 폴더의 경로를 지정하세요. 변경 사항을 적용하려면 시스템 트레이에서 애플리케이션을 닫고 다시 실행해야 합니다.
내부 작동 방식을 조사해야 하는 경우, 다음 명령어를 사용하여 로그에 접근할 수 있습니다. explorer %LOCALAPPDATA%\Ollama거기서 찾을 수 있을 겁니다 업그레이드.log 업데이트 진행 상황을 확인하려면 그래픽 인터페이스의 경우 app.log 파일을, 서버 프로세스의 경우 server.log 파일을 참조하십시오.
모델 활용 및 인터페이스 배포
업데이트가 완료되면 Llama 3, Phi 3, Mistral, Gemma와 같은 모델을 사용해 볼 수 있습니다. 모델을 다운로드하고 실행하려면 콘솔에 다음을 입력하세요. ollama run llama3중요한 조언 하나는 다음과 같습니다. 여유 공간을 두 배로 남겨두세요 디스크 용량과 설치하려는 모델의 용량을 비교하여 쓰기 오류를 방지하십시오.
명령 콘솔이 너무 기본적인 것처럼 느껴진다면, 다음을 설치할 수 있습니다. 웹 UI 열기 Docker를 사용하면 ChatGPT와 매우 유사한 시각적 인터페이스를 구현할 수 있어 로컬 모델과의 상호 작용이 훨씬 직관적이고 시각적으로 매력적이며 학습에도 도움이 됩니다. Open WebUI를 다른 사용자와 공유하는 방법 네트워크의 일부입니다.
또한 Ollamama는 여러분에게 다음과 같은 자유를 제공합니다. 나만의 LLM을 만들어보세요 맞춤형입니다. 즉, 여러 모델을 조합하거나 매개변수를 조정하여 AI가 원하는 대로 정확하게 작동하도록 시스템을 구성할 수 있으며, 외부 서버로 데이터를 전송하지 않아 개인 정보 보호를 항상 유지합니다.
Windows에서 Ollama를 업데이트하면 최신 GPU와의 호환성이 보장되고 응답 속도가 최적화되며 환경 변수를 사용하여 용량이 큰 모델의 위치를 관리할 수 있습니다. 또한 명령줄이나 Docker와 같은 외부 도구를 통해 유연한 인터페이스를 활용할 수 있습니다.
나는 그의 "괴짜" 관심을 직업으로 바꾼 기술 열광자입니다. 나는 10년 넘게 최첨단 기술을 사용하고 순수한 호기심으로 온갖 프로그램을 만지작거리며 살아왔습니다. 이제 저는 컴퓨터 기술과 비디오 게임을 전공했습니다. 왜냐하면 저는 5년 넘게 기술 및 비디오 게임에 관한 다양한 웹사이트에 글을 쓰고 모든 사람이 이해할 수 있는 언어로 필요한 정보를 제공하려는 기사를 작성해 왔기 때문입니다.
질문이 있으시면 제가 알고 있는 지식은 Windows 운영 체제는 물론 휴대폰용 Android까지 다양합니다. 그리고 저는 여러분을 위한 헌신을 하고 있습니다. 저는 항상 몇 분씩만 시간을 내어 이 인터넷 세계에서 여러분이 가질 수 있는 모든 질문을 해결하도록 도와드릴 의향이 있습니다.