ಸ್ಥಳೀಯವಾಗಿ Windows 11 ನಲ್ಲಿ Qwen AI ಅನ್ನು ಹೇಗೆ ಸ್ಥಾಪಿಸುವುದು

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ ಇಂದಿನ ತಾಂತ್ರಿಕ ಕ್ಷೇತ್ರದಲ್ಲಿ ಅನಿವಾರ್ಯ ಸಾಧನವಾಗಿದೆ. ಕ್ವೆನ್ AI, ಅಭಿವೃದ್ಧಿಪಡಿಸಿದೆ ಅಲಿಬಾಬಾ ಗ್ರೂಪ್, ಅತ್ಯಂತ ನವೀನ ಮತ್ತು ಶಕ್ತಿಯುತ ಪರ್ಯಾಯಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ. ಅನೇಕ AI ಪರಿಹಾರಗಳಿಗೆ ಶಾಶ್ವತ ಇಂಟರ್ನೆಟ್ ಸಂಪರ್ಕದ ಅಗತ್ಯವಿದ್ದರೂ, Qwen AI ಅನ್ನು Windows 11 ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸಬಹುದು, ಬಳಕೆದಾರರ ನಿಯಂತ್ರಣ ಮತ್ತು ಗೌಪ್ಯತೆಯನ್ನು ಹೆಚ್ಚಿಸುವುದು.

ಮತ್ತು Qwen AI ಅನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಬಳಸುವುದರಿಂದ ಈ ಉಪಕರಣಕ್ಕೆ ನಿರಂತರ ಪ್ರವೇಶವನ್ನು ಸುಧಾರಿಸುತ್ತದೆ, ಆದರೆ ಕ್ಲೌಡ್ ಸೇವೆಗಳಿಗೆ ಸೂಕ್ಷ್ಮ ಡೇಟಾವನ್ನು ಬಹಿರಂಗಪಡಿಸುವ ಅಗತ್ಯವನ್ನು ನಿವಾರಿಸುತ್ತದೆ. ಪ್ರೋಗ್ರಾಮರ್‌ಗಳು, ಸಂಶೋಧಕರು ಮತ್ತು ಮುಂದುವರಿದ ಬಳಕೆದಾರರಿಗೆ ತಮ್ಮ ದೈನಂದಿನ ಜೀವನದಲ್ಲಿ ಹೆಚ್ಚಿನ ನಮ್ಯತೆಗಾಗಿ ಈ ವಿಧಾನವು ಸೂಕ್ತವಾಗಿದೆ. ಮುಂದೆ, ನಾವು ಒಡೆಯುತ್ತೇವೆ ನೀವು ತಿಳಿದುಕೊಳ್ಳಬೇಕಾದದ್ದು Qwen AI ಅನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಸ್ಥಾಪಿಸಲು ಮತ್ತು ಬಳಸಲು ಪ್ರಾರಂಭಿಸಲು.

ನಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಸ್ಥಳೀಯವಾಗಿ Qwen AI ಅನ್ನು ಸ್ಥಾಪಿಸುವ ಅಗತ್ಯತೆಗಳು

ನೀವು ಪ್ರಾರಂಭಿಸುವ ಮೊದಲು, ನಿಮಗೆ ಅಗತ್ಯವಿದೆ Qwen AI ಅನ್ನು ಚಲಾಯಿಸಲು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್ ಅಗತ್ಯ ಅವಶ್ಯಕತೆಗಳನ್ನು ಪೂರೈಸುತ್ತದೆ ಎಂದು ಪರಿಶೀಲಿಸಿ.

• ಪ್ಯಾರಾ ಸಣ್ಣ ಮಾದರಿಗಳು: ಕಡಿಮೆ ಇರುವಂತಹ ಮಾದರಿಗಳಲ್ಲಿ 4 ಒಂದು ಬಿಲಿಯನ್ ನಿಯತಾಂಕಗಳ, ಕನಿಷ್ಠ ಒಂದು ಕಂಪ್ಯೂಟರ್ RAM ನ 16 GB ಮತ್ತು ಶಕ್ತಿಯುತ GPU ಇಲ್ಲದೆ ಇದು ಸಾಕಷ್ಟು ಇರಬಹುದು.
• ಪ್ಯಾರಾ ಹೆಚ್ಚು ಸುಧಾರಿತ ಮಾದರಿಗಳು: 20 ಅಥವಾ ಅದಕ್ಕಿಂತ ಹೆಚ್ಚಿನ ಶತಕೋಟಿ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವಂತಹ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯದ ಮಾದರಿಗಳಲ್ಲಿ, ಬಹು ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್‌ಗಳನ್ನು ಹೊಂದಿರುವ ಉನ್ನತ-ಕಾರ್ಯಕ್ಷಮತೆಯ ಕಂಪ್ಯೂಟರ್ ಅಗತ್ಯವಾಗುತ್ತದೆ. ಆರ್ಟಿಎಕ್ಸ್ ಮತ್ತು ಅವುಗಳಿಗಿಂತ ಉತ್ತಮವಾದ ಸ್ಮರಣೆ RAM ನ 64 GB.

ದಿ ಹಾರ್ಡ್‌ವೇರ್ ಸಂಪನ್ಮೂಲಗಳು ನೀವು ಸ್ಥಾಪಿಸಲು ಬಯಸುವ ನಿರ್ದಿಷ್ಟ ಮಾದರಿಯನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ. ಹಗುರವಾದ ಮಾದರಿಗಳು ಹಾಗೆ Qwen2.5-0.5b ಮೂಲಭೂತ ಕಾರ್ಯಗಳಿಗೆ ಸೂಕ್ತವಾಗಿದೆ, ಆದರೆ ಹೆಚ್ಚು ಸುಧಾರಿತ ಆವೃತ್ತಿಗಳು ಹಾಗೆ Qwen2.5-7b ಹೆಚ್ಚು ದೃಢವಾದ ಸಂರಚನೆಗಳ ಅಗತ್ಯವಿದೆ. ಯಾವ ಮಾದರಿಯನ್ನು ಸ್ಥಾಪಿಸಬೇಕೆಂದು ನಿರ್ಧರಿಸುವ ಮೊದಲು ನಿಮ್ಮ ಸಾಧನವನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು ಮುಖ್ಯ.

ಅಗತ್ಯ ಉಪಕರಣಗಳನ್ನು ಸ್ಥಾಪಿಸುವುದು

Qwen AI ಅನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸಲು, ನೀವು ಎರಡು ಪ್ರಮುಖ ಸಾಧನಗಳನ್ನು ಸ್ಥಾಪಿಸಬೇಕಾಗಿದೆ: ಒಲ್ಲಮಾ y ಡಾಕರ್. ಕೆಳಗೆ ನಾವು ಪ್ರಕ್ರಿಯೆಯನ್ನು ವಿವರವಾಗಿ ವಿವರಿಸುತ್ತೇವೆ:

• ಒಲ್ಲಮ: ಈ ಉಚಿತ ಮತ್ತು ಮುಕ್ತ ಮೂಲ ಉಪಕರಣವು ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ನೇರವಾಗಿ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಚಲಾಯಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಮಾಡಬಹುದು ಅದನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಿ ನಿಮ್ಮ ಅಧಿಕೃತ ವೆಬ್‌ಸೈಟ್, ವಿಂಡೋಸ್‌ಗೆ ಹೊಂದಿಕೆಯಾಗುವ ಆವೃತ್ತಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು ಸ್ಥಾಪಕ ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಿ.
• ಡಾಕರ್: ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ಪರಿಣಾಮಕಾರಿಯಾಗಿ ಚಲಾಯಿಸಲು ಕಂಟೈನರ್‌ಗಳನ್ನು ರಚಿಸಲು ಡಾಕರ್ ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಇದನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಿ ಅದರ ಅಧಿಕೃತ ಪುಟ, ಖಾತೆಯನ್ನು ರಚಿಸಿ ಮತ್ತು ನಿಮ್ಮ ಸಿಸ್ಟಂನಲ್ಲಿ ಅನುಸ್ಥಾಪನ ಹಂತಗಳನ್ನು ಅನುಸರಿಸಿ.

Qwen AI ಮಾದರಿಯನ್ನು ಹೇಗೆ ಸ್ಥಾಪಿಸುವುದು

ಒಲ್ಲಮಾ ಮತ್ತು ಡಾಕರ್ ಅನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡುವುದರೊಂದಿಗೆ, Qwen AI ಮಾದರಿಯನ್ನು ಸ್ಥಾಪಿಸುವುದು ಮುಂದಿನ ಹಂತವಾಗಿದೆ. ಅಧಿಕೃತ Ollama ವೆಬ್‌ಸೈಟ್‌ನಿಂದ, ಪ್ರವೇಶಿಸಿ ಮಾದರಿಗಳ ವಿಭಾಗ ಮತ್ತು ನೀವು ಬಳಸಲು ಬಯಸುವ ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ. ಉದಾಹರಣೆಗೆ, ನೀವು 2.5b ಪ್ಯಾರಾಮೀಟರ್‌ನೊಂದಿಗೆ Qwen0.5 ಅನ್ನು ಸ್ಥಾಪಿಸಲು ನಿರ್ಧರಿಸಿದರೆ, ವೆಬ್‌ಸೈಟ್‌ನಲ್ಲಿ ಸೂಚಿಸಲಾದ ಅನುಗುಣವಾದ ಆಜ್ಞೆಯನ್ನು ಬಳಸಿ.

ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್‌ನಲ್ಲಿ ಕಮಾಂಡ್ ಟರ್ಮಿನಲ್ (CMD) ತೆರೆಯಿರಿ, ಆಜ್ಞೆಯನ್ನು ಅಂಟಿಸಿ ಮತ್ತು ಒತ್ತಿರಿ ನಮೂದಿಸಿ. ಮಾದರಿಯ ಗಾತ್ರ ಮತ್ತು ನಿಮ್ಮ ಸಂಪರ್ಕದ ವೇಗವನ್ನು ಅವಲಂಬಿಸಿ ಪ್ರಕ್ರಿಯೆಯು ಹಲವಾರು ನಿಮಿಷಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಬಹುದು. ಒಮ್ಮೆ ಪೂರ್ಣಗೊಂಡ ನಂತರ, ನಿರ್ದಿಷ್ಟ ರನ್ ಆಜ್ಞೆಯೊಂದಿಗೆ ಟರ್ಮಿನಲ್‌ನಿಂದ ನೇರವಾಗಿ ಪ್ರಶ್ನೆಗಳನ್ನು ಪ್ರಾರಂಭಿಸಲು ನಿಮಗೆ ಸಾಧ್ಯವಾಗುತ್ತದೆ.

ಚಿತ್ರಾತ್ಮಕ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾಗುತ್ತಿದೆ

ಆದ್ಯತೆ ನೀಡುವವರಿಗೆ ಎ ಹೆಚ್ಚು ದೃಶ್ಯ ಅನುಭವ, ಡಾಕರ್ ಅನ್ನು ಬಳಸಿಕೊಂಡು ವೆಬ್ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಸ್ಥಾಪಿಸಲು ಸಾಧ್ಯವಿದೆ. CMD ಯಲ್ಲಿ ಕೆಳಗಿನ ಆಜ್ಞೆಯನ್ನು ಚಲಾಯಿಸಿ ಡಾಕರ್‌ನಲ್ಲಿ ಕಂಟೇನರ್ ರಚಿಸಲು:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

ಈ ಕಂಟೇನರ್ ನಿಮ್ಮ ಬ್ರೌಸರ್‌ನಲ್ಲಿ ಬಳಕೆದಾರ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ತೆರೆಯುತ್ತದೆ, ನಲ್ಲಿ ಪ್ರವೇಶಿಸಬಹುದು ಪೋರ್ಟ್ 3000. ಇಲ್ಲಿ ನೀವು ನಿಮ್ಮ AI ಮಾದರಿಗಳನ್ನು ನಿರ್ವಹಿಸಬಹುದು, ಸಂಭಾಷಣೆಗಳನ್ನು ಪ್ರಾರಂಭಿಸಬಹುದು ಮತ್ತು ಚಾಟ್ ಇತಿಹಾಸಗಳನ್ನು ಉಳಿಸಬಹುದು.

ಹೆಚ್ಚುವರಿ ಬೆಂಬಲಿತ ಮಾದರಿಗಳು

Qwen AI ಜೊತೆಗೆ, Ollama ಮತ್ತು Docker ನಂತಹ ಇತರ ಮಾದರಿಗಳ ಸ್ಥಾಪನೆಯನ್ನು ಅನುಮತಿಸುತ್ತದೆ ಲಾಮಾ, ಮಿಸ್ಟ್ರಲ್ y ಡೀಪ್‌ಸೀಕ್. ಪ್ರತಿಯೊಂದೂ ತನ್ನದೇ ಆದ ವೈಶಿಷ್ಟ್ಯಗಳು ಮತ್ತು ಪ್ರಯೋಜನಗಳನ್ನು ಹೊಂದಿದೆ, ಆದ್ದರಿಂದ ನಿಮ್ಮ ನಿರ್ದಿಷ್ಟ ಅಗತ್ಯಗಳನ್ನು ಅವಲಂಬಿಸಿ ನೀವು ಹೊಸ ಆಯ್ಕೆಗಳನ್ನು ಅನ್ವೇಷಿಸಬಹುದು.

ಹೆಚ್ಚುವರಿ ಮಾದರಿಗಳನ್ನು ರನ್ ಮಾಡುವುದರಿಂದ ನಿಮ್ಮ ಸಿಸ್ಟಮ್‌ನ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ವಿಸ್ತರಿಸುತ್ತದೆ, ಇದು ನಿಮಗೆ ನಿರ್ವಹಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ ಬಾಹ್ಯ ಸೇವೆಗಳನ್ನು ಅವಲಂಬಿಸದೆ ಹೆಚ್ಚು ಸಂಕೀರ್ಣವಾದ ವಿಶ್ಲೇಷಣೆಗಳು ಮತ್ತು ಸುಧಾರಿತ ಕಾರ್ಯಗಳು.

ಇಂಟರ್ನೆಟ್ ಅಥವಾ ಬಾಹ್ಯ ಸರ್ವರ್‌ಗಳನ್ನು ಅವಲಂಬಿಸದೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಹೆಚ್ಚು ಮಾಡಲು ಬಯಸುವವರಿಗೆ ಸ್ಥಳೀಯವಾಗಿ Qwen AI ಅನ್ನು ಚಾಲನೆ ಮಾಡುವುದು ಪ್ರಬಲ ಪರಿಹಾರವನ್ನು ನೀಡುತ್ತದೆ. ಈ ಪ್ರಕ್ರಿಯೆಯು ಹೆಚ್ಚಿನ ಗೌಪ್ಯತೆಯನ್ನು ಖಾತರಿಪಡಿಸುತ್ತದೆ, ಆದರೆ ಸಹ ಪ್ರತಿ ಬಳಕೆದಾರರ ನಿರ್ದಿಷ್ಟ ಅಗತ್ಯಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ಮಾದರಿಗಳ ಬಳಕೆಯನ್ನು ಕಸ್ಟಮೈಸ್ ಮಾಡಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ.

ಇದಕ್ಕೆ ಕೆಲವು ತಾಂತ್ರಿಕ ಜ್ಞಾನದ ಅಗತ್ಯವಿದ್ದರೂ, ಫಲಿತಾಂಶಗಳು ಯೋಗ್ಯವಾಗಿವೆ ಈ ಕ್ರಾಂತಿಕಾರಿ ತಂತ್ರಜ್ಞಾನದ ಲಾಭ ಪಡೆಯಲು ಬಯಸುವವರಿಗೆ.