څنګه خپل کمپیوټر د ځایی مصنوعي ذهانت مرکز په توګه وکاروئ: یو عملي او پرتلیزه لارښود

¿څنګه خپل کمپیوټر د ځایي مصنوعي ذهانت مرکز په توګه وکاروئ؟ مصنوعي استخبارات نور د لویو شرکتونو یا کلاوډ متخصصینو ځانګړې ساحه نه ده. ډېر او ډېر کاروونکي د خپلو شخصي کمپیوټرونو څخه د AI حلونو څخه په مستقیم ډول ګټه پورته کولو په لټه کې دي ترڅو د متن تولید څخه نیولې تر تخلیقي یا تخنیکي پروسو اتومات کولو پورې دندې ترسره کړي، ټول د اعظمي محرمیت سره او پرته له دې چې په بهرني سرورونو تکیه وکړي. خپل کمپیوټر په محلي مصنوعي ذهانت مرکز بدل کړئ دا یو ارزانه واقعیت دی او تقریبا د هر لیوال، مسلکي یا زده کونکي په لاس کې دی، حتی که ستاسو تجهیزات عصري نه وي.

پدې مقاله کې، تاسو به ومومئ چې څنګه خپل کمپیوټر د خپل مصنوعي ذهانت ایکوسیستم په زړه بدل کړئ. موږ به د سافټویر خورا وړاندیز شوي بدیلونه، د هارډویر، ماډلونو او ځانګړتیاو په اړه کلیدي ملاحظات، او د محرمیت او شخصي کولو دواړو شرایطو کې د محلي مصنوعي ذهانت سره د کار کولو ګټې وګورو. برسېره پردې، زه به تاسو ته د LLM ماډلونو، ایپسونو او سرچینو غوره کولو، نصبولو او ډیره ګټه پورته کولو، د غوره پروګرامونو پرتله کولو او ستاسو د AI تجربه اسانه او خوندي کولو لپاره لارښوونې وړاندې کولو کې لارښوونه وکړم، که په وینډوز، میک، یا لینکس کې وي.

ولې خپل کمپیوټر د ځایي مصنوعي ذهانت مرکز په توګه وکاروئ؟

ستاسو کمپیوټر د مرکزي مصنوعي ذهانت پلیټ فارم په توګه کارول هغه ګټې وړاندې کوي چې د کلاوډ خدماتو سره سمون نه خوري. یو له خورا مهم دلیلونو څخه محرمیت دی: کله چې تاسو په کلاوډ کې د چیټ بوټونو سره اړیکه ونیسئ، ستاسو معلومات او غوښتنې د دریمې ډلې سرورونو کې زیرمه کیږي او که څه هم شرکتونه امنیتي تدابیر پلي کوي، تل د لیکیدو یا ناوړه ګټې اخیستنې خطر شتون لري. په محلي کچه د معلوماتو پروسس کول پدې معنی دي چې تاسو په خپل معلوماتو بشپړ کنټرول لرئ. بل څوک ستاسو پوښتنو، ځوابونو، یا فایلونو ته لاسرسی نلري.

بله لویه ګټه د انټرنیټ اتصال اړتیاو نشتوالی دی. د ان پریمیسس سیسټم سره، تاسو کولی شئ د مصنوعي ذهانت ځانګړتیاو څخه خوند واخلئ حتی که تاسو بې ثباته اړیکه ولرئ، په داسې سیمه کې ژوند وکړئ چې پوښښ یې کمزوری وي، یا په ساده ډول غواړئ د امنیتي دلایلو له امله آفلاین کار وکړئ. سربیره پردې، دودیز کول خورا لوی دي: تاسو کولی شئ هغه ماډل غوره کړئ چې ستاسو لپاره غوره وي، د خپلو اړتیاو سره سم یې تنظیم کړئ، او هر پیرامیټر ښه تنظیم کړئ - هغه څه چې د کنډ شوي کلاوډ خدماتو سره په ندرت سره امکان لري.

اقتصادي اړخ هم کم مهم نه دی. که څه هم د کلاوډ خدمتونه وړیا نسخې وړاندې کوي، پرمختللي کارول ګډونونه، د ټوکن تادیات، یا د سرچینو مصرف شامل دي. کله چې په محلي توګه کار کوئ، یوازینۍ حد ستاسو د هارډویر ظرفیت دی.

د پیل کولو لپاره څه ته اړتیا لرئ؟ هارډویر او اساسي اړتیاوې

دا عمومي مفکوره چې د مصنوعي ذهانت سره کار کول عصري کمپیوټرونو یا خورا پیاوړي GPUs ته اړتیا لري اوس د تیرو وختونو خبره ده. د ژبې اوسني ماډلونه په کور کمپیوټرونو کې د چلولو لپاره غوره شوي دي، او ډیری یې، په ځانګړې توګه کوانټائز شوي، حتی د وقف شوي ګرافیک کارت پرته هم چلیدلی شي، یوازې د CPU په کارولو سره.

د اسانه عملیاتو او خوندورې تجربې لپاره، سپارښتنه کیږي چې لږترلږه 8-16 GB RAM ولرئ. او یو مناسب عصري پروسیسر (د شپږم نسل څخه وروسته کور i5 یا i7، یا د Ryzen معادل). که تاسو د لویو ماډلونو سره کار کوئ یا ګړندي فعالیت غواړئ، د 4GB VRAM سره GPU توپیر رامینځته کوي، په ځانګړي توګه د عکس تولید یا ډیر اوږد متن ځوابونو په څیر دندو لپاره.

په میک کې، د ایپل M1 چپس او لوړ هم د ډیر ښه غبرګون وختونو سره د محلي LLM ماډلونو ملاتړ کوي. په لنډه توګه، که ستاسو کمپیوټر یا لیپ ټاپ له اوو کلونو څخه کم عمر ولري، نو تاسو شاید د محلي مصنوعي ذهانت سره تجربه پیل کړئ.

ستاسو کمپیوټر د مصنوعي ذهانت په یوه محلي مرکز بدلولو لپاره کومو اپلیکیشنونو او پلیټ فارمونو ته اړتیا ده؟

ستاسو د محلي مصنوعي ذهانت سیسټم زړه هغه ځانګړي غوښتنلیکونه دي چې ستاسو د هارډویر او مصنوعي ذهانت ماډلونو ترمنځ واټن کموي. د کارولو اسانتیا، ځواک او انعطاف لپاره د خورا مشهورو څخه، دا د یادونې وړ ده:

• GPT4All: یو له خورا مشهور او دوستانه انتخابونو څخه. دا تاسو ته اجازه درکوي چې د ژبې ډیری ماډلونه ډاونلوډ او نصب کړئ، ورسره اړیکه ونیسئ، او مختلف پیرامیټرې تنظیم کړئ. دا کراس پلیټ فارم دی (وینډوز، ماک، او لینکس) او د نصبولو پروسه یې د نورو ډیسټاپ پروګرامونو په څیر ساده ده.
• جان اې: دا د خپل عصري انٹرفیس، د خبرو اترو د تنظیم کولو وړتیا، او د محلي او لرې پرتو ماډلونو سره د هغې مطابقت (د مثال په توګه، د API له لارې د OpenAI څخه) لپاره ځانګړی دی. سربیره پردې، دا خپل محلي API وړاندې کوي چې د OpenAI تقلید کوي، جان ته اجازه ورکوي چې د AI بیک انډ په توګه په نورو غوښتنلیکونو کې مدغم شي چې د ChatGPT API کیلي ته اړتیا لري، مګر پرته له دې چې په انټرنیټ تکیه وکړي.
• Llama.cpp او LM سټوډیو: دا وسایل تاسو ته اجازه درکوي چې په محلي توګه د LLM ماډلونه پرمخ بوځي او د هګینګ فیس او نورو زیرمو څخه د ماډلونو جامع کتابتون ته لاسرسی چمتو کړئ.

اساسي کړنلاره معمولا په لاندې ډول ده: غوره شوی اپلیکیشن د هغې له رسمي ویب پاڼې څخه ډاونلوډ کړئ، په خپل سیسټم کې یې نصب کړئ، او د شته ټیمپلیټونو ګالري وګورئ (ډیری وختونه د "هب" یا ورته ورته ویل کیږي). هلته تاسو کولی شئ هغه ماډل غوره کړئ چې تاسو یې غواړئ، د هغې اندازه او د حافظې اړتیاوې وګورئ، او هرڅه پخپله د انٹرفیس څخه ډاونلوډ کړئ.

په محلي کچه د نصبولو لپاره غوره AI ماډلونه

د خلاصې سرچینې LLM ماډلونو نړۍ پراخه او په دوامداره توګه وده کوي. د هغو پرته چې د OpenAI لخوا وړاندیز شوي (کوم چې د کلاوډ اتصال ته اړتیا لري)، ډیری بدیلونه شتون لري چې په محلي توګه کار کولو لپاره چمتو دي: Mistral 7B، TinyLlama Chat، Nous Hermes 2، Mixol 8X 7B، او نور. ډیری دا ماډلونه کوانټائز شوي دي، پدې معنی چې دوی لږ ځای نیسي او د لږ دقت قرباني کولو په لګښت کې لږ RAM ته اړتیا لري.

د پیل کونکو لپاره کوچني او منځني ماډلونه، لکه Mistro Instruct 7B یا TinyLlama Chat، سپارښتنه کیږي، ځکه چې دوی په چټکۍ سره خارجیږي او سیسټم ډیر نه باروي. که ستاسو کمپیوټر ډیر RAM او د ذخیره کولو ځای ولري، د مکسول 8X 7B په څیر نور بشپړ ماډلونه هڅه وکړئ، پدې پوهیدل چې، د مثال په توګه، دا یوازې د ماډل لپاره تر 26 GB پورې د ډیسک ځای ته اړتیا لري.

په نږدې ټولو غوښتنلیکونو کې تاسو کولی شئ ماډلونه د دوی د اندازې، اصلي ژبې، جوازونو یا د هغه دندو ډول پراساس فلټر کړئ چې دوی یې روزل شوي دي. (د متن لیکل، د کوډ جوړول، ژباړه، او نور). څومره چې د ماډل هدف ډېر مشخص وي، هومره به یې پایلې ډېرې دقیقې وي.

د ځایی AI نصبولو او کارولو لپاره ګام په ګام پروسه

1. اپلیکیشن ډاونلوډ او نصب کړئ: د خپلې خوښې وسیلې رسمي ویب پاڼې ته لاړ شئ (د مثال په توګه، GPT4All یا Jan AI)، د خپل عملیاتي سیسټم لپاره انسټالر ډاونلوډ کړئ، او په سکرین کې ښودل شوي ګامونه تعقیب کړئ. په وینډوز کې، دا معمولا یو کلاسیک جادوګر وي؛ په میک کې، ممکن د M1/M2 پروسیسر لرونکو کمپیوټرونو لپاره د روزیټا فعالولو ته اړتیا وي؛ په لینکس کې، تاسو به د DEB یا AppImage کڅوړې شتون ولرئ.

۲. د AI ماډلونه وپلټئ او ډاونلوډ کړئ: کله چې تاسو اپلیکیشن خلاص کړئ، د ماډل اکسپلورر ته لاسرسی ومومئ (په GPT4 کې ټول دا "د کشف ماډل ځای" دی، په جنوري AI کې، "هب"). فلټر کړئ، ځانګړتیاوې بیاکتنه وکړئ، او کله چې تاسو هغه ماډل ومومئ چې تاسو ته خورا خوښوي، نو "ډاونلوډ" کلیک وکړئ. تاسو ته به د دوام ورکولو دمخه د اندازې او اړتیاو په اړه خبر درکړل شي.

۳. انتخاب او لومړی اجرا: کله چې ټیمپلیټ ډاونلوډ شي، نو په اپلیکیشن کې یې غوره کړئ او نوې خبرې اترې یا دنده پیل کړئ. خپله پوښتنه یا غوښتنه ولیکئ او د ځواب انتظار وکړئ. که تاسو ورو غبرګونونه وګورئ، د سپکو ماډلونو کارولو هڅه وکړئ یا ترتیبات تنظیم کړئ.

۴. پیرامیټرې تنظیم کړئ او تجربه وکړئ: په ډیری پروګرامونو کې تاسو کولی شئ د ټوکنونو اعظمي شمیر (کوم چې د ځوابونو اوږدوالی محدودوي)، او همدارنګه نور توضیحات لکه تودوخه، top_p، او نور تعدیل کړئ. مختلف ترتیبات هڅه وکړئ تر هغه چې تاسو د سرعت او د پایلو کیفیت ترمنځ توازن ومومئ چې ستاسو لپاره کار کوي.

۵. تارونه تنظیم او تنظیم کړئ: ډیری پروګرامونه تاسو ته اجازه درکوي چې د مختلفو نومونو او موخو سره د خبرو اترو تارونه جوړ کړئ (د ویډیو نظرونه، تخلیقي لیکنه، د کوډ کولو سره مرسته، او نور)، او تاسو کولی شئ د هرې تار لپاره دودیز لارښوونې هم خوندي کړئ، کوم چې تعامل ساده کوي.

د سرچینو مدیریت او د فعالیت اصلاح کول

د محلي مصنوعي ذهانت اصلي محدودیت هارډویر دی: کله چې ماډل ستاسو د RAM لپاره ډیر لوی وي، نو ورو کېدل، ټکرونه، یا حتی د اجرا کولو غلطۍ ممکن رامنځته شي. غوره ایپسونه مخکې له مخکې خبرداری ورکوي کله چې تاسو داسې ماډل غوره کوئ چې ستاسو د وسیلې لپاره ډیر دروند وي.

جان اې آی د سکرین پر سرچینو مانیټر مدغم کولو سره غوره والی لري کوم چې تاسو ته په ریښتیني وخت کې د RAM، CPU او پروسس سرعت (په ثانیه کې ټوکنونه) مصرف ښیې. په دې توګه، تاسو تل پوهیدلی شئ چې ستاسو ټیم په خپل حد کې دی یا تاسو لاهم کولی شئ له هغې څخه ډیر څه وباسئ.

که ستاسو کمپیوټر د Nvidia ګرافیک کارت ولري او تاسو غواړئ له هغې څخه ګټه پورته کړئ، ځینې ​​غوښتنلیکونه د CUDA په نصبولو سره د GPU سرعت ته اجازه ورکوي. دا کولی شي په درنو کارونو کې سرعت څو چنده کړي. د GPU ملاتړ په سمه توګه نصب او فعالولو لپاره تل رسمي اسنادو ته مراجعه وکړئ.

د اندازه کولو ګټې: سپک او ډیر اغیزمن ماډلونه

د محلي مصنوعي ذهانت په اړه د خبرو کولو پر مهال یوه عامه اصطلاح "کوانټائزیشن" ده. پدې کې د ماډل وزنونو د ذخیره کولو دقت کمول شامل دي چې دوی د لږو بټونو سره په شمیرو بدلوي، کوم چې د ماډل ډیسک او حافظې اندازه په ډراماتیک ډول کموي، د غبرګون کیفیت باندې لږترلږه اغیزه لري.

ډیری ډاونلوډ وړ ماډلونه دمخه په مختلفو نسخو (۴-بټ، ۸-بټ، او داسې نورو) کې کوانټائز شوي دي. که هغه ماډل چې تاسو یې غواړئ یوازې په "بشپړ" نسخه کې شتون ولري او ستاسو ټیم یې نشي لیږدولی، داسې غوښتنلیکونه شتون لري چې تاسو ته اجازه درکوي چې دا پخپله اندازه کړئ (د مثال په توګه، GPTQ).

دا تخنیک دا ممکنه کوي چې په زړو یا محدودو سرچینو کمپیوټرونو کې پیاوړي ماډلونه چلول شي، پداسې حال کې چې د کلاوډ څخه محرمیت او خپلواکي ساتي.

د غوره محلي مصنوعي ذهانت وسیلو پرتله کول: GPT4All د جنوري مصنوعي ذهانت په وړاندې

دواړه اپلیکیشنونه هر هغه څه وړاندې کوي چې تاسو ورته اړتیا لرئ ترڅو خپل کمپیوټر په یو پیاوړي مصنوعي ذهانت مرکز بدل کړئ، مګر هر یو یې خپل ځانګړي ځانګړتیاوې لري چې ممکن ستاسو د غوره توبونو پراساس یو یا بل غوره کولو کې مرسته وکړي.

• د کارولو اسانتیا: GPT4ټول دا ډېر ساده دی، نصب یې چټک دی او د ماډلونو ډاونلوډ کول د یو روښانه او کاروونکي دوستانه انٹرفیس څخه ترسره کیږي. له بلې خوا، جان اې آی د خبرو اترو پرمختللې تنظیم او د لارښوونو او کاري جریانونو نور تنظیم کولو وړتیا وړاندې کوي.
• د مطابقت: دواړه د وینډوز، ماک او لینکس ملاتړ کوي. جان اې آی د خپل محلي API له لارې د نورو غوښتنلیکونو سره مستقیم ادغام اضافه کوي.
• د سرچینو څارنه: جان AI د سرچینو مصرف ریښتیني وخت ډشبورډ چمتو کوي، چې د محدودیتونو سره د ټیمونو لپاره ګټور دی. GPT4All د لږترلږه اړتیاو راپور ورکوي او تاسو ته خبرداری ورکوي که ستاسو هارډویر ممکن کم شي.
• غځول: جان تاسو ته اجازه درکوي چې هغه توسیعونه نصب کړئ چې فعالیت پراخوي (د مثال په توګه، پورته ذکر شوی سرچینې مانیټر)، کوم چې په GPT4All کې شتون نلري.

زما سپارښتنه دا ده چې دواړه هڅه وکړئ او وګورئ چې کوم یو ستاسو د کار جریان او ستاسو ټیم سره مناسب دی.

Solución de problemas y preguntas frecuentes

د مصنوعي ذهانت ماډلونو ډاونلوډ او نصبولو پر مهال د ځینو ننګونو سره مخ کیدل معمول دي، په ځانګړې توګه کله چې د لویو فایلونو سره معامله کوئ یا په ټیم کې محدود سرچینې لرئ. یو له خورا عامو غلطیو څخه د ترلاسه کولو ناکامي ده. په دې قضیو کې، دا ښه نظر دی چې خپل پیوستون وګورئ، د ډیسک ځای پاک کړئ، یا اپلیکیشن بیا پیل کړئ. د هر پروګرام ملاتړي ټولنې، او همدارنګه د دوی رسمي ویکي یا فورمونه، ډیری وختونه ګام په ګام حلونه وړاندې کوي.

د امنیت له پلوه، د سیمه ییز مصنوعي ذهانت کارول د لرې پرتو خدماتو سره د تعامل په پرتله خورا شفاف دي. ستاسو معلومات او د خبرو اترو تاریخ ستاسو په وسیله کې پاتې کیږي او د بهرني الګوریتمونو د روزنې لپاره نه کارول کیږي. په هرصورت، د احتیاط په توګه، سپارښتنه کیږي چې حساس معلومات په هیڅ AI غوښتنلیک کې شریک نه کړئ، حتی په محلي توګه.

که تاسو نور فعالیت ته اړتیا لرئ نو څه به وي؟ که تاسو د RAM اپ گریڈ (۱۶ یا ۳۲ GB) یا یو عصري GPU توان لرئ، لوی ماډلونه به په اسانۍ سره پرمخ ولاړ شي او تاسو به وکولی شئ د پرمختللو ځانګړتیاو لکه څو ماډل تعامل (متن، انځور، غږ) سره تجربه وکړئ. که نه نو، داسې سپک وزن لرونکي، خورا مطلوب ماډلونه شتون لري چې په ډیری ورځني کارونو کې خورا ښه فعالیت کوي.

تجربه په بشپړه توګه آفلاین ده: کله چې ماډلونه ډاونلوډ شي، نو اپلیکیشن د انټرنیټ اتصال پرته کار کوي، محرمیت اعظمي کوي او تاسو ته اجازه درکوي چې په هر حالت کې کار وکړئ.

یو دوامداره بدلیدونکی سیمه ایز AI ایکوسیستم

د کمپیوټرونو لپاره اوسني محلي مصنوعي ذهانت حلونه د بلوغ کچې ته رسیدلي دي چې اوس دوی د کلاوډ خدماتو لپاره یو قوي بدیل ګرځوي. د ماډلونو پراخه ډولونه، د نصبولو اسانتیا، او د اصلاح کولو وړتیاوې د مصنوعي استخباراتو ته د لاسرسي ډیموکراتیک کول دي.

د ګوګل او مایکروسافټ په څیر شرکتونه هم د مرکزي پلیټ فارمونو له لارې خپله ونډه اخلي (د مثال په توګه په وینډوز کې د AI مرکز یا کوپائلټ)، مګر د محلي AI اصلي وړتیا پدې حقیقت کې ده چې تاسو کولی شئ خپل دودیز مرکز د خپلو ځانګړو کاري جریانونو، محرمیت او اهدافو سره سم تنظیم کړئ..

په دې پوهیدل چې تاسو د مصنوعي ذهانت یو څرګند کاروونکی یاست، موږ وړاندیز کوو چې تاسو نور هم زده کړه پیل کړئ او د ChatGPT او نورو وړتیاوو څخه ګټه پورته کړئ، ځکه چې د مثال په توګه، تاسو اوس کولی شئ یو په چیټ جی پی ټي کې د قیمت پرتله کول.

اوس تاسو په خپل اختیار کې هغه وسایل، لارښوونې او چلونه لرئ چې ستاسو کمپیوټر د مصنوعي استخباراتو په ریښتیني مرکز بدلولو لپاره اړین دي، نوښت او ستاسو په معلوماتو باندې بشپړ کنټرول بلې کچې ته وړل. موږ هیله لرو چې تاسو اوس پوهیږئ چې څنګه خپل کمپیوټر د ځایی مصنوعي ذهانت مرکز په توګه وکاروئ.