Otu esi eji PC gị dị ka ọdụ AI mpaghara: Ntuziaka bara uru na ntụnyere

¿Kedu otu esi eji PC gị dị ka ọdụ AI mpaghara? Ọgụgụ isi abụghịzi ngalaba pụrụiche nke nnukwu ụlọ ọrụ ma ọ bụ ndị ọkachamara igwe ojii. Ndị ọrụ na-arịwanye elu na-eleba anya iji nweta ngwọta AI ozugbo site na kọmpụta nke ha maka ọrụ sitere na ọgbọ ederede na-arụ ọrụ mmepụta ihe ma ọ bụ usoro nka, ha niile nwere oke nzuzo na-enweghị ịdabere na sava mpụga. Tụgharịa PC gị ka ọ bụrụ oghere AI mpaghara Ọ bụ eziokwu dị ọnụ ala yana ọ fọrọ nke nta ka ọ bụrụ onye na-anụ ọkụ n'obi, ọkachamara ma ọ bụ nwa akwụkwọ ọ bụla, ọ bụrụgodị na akụrụngwa gị abụghị nke ọgbara ọhụrụ.

N'isiokwu a, ị ga-achọpụta otu esi agbanwe kọmputa nke gị ka ọ bụrụ isi nke gburugburu AI gị. Anyị ga-eleba anya n'ụdị sọftụwia ndị ọzọ akwadoro, isi ihe gbasara ngwaike, ụdị na njirimara, yana uru dị n'ịrụ ọrụ na AI mpaghara n'ihe gbasara ma nzuzo yana nhazi onwe ya. Na mgbakwunye, m ga-eduzi gị site na ịhọrọ, wụnye, na inweta ihe kachasị mma na ụdị LLM, ngwa na akụrụngwa, na-atụnyere mmemme kachasị mma na inye ndụmọdụ iji mee ka ahụmịhe AI ​​gị dị nro na nchekwa, ma na Windows, Mac, ma ọ bụ Linux.

Kedu ihe kpatara eji PC gị dị ka ọdụ AI mpaghara?

Iji kọmpụta gị dị ka ikpo okwu AI etiti na-enye uru ndị siri ike dakọtara na ọrụ igwe ojii. Otu n'ime ihe kachasị mkpa bụ nzuzo: mgbe gị na chatbots na-emekọrịta ihe na igwe ojii, data gị na arịrịọ gị na-echekwa na sava ndị ọzọ na, n'agbanyeghị na ụlọ ọrụ na-eme usoro nchekwa, Enwere ihe ize ndụ nke ntapu ma ọ bụ iji ya eme ihe mgbe niile. Ịhazi ozi na mpaghara pụtara na ị nwere njikwa zuru oke na data gị. Ọ nweghị onye ọzọ nwere ohere ịnweta ajụjụ gị, azịza gị ma ọ bụ faịlụ gị.

Uru ọzọ dị ukwuu bụ enweghị njikọ ịntanetị chọrọ. Site na sistemụ ụlọ, ị nwere ike ịnụ ụtọ njirimara AI ọbụlagodi na ị nwere njikọ na-akwụghị ọtọ, bi na mpaghara mkpuchi na-adịghị mma, ma ọ bụ naanị ịchọrọ ịrụ ọrụ offline maka ebumnuche nchekwa. Na mgbakwunye, nhazi ya ka ukwuu: Ị nwere ike ịhọrọ ụdị nke ga-adabara gị mma, hazie ya dị ka mkpa gị si dị, ma dozie oke ọ bụla - ihe na-adịghị esiri ike site na ọrụ igwe ojii mkpọ.

Ọ dịghị obere ihe dị mkpa bụ akụkụ akụ na ụba. Agbanyeghị na ọrụ igwe ojii na-enye ụdị n'efu, ojiji dị elu gụnyere ndenye aha, ịkwụ ụgwọ akara, ma ọ bụ oriri akụrụngwa. Mgbe ị na-arụ ọrụ na mpaghara, naanị oke bụ ikike nke ngwaike gị.

Kedu ihe ị ga-achọ ịmalite? Akụrụngwa na isi chọrọ

Echiche izugbe na ịrụ ọrụ na AI chọrọ kọmpụta dị oke ma ọ bụ GPU dị ike ugbu a bụ ihe gara aga. Ụdị asụsụ dị ugbu a ka emelitela ka ọ na-agba ọsọ na kọmpụta ụlọ, na ọtụtụ n'ime ha, ọkachasị ndị nke agụpụtara, nwere ike na-agba ọsọ ọbụna na-enweghị a raara onwe ya nye ndịna-emeputa kaadị, na-eji naanị CPU.

Maka ịrụ ọrụ nke ọma na ahụmịhe dị ụtọ, a na-atụ aro ka ịnwe opekata mpe 8-16 GB nke RAM. na ihe nhazi ọgbara ọhụrụ nwere ezi uche (Core i5 ma ọ bụ i7 nke ọgbọ nke isii gaa n'ihu, ma ọ bụ Ryzen dakọtara). Ọ bụrụ na ị na-eji ụdị buru ibu na-arụ ọrụ ma ọ bụ chọọ ịrụ ọrụ ngwa ngwa, GPU nwere 4GB nke VRAM na-eme mgbanwe, ọkachasị maka ọrụ dịka ọgbọ onyonyo ma ọ bụ nzaghachi ederede ogologo.

Na Mac, ibe Apple M1 na elu na-akwado ụdị LLM mpaghara nwere oge nzaghachi dị mma. Na nkenke, ọ bụrụ na PC ma ọ bụ laptọọpụ gị erughị afọ asaa, ị nwere ike ịmalite ịnwale AI mpaghara.

Kedu ngwa na ikpo okwu ịchọrọ iji gbanwee PC gị ka ọ bụrụ oghere AI mpaghara?

Obi nke sistemụ AI mpaghara gị bụ ngwa pụrụ iche nke na-eme ka ọdịiche dị n'etiti ngwaike gị na ụdị AI. N'ime ihe ndị a ma ama maka ịdị mfe nke iji ha, ike na mgbanwe, ọ bara uru ịkọwa:

• GPT4Mmadụ niile: Otu n'ime nhọrọ kachasị ewu ewu na enyi. Ọ na-enye gị ohere ibudata ma wụnye ọtụtụ ụdị asụsụ, soro ha na-emekọrịta ihe, ma hazie paramịkọ dị iche iche. Ọ bụ cross-ikpo okwu (Windows, Mac, na Linux) na usoro ntinye ya dị mfe dịka mmemme desktọọpụ ọ bụla ọzọ.
• Jan AI: Ọ pụtara maka interface ya nke ọgbara ọhụrụ, ikike ịhazi eriri mkparịta ụka, yana ndakọrịta ya na ụdị mpaghara na nke dịpụrụ adịpụ (site na OpenAI, dịka ọmụmaatụ, site na API). Na mgbakwunye, ọ na-enye API mpaghara ya nke na-eṅomi nke OpenAI, na-enye ohere itinye Jan ka ọ bụrụ ihe ndabere AI na ngwa ndị ọzọ chọrọ igodo API ChatGPT, mana na-adabereghị na ịntanetị.
• Llama.cpp na LM Studio: Ngwa ndị a na-enye gị ohere ịme ụdị LLM na mpaghara wee nye ohere ịnweta ọba akwụkwọ nke ụdị si na Hugging Face na ebe nchekwa ndị ọzọ.

Isi usoro na-abụkarị ndị a: Budata ngwa ahọpụtara site na webụsaịtị gọọmentị ya, wụnye ya na sistemụ gị, wee chọgharịa na gallery nke ndebiri dị (nke a na-akpọkarị “The Hub” ma ọ bụ ihe yiri ya). N'ebe ahụ ị nwere ike ịhọrọ ụdị ịchọrọ, lelee nha ya na ebe nchekwa chọrọ, wee budata ihe niile site na interface ahụ n'onwe ya.

Ụdị AI kachasị elu iji wụnye na mpaghara

Ụwa nke ụdị LLM mepere emepe dị ukwuu ma na-eto eto mgbe niile. Ewezuga nke OpenAI na-enye (nke chọrọ njikọ igwe ojii), enwere ọtụtụ ụzọ ndị a kwadebere ịrụ ọrụ na mpaghara: Mistral 7B, TinyLlama Chat, Nous Hermes 2, Mixol 8X 7B, n'etiti ndị ọzọ. A na-atụle ọtụtụ n'ime ụdị ndị a, nke pụtara na ha na-ewe obere ohere ma chọọ obere RAM na ọnụ ahịa nke ịchụ nta nke ziri ezi.

Maka ndị mbido Ụdị dị obere, dị ka Mistro Instruct 7B ma ọ bụ TinyLlama Chat, ka akwadoro, ka ha na-agbapụta ngwa ngwa ma anaghị ebufe sistemu ahụ. Ọ bụrụ na kọmputa gị nwere RAM na ohere nchekwa, gbalịa ọzọ zuru ezu ụdị dị ka Mixol 8X 7B, mara na, dị ka ihe atụ, ọ nwere ike na-achọ ka 26 GB nke ohere diski naanị maka ihe nlereanya.

N'ihe fọrọ nke nta ka ọ bụrụ ngwa niile ị nwere ike nzacha ụdị dabere na nha ha, asụsụ mbụ ha, ikikere ma ọ bụ ụdị ọrụ a zụrụ ha. (ederede ederede, mmepụta koodu, ntụgharị, wdg). Ka nzube nke ihe nlereanya ahụ dịkwuo kpọmkwem, otú ahụ ka ị ga-esi nweta nsonaazụ ziri ezi.

Usoro nzọụkwụ site na ịwụnye na iji AI mpaghara

1. Download na wụnye ngwa: Gaa na webụsaịtị gọọmentị nke ngwaọrụ kachasị amasị gị (dịka, GPT4All ma ọ bụ Jan AI), budata installer maka sistemụ arụmọrụ gị, wee soro usoro na ihuenyo. Na Windows, ọ na-abụkarị ọkachamara ọkachamara; Na Mac, nwere ike ịchọ inye Rosetta maka kọmpụta nwere processor M1/M2; Na Linux, ị ga-enwe ngwugwu DEB ma ọ bụ AppImage dị.

2. Chọgharịa ma budata ụdị AI: Ozugbo imepere ngwa ahụ, nweta ihe nchọgharị ihe nlereanya (na GPT4All ọ bụ “Oghere Nchọpụta Nchọpụta”, na Jan AI, “The Hub”). Nzacha, nyochaa njirimara, na mgbe ịchọtara ụdị nke kacha amasị gị, pịa "Download." A ga-agwa gị nha na ihe achọrọ tupu ịga n'ihu.

3. Nhọrọ na ogbugbu nke mbụ: Ozugbo ebudatara template, họrọ ya na ngwa wee malite mkparịta ụka ma ọ bụ ọrụ ọhụrụ. Dee ajụjụ gị ma ọ bụ arịrịọ gị wee chere nzaghachi. Ọ bụrụ n’ịhụta ọzịza dị nwayọ, nwaa iji ụdị ọkụ ọkụ ma ọ bụ dozie ntọala.

4. Gbanwee paramita na nnwale: N'ọtụtụ mmemme ị nwere ike gbanwee ọnụ ọgụgụ kachasị elu nke tokens (nke na-egbochi ogologo nzaghachi), yana nkọwa ndị ọzọ dị ka okpomọkụ, top_p, wdg. Gbalịa dị iche iche ntọala ruo mgbe ịchọta nguzozi n'etiti ọsọ na àgwà nke nsonaazụ na-arụ ọrụ maka gị.

5. Hazie na hazie eri: Ọtụtụ mmemme na-enye gị ohere ịmepụta eriri mkparịta ụka nwere aha na ebumnuche dị iche iche (echiche vidiyo, ide ihe okike, enyemaka na nzuzo, wdg), ị nwekwara ike ịchekwa ntuziaka omenala maka eri ọ bụla, nke na-eme ka mmekọrịta dị mma.

Njikwa akụrụngwa na nkwalite arụmọrụ

Isi njedebe nke AI mpaghara bụ ngwaike: Mgbe ihe nlereanya ahụ buru ibu maka RAM gị, mbelata, mkpọka, ma ọ bụ ọbụna njehie nwere ike ime. Ngwa kachasị mma na-enye ịdọ aka ná ntị tupu oge eruo mgbe ịhọrọ ụdị nke dị arọ maka ngwaọrụ gị.

Jan AI kacha mma site na ijikọ ihe nleba anya akụrụngwa na ihuenyo nke na-egosi gị ozugbo oriri RAM, CPU na ọsọ nhazi (token kwa sekọnd). N'ụzọ dị otú a, ị nwere ike mara mgbe niile ma ọ bụrụ na otu gị nọ na ya ókè ma ọ bụ na ị ka nwere ike afanyekwa ọzọ na ya.

Ọ bụrụ na PC gị nwere kaadị eserese Nvidia ma ịchọrọ iji ya mee ihe, Ngwa ụfọdụ na-enye ohere osooso GPU site na ịwụnye CUDA. Nke a nwere ike ịbawanye ọsọ na ọrụ dị arọ. Na-ezo aka na akwụkwọ gọọmentị mgbe niile ka ịwụnye nke ọma ma mee nkwado GPU.

Uru nke quantification: Ụdị dị mfe na nke dị irè karị

Okwu a na-ahụkarị mgbe a na-ekwu maka AI mpaghara bụ "ọnụọgụ." Nke a na-agụnye ibelata nzizi nke ichekwa ihe ọ̀tụ̀tụ̀ ịdị arọ site n'ịtụgharị ha n'ọnụọgụgụ nwere obere ibe n'ibe, nke na-ebelata nke ukwuu diski ihe nlereanya na nha ebe nchekwa, na-enwe mmetụta dị nta na àgwà nzaghachi.

Ọtụtụ ụdị nbudata abịalarị kọọ na ụdị dị iche iche (4-bit, 8-bit, wdg). Ọ bụrụ na ihe nlereanya ịchọrọ dị naanị na ụdị “zuru oke” ma ndị otu gị enweghị ike ibugharị ya, enwere ngwa na-enye gị ohere ịkọwapụta ya n'onwe gị (dịka ọmụmaatụ, GPTQ).

Usoro a na-eme ka o kwe omume ịme ụdị dị ike na PC ochie ma ọ bụ nwere oke akụrụngwa, ka ị na-edobe nzuzo na nnwere onwe pụọ na igwe ojii.

Ntụle nke kacha mma mpaghara AI ngwaọrụ: GPT4All vs. Jan AI

Ngwa abụọ a na-enye ihe niile ịchọrọ iji gbanwee PC gị ka ọ bụrụ ebe AI siri ike, mana nke ọ bụla nwere njirimara pụrụ iche nke nwere ike inyere gị aka ịhọrọ otu ma ọ bụ nke ọzọ dabere na mmasị gị.

• Mfe ojiji: GPT4All Ọ dị nnọọ mfe, echichi bụ ngwa ngwa na nbudata ụdị a na-eme site na interface doro anya na onye ọrụ. Jan AI, n'aka nke ọzọ, na-enye nzukọ mkparịta ụka dị elu karịa yana ikike ịhazigharị ntuziaka na usoro ọrụ.
• Ndakọrịta: Ha abụọ na-akwado Windows, Mac na Linux. Jan AI na-agbakwunye ntinye aka na ngwa ndị ọzọ site na API mpaghara ya.
• Nyochaa akụrụngwa: Jan AI na-enye dashboard nke oriri akụrụngwa, bara uru maka ndị otu nwere ihe mgbochi. GPT4All na-akọ kacha nta chọrọ ma dọọ gị aka na ntị ma ọ bụrụ na ngwaike gị nwere ike ịda ada.
• Mgbatị: Jan na-enye gị ohere ịwụnye ndọtị na-agbatị ọrụ ahụ (dịka ọmụmaatụ, ihe nleba anya akụrụngwa ekwuru), nke adịghị na GPT4All.

Ndụmọdụ m bụ ịnwale ma hụ nke kacha dabara maka usoro ọrụ gị na ndị otu gị.

Ịchọpụta nsogbu na ajụjụ ndị a na-ajụkarị

Ọ na-enwekarị nsogbu mgbe ị na-ebudata ma na-etinye ụdị AI, ọkachasị mgbe ị na-eme nnukwu faịlụ ma ọ bụ na-enwe oke ego na otu. Otu n'ime njehie a na-ahụkarị bụ ị nwetaghị. N'ọnọdụ ndị a, ọ dị mma ịlele njikọ gị, kpochapụ oghere diski, ma ọ bụ malitegharịa ngwa ahụ. Obodo nkwado nke mmemme ọ bụla, yana wikis ma ọ bụ nnọkọ ha na-enyekarị ihe ngwọta site na nzọụkwụ.

N'ihe gbasara nchekwa, iji AI mpaghara na-apụta ìhè karịa ka ya na ọrụ ndị dịpụrụ adịpụ na-akpakọrịta. Data gị na akụkọ mkparịta ụka gị ka dị na ngwaọrụ gị ma ejighị ya zụọ algọridim mpụga. Agbanyeghị, dịka ịkpachara anya, a na-atụ aro ka ị ghara ịkekọrịta ozi nwere mmetụta na ngwa AI ọ bụla, ọbụlagodi na mpaghara.

Gịnị ma ọ bụrụ na ị chọrọ ọbụna karịa arụmọrụ? Ọ bụrụ na ị nwere ike nweta nkwalite RAM (16 ma ọ bụ 32 GB) ma ọ bụ GPU ọgbara ọhụrụ, ụdị ndị buru ibu ga-agba ọsọ nke ọma ma ị ga-enwe ike ịnwale atụmatụ dị elu dị ka mmekọrịta multimodal (ederede, oyiyi, olu). Ma ọ bụghị ya, enwere ụdị dị fechaa, nke kachasị mma nke na-arụ ọrụ nke ọma n'ọtụtụ ọrụ kwa ụbọchị.

Ahụmahụ ahụ adịchaghị n'ịntanetị: Ozugbo ebudatara ụdị a, ngwa ahụ na-arụ ọrụ na-enweghị njikọ ịntanetị, na-ebuli oke nzuzo yana inye gị ohere ịrụ ọrụ n'ọnọdụ ọ bụla.

Ecosystem AI mpaghara na-agbanwe mgbe niile

Ihe ngwọta AI dị ugbu a maka PC eruola ogo ntozu nke na-eme ka ha bụrụ ụzọ siri ike maka ọrụ igwe ojii. Ụdị ụdị dị iche iche, ịdị mfe nke nrụnye, na ike ịhazi ya na-eme ka mmadụ nweta ikike ọgụgụ isi dị mma.

Companieslọ ọrụ dị ka Google na Microsoft na-atụnyekwa òkè nke ha site na nyiwe etiti (dịka AI Hub ma ọ bụ Copilot na Windows), mana ezigbo ikike AI mpaghara dabere n'eziokwu ahụ. Ị nwere ike ịhazi ụlọ ọrụ omenala gị ka usoro ọrụ gị, nzuzo na ebumnuche gị..

N'ịmara na ị bụ onye ọrụ AI doro anya, anyị na-atụ aro ka ịmalite ịmụta ọbụna karịa ma jiri ike nke ChatGPT na ndị ọzọ mee ihe, ebe ọ bụ na ihe atụ, ị nwere ike ugbu a inwe a ntụnyere ọnụahịa na ChatGPT.

Ugbu a ị nwere ngwaọrụ, ntuziaka na usoro dị mkpa iji gbanwee PC gị ka ọ bụrụ ebe ọgụgụ isi n'ezie, Inweta ihe ọhụrụ na njikwa zuru oke na ozi gị ruo ọkwa ọzọ. Anyị na-atụ anya na ị maara ugbu a ka esi eji PC gị dị ka ebe AI mpaghara.