ວິທີການໃຊ້ PC ຂອງທ່ານເປັນ Hub AI ທ້ອງຖິ່ນ: ຄູ່ມືພາກປະຕິບັດແລະການປຽບທຽບ

¿ໃຊ້ PC ຂອງທ່ານເປັນສູນ AI ​​ທ້ອງຖິ່ນແນວໃດ? ປັນຍາທຽມບໍ່ແມ່ນໂດເມນສະເພາະຂອງບໍລິສັດໃຫຍ່ ຫຼືຜູ້ຊ່ຽວຊານດ້ານຄລາວອີກຕໍ່ໄປ. ຜູ້ໃຊ້ຫຼາຍກວ່າແລະຫຼາຍກໍາລັງຊອກຫາທີ່ຈະໃຊ້ວິທີແກ້ໄຂ AI ໂດຍກົງຈາກຄອມພິວເຕີສ່ວນບຸກຄົນຂອງພວກເຂົາສໍາລັບວຽກງານຕ່າງໆຕັ້ງແຕ່ການສ້າງຂໍ້ຄວາມຈົນເຖິງຂະບວນການສ້າງສັນຫຼືເຕັກນິກອັດຕະໂນມັດ, ທັງຫມົດມີຄວາມເປັນສ່ວນຕົວສູງສຸດແລະໂດຍບໍ່ມີການອີງໃສ່ເຄື່ອງແມ່ຂ່າຍພາຍນອກ. ປ່ຽນ PC ຂອງທ່ານໃຫ້ເປັນສູນ AI ​​ທ້ອງຖິ່ນ ມັນ​ເປັນ​ຄວາມ​ເປັນ​ຈິງ​ທີ່​ສາ​ມາດ​ໃຫ້​ໄດ້​ແລະ​ແມ່ນ​ຢູ່​ໃນ​ການ​ເຂົ້າ​ເຖິງ​ຂອງ​ເກືອບ​ທຸກ​ກະ​ຕື​ລື​ລົ້ນ​, ເປັນ​ມື​ອາ​ຊີບ​ຫຼື​ນັກ​ຮຽນ​, ເຖິງ​ແມ່ນ​ວ່າ​ອຸ​ປະ​ກອນ​ຂອງ​ທ່ານ​ບໍ່​ທັນ​ສະ​ໄຫມ​.

ໃນບົດຄວາມນີ້, ທ່ານຈະຄົ້ນພົບວິທີການຫັນປ່ຽນຄອມພິວເຕີຂອງທ່ານເອງເປັນຫຼັກຂອງລະບົບນິເວດ AI ຂອງທ່ານ. ພວກເຮົາຈະເບິ່ງທາງເລືອກຊອບແວທີ່ແນະນໍາທີ່ສຸດ, ການພິຈາລະນາທີ່ສໍາຄັນກ່ຽວກັບຮາດແວ, ຮຸ່ນ, ແລະຄຸນສົມບັດ, ພ້ອມກັບຂໍ້ດີຂອງການເຮັດວຽກກັບ AI ທ້ອງຖິ່ນໃນດ້ານຂອງທັງຄວາມເປັນສ່ວນຕົວແລະການປັບແຕ່ງສ່ວນບຸກຄົນ. ນອກຈາກນັ້ນ, ຂ້າພະເຈົ້າຈະແນະນໍາທ່ານໂດຍຜ່ານການເລືອກ, ການຕິດຕັ້ງ, ແລະໄດ້ຮັບປະໂຫຍດສູງສຸດຈາກ LLM ແບບ, ແອັບຯ, ແລະຊັບພະຍາກອນ, ປຽບທຽບບັນດາໂຄງການທີ່ດີທີ່ສຸດແລະສະເຫນີຄໍາແນະນໍາເພື່ອເຮັດໃຫ້ປະສົບການ AI ຂອງທ່ານລຽບງ່າຍແລະປອດໄພ, ບໍ່ວ່າຈະຢູ່ໃນ Windows, Mac, ຫຼື Linux.

ເປັນຫຍັງຕ້ອງໃຊ້ PC ຂອງທ່ານເປັນສູນ AI ​​ທ້ອງຖິ່ນ?

ການນໍາໃຊ້ຄອມພິວເຕີຂອງທ່ານເປັນແພລະຕະຟອມ AI ສູນກາງສະເຫນີຂໍ້ໄດ້ປຽບທີ່ຍາກທີ່ຈະຈັບຄູ່ກັບການບໍລິການຄລາວ. ຫນຶ່ງໃນເຫດຜົນທີ່ສໍາຄັນທີ່ສຸດແມ່ນຄວາມເປັນສ່ວນຕົວ: ເມື່ອທ່ານພົວພັນກັບ chatbots ໃນເມຄ, ຂໍ້ມູນແລະການຮ້ອງຂໍຂອງທ່ານຈະສິ້ນສຸດລົງຢູ່ໃນເຄື່ອງແມ່ຂ່າຍຂອງພາກສ່ວນທີສາມແລະ, ເຖິງແມ່ນວ່າບໍລິສັດປະຕິບັດມາດຕະການຄວາມປອດໄພ, ມີຄວາມສ່ຽງຕໍ່ການຮົ່ວໄຫຼ ຫຼືການໃຊ້ໃນທາງທີ່ຜິດສະເໝີ. ການປະມວນຜົນຂໍ້ມູນຢູ່ໃນທ້ອງຖິ່ນຫມາຍຄວາມວ່າທ່ານມີການຄວບຄຸມຂໍ້ມູນຂອງທ່ານຢ່າງສົມບູນ. ບໍ່ມີໃຜສາມາດເຂົ້າເຖິງຄໍາຖາມ, ຄໍາຕອບ, ຫຼືໄຟລ໌ຂອງທ່ານ.

ປະໂຫຍດທີ່ຍິ່ງໃຫຍ່ອີກອັນຫນຶ່ງແມ່ນການຂາດຄວາມຕ້ອງການການເຊື່ອມຕໍ່ອິນເຕີເນັດ. ດ້ວຍລະບົບໃນພື້ນທີ່, ທ່ານສາມາດເພີດເພີນກັບຄຸນສົມບັດ AI ເຖິງແມ່ນວ່າທ່ານມີການເຊື່ອມຕໍ່ທີ່ບໍ່ຫມັ້ນຄົງ, ອາໄສຢູ່ໃນພື້ນທີ່ທີ່ມີການຄຸ້ມຄອງທີ່ບໍ່ດີ, ຫຼືພຽງແຕ່ຕ້ອງການເຮັດວຽກອອບໄລນ໌ເພື່ອຄວາມປອດໄພ. ນອກຈາກນັ້ນ, ການປັບແຕ່ງແມ່ນຫຼາຍກວ່າເກົ່າ: ທ່ານ​ສາ​ມາດ​ເລືອກ​ເອົາ​ຮູບ​ແບບ​ທີ່​ເຫມາະ​ສົມ​ທີ່​ສຸດ​ຂອງ​ທ່ານ​ທີ່​ສຸດ​, ປັບ​ມັນ​ຕາມ​ຄວາມ​ຕ້ອງ​ການ​ຂອງ​ທ່ານ​, ແລະ​ປັບ​ທຸກ​ພາ​ລາ​ມິ​ເຕີ​, ບາງ​ສິ່ງ​ບາງ​ຢ່າງ​ທີ່​ບໍ່​ຄ່ອຍ​ເປັນ​ໄປ​ໄດ້​ກັບ​ການ​ບໍ​ລິ​ການ​ຄລາວ​ກະ​ປ໋ອງ​.

ບໍ່ມີຄວາມສໍາຄັນຫນ້ອຍແມ່ນດ້ານເສດຖະກິດ. ເຖິງແມ່ນວ່າການບໍລິການຄລາວຈະໃຫ້ລຸ້ນຟຣີ, ການໃຊ້ຂັ້ນສູງກ່ຽວຂ້ອງກັບການສະໝັກສະມາຊິກ, ການຈ່າຍເງິນໂທເຄັນ, ຫຼືການບໍລິໂພກຊັບພະຍາກອນ. ເມື່ອເຮັດວຽກຢູ່ໃນທ້ອງຖິ່ນ, ຂີດຈໍາກັດພຽງແຕ່ແມ່ນຄວາມສາມາດຂອງຮາດແວຂອງທ່ານ.

ເຈົ້າຕ້ອງການຫຍັງເພື່ອເລີ່ມຕົ້ນ? ຮາດແວແລະຄວາມຕ້ອງການພື້ນຖານ

ແນວຄວາມຄິດທົ່ວໄປທີ່ການເຮັດວຽກກັບ AI ຕ້ອງການຄອມພິວເຕີທີ່ທັນສະ ໄໝ ຫຼື GPU ທີ່ມີປະສິດທິພາບສູງໃນປັດຈຸບັນແມ່ນເປັນສິ່ງທີ່ຜ່ານມາ. ຮູບແບບພາສາໃນປະຈຸບັນໄດ້ຖືກປັບປຸງໃຫ້ດີທີ່ສຸດເພື່ອແລ່ນໃນຄອມພິວເຕີໃນບ້ານ, ແລະຈໍານວນຫຼາຍຂອງພວກເຂົາ, ໂດຍສະເພາະແມ່ນການວັດແທກປະລິມານ, ສາມາດດໍາເນີນການໄດ້ເຖິງແມ່ນວ່າບໍ່ມີບັດກາຟິກທີ່ອຸທິດຕົນ, ການນໍາໃຊ້ພຽງແຕ່ CPU ໄດ້.

ສໍາລັບການເຮັດວຽກທີ່ລຽບງ່າຍແລະປະສົບການທີ່ຫນ້າພໍໃຈ, ແນະນໍາໃຫ້ມີ RAM ຢ່າງຫນ້ອຍ 8-16 GB. ແລະໂປເຊດເຊີທີ່ທັນສະໄຫມທີ່ສົມເຫດສົມຜົນ (Core i5 ຫຼື i7 ຂອງຮຸ່ນທີ 4 ເປັນຕົ້ນໄປ, ຫຼືທຽບເທົ່າ Ryzen). ຖ້າທ່ານກໍາລັງເຮັດວຽກກັບຕົວແບບຂະຫນາດໃຫຍ່ຫຼືຕ້ອງການປະສິດທິພາບໄວ, GPU ທີ່ມີ XNUMXGB ຂອງ VRAM ເຮັດໃຫ້ມີຄວາມແຕກຕ່າງ, ໂດຍສະເພາະສໍາລັບວຽກງານເຊັ່ນການສ້າງຮູບພາບຫຼືການຕອບສະຫນອງຂໍ້ຄວາມຍາວຫຼາຍ.

ໃນ Mac, ຊິບ Apple M1 ແລະສູງກວ່າຍັງສະຫນັບສະຫນູນຕົວແບບ LLM ທ້ອງຖິ່ນທີ່ມີເວລາຕອບສະຫນອງທີ່ດີຫຼາຍ. ໃນສັ້ນ, ຖ້າ PC ຫຼື laptop ຂອງທ່ານມີອາຍຸຫນ້ອຍກວ່າເຈັດປີ, ທ່ານອາດຈະເລີ່ມທົດລອງກັບ AI ທ້ອງຖິ່ນ.

ແອັບ ແລະ ແພລດຟອມອັນໃດທີ່ເຈົ້າຕ້ອງການເພື່ອປ່ຽນ PC ຂອງທ່ານໃຫ້ເປັນສູນ AI ​​ທ້ອງຖິ່ນ?

ຫົວໃຈຂອງລະບົບ AI ທ້ອງຖິ່ນຂອງທ່ານແມ່ນແອັບພລິເຄຊັນພິເສດທີ່ສ້າງຊ່ອງຫວ່າງລະຫວ່າງຮາດແວ ແລະຕົວແບບ AI ຂອງເຈົ້າ. ໃນບັນດາສິ່ງທີ່ຫນ້າສັງເກດທີ່ສຸດສໍາລັບຄວາມສະດວກໃນການນໍາໃຊ້, ພະລັງງານແລະຄວາມຍືດຫຍຸ່ນຂອງພວກເຂົາ, ມັນເປັນມູນຄ່າທີ່ໄດ້ກ່າວມາ:

• GPT4ທັງໝົດ: ຫນຶ່ງໃນທາງເລືອກທີ່ນິຍົມແລະເປັນມິດທີ່ສຸດ. ມັນອະນຸຍາດໃຫ້ທ່ານສາມາດດາວນ໌ໂຫລດແລະຕິດຕັ້ງຫຼາຍຮູບແບບພາສາ, ພົວພັນກັບພວກເຂົາ, ແລະກໍາຫນົດຄ່າພາລາມິເຕີທີ່ແຕກຕ່າງກັນ. ມັນເປັນຂ້າມເວທີ (Windows, Mac, ແລະ Linux) ແລະຂະບວນການຕິດຕັ້ງຂອງມັນແມ່ນງ່າຍດາຍຄືກັນກັບໂຄງການ desktop ອື່ນໆ.
• Jan AI: ມັນໂດດເດັ່ນສໍາລັບການໂຕ້ຕອບທີ່ທັນສະໄຫມ, ຄວາມສາມາດໃນການຈັດກຸ່ມສົນທະນາ, ແລະຄວາມເຂົ້າກັນໄດ້ກັບທັງສອງແບບທ້ອງຖິ່ນແລະຫ່າງໄກສອກຫຼີກ (ຈາກ OpenAI, ສໍາລັບການຍົກຕົວຢ່າງ, ຜ່ານ API). ນອກຈາກນັ້ນ, ມັນສະຫນອງ API ທ້ອງຖິ່ນຂອງຕົນເອງທີ່ເຮັດຕາມແບບ OpenAI ຂອງ, ອະນຸຍາດໃຫ້ Jan ສາມາດປະສົມປະສານເປັນ backend AI ເຂົ້າໄປໃນຄໍາຮ້ອງສະຫມັກອື່ນໆທີ່ຕ້ອງການລະຫັດ ChatGPT API, ແຕ່ໂດຍບໍ່ມີການອີງໃສ່ອິນເຕີເນັດ.
• Llama.cpp ແລະ LM Studio: ເຄື່ອງ​ມື​ເຫຼົ່າ​ນີ້​ອະ​ນຸ​ຍາດ​ໃຫ້​ທ່ານ​ສາ​ມາດ​ດໍາ​ເນີນ​ການ​ຕົວ​ແບບ LLM ໃນ​ທ້ອງ​ຖິ່ນ​ແລະ​ສະ​ຫນອງ​ການ​ເຂົ້າ​ເຖິງ​ຫ້ອງ​ສະ​ຫມຸດ​ທີ່​ສົມ​ບູນ​ແບບ​ຂອງ​ຕົວ​ແບບ​ຈາກ Hugging Face ແລະ repositories ອື່ນໆ​.

ຂັ້ນຕອນພື້ນຖານແມ່ນປົກກະຕິແລ້ວດັ່ງຕໍ່ໄປນີ້: ດາວໂຫລດແອັບທີ່ເລືອກຈາກເວັບໄຊທ໌ທາງການຂອງມັນ, ຕິດຕັ້ງມັນຢູ່ໃນລະບົບຂອງເຈົ້າ, ແລະເລືອກເບິ່ງຄັງແມ່ແບບທີ່ມີຢູ່ (ມັກເອີ້ນວ່າ "The Hub" ຫຼືຄ້າຍຄືກັນ). ຢູ່ທີ່ນັ້ນທ່ານສາມາດເລືອກຮູບແບບທີ່ທ່ານຕ້ອງການ, ກວດເບິ່ງຂະຫນາດແລະຄວາມຈໍາຂອງມັນ, ແລະດາວໂຫລດທຸກຢ່າງຈາກການໂຕ້ຕອບຂອງມັນເອງ.

ຮູບແບບ AI ຍອດນິຍົມທີ່ຈະຕິດຕັ້ງຢູ່ໃນທ້ອງຖິ່ນ

ໂລກຂອງແບບຈໍາລອງ LLM ແຫຼ່ງເປີດແມ່ນກວ້າງຂວາງແລະຂະຫຍາຍຕົວຢ່າງຕໍ່ເນື່ອງ. ນອກເຫນືອຈາກສິ່ງທີ່ສະເຫນີໂດຍ OpenAI (ທີ່ຕ້ອງການການເຊື່ອມຕໍ່ເມຄ), ມີຫຼາຍທາງເລືອກທີ່ກຽມພ້ອມທີ່ຈະເຮັດວຽກຢູ່ໃນທ້ອງຖິ່ນ: Mistral 7B, TinyLlama Chat, Nous Hermes 2, Mixol 8X 7B, ແລະອື່ນໆ. ຫຼາຍໆຕົວແບບເຫຼົ່ານີ້ຖືກຄິດໄລ່ເປັນປະລິມານ, ຊຶ່ງຫມາຍຄວາມວ່າພວກເຂົາໃຊ້ພື້ນທີ່ຫນ້ອຍລົງແລະຕ້ອງການ RAM ຫນ້ອຍລົງໃນຄ່າໃຊ້ຈ່າຍຂອງການເສຍສະລະຈໍານວນທີ່ຖືກຕ້ອງ.

ສໍາລັບຜູ້ເລີ່ມຕົ້ນ ຮູບແບບຂະໜາດນ້ອຍ-ກາງ, ເຊັ່ນ: Mistro Instruct 7B ຫຼື TinyLlama Chat, ແມ່ນແນະນຳ, ຍ້ອນວ່າພວກມັນປ່ອຍອອກໄວ ແລະ ບໍ່ເຮັດໃຫ້ລະບົບຫຼາຍເກີນໄປ. ຖ້າຄອມພິວເຕີຂອງທ່ານມີ RAM ແລະພື້ນທີ່ເກັບຮັກສາຫຼາຍ, ລອງແບບທີ່ສົມບູນກວ່າເຊັ່ນ Mixol 8X 7B, ໂດຍຮູ້ວ່າ, ຕົວຢ່າງ, ມັນສາມາດຕ້ອງການພື້ນທີ່ດິດໄດ້ເຖິງ 26 GB ສໍາລັບຕົວແບບ.

ໃນເກືອບທຸກຄໍາຮ້ອງສະຫມັກທ່ານສາມາດກັ່ນຕອງຕົວແບບໂດຍອີງໃສ່ຂະຫນາດ, ພາສາຕົ້ນຕໍ, ໃບອະນຸຍາດຫຼືປະເພດຂອງວຽກງານທີ່ພວກເຂົາໄດ້ຮັບການຝຶກອົບຮົມ. (ການຂຽນຂໍ້ຄວາມ, ການສ້າງລະຫັດ, ການແປ, ແລະອື່ນໆ). ຈຸດປະສົງສະເພາະຂອງຕົວແບບຫຼາຍເທົ່າໃດ, ຜົນໄດ້ຮັບທີ່ຖືກຕ້ອງຫຼາຍຂຶ້ນທີ່ທ່ານໄດ້ຮັບ.

ຂັ້ນຕອນໂດຍຂັ້ນຕອນສໍາລັບການຕິດຕັ້ງແລະການນໍາໃຊ້ AI ທ້ອງຖິ່ນ

1. ດາວ​ນ​໌​ໂຫລດ​ແລະ​ຕິດ​ຕັ້ງ​ຄໍາ​ຮ້ອງ​ສະ​ຫມັກ​: ໄປ​ທີ່​ເວັບ​ໄຊ​ທ​໌​ທາງ​ການ​ຂອງ​ເຄື່ອງ​ມື​ທີ່​ທ່ານ​ຕ້ອງ​ການ (e.g., GPT4All ຫຼື Jan AI), ດາວ​ນ​໌​ໂຫລດ​ຕົວ​ຕິດ​ຕັ້ງ​ສໍາ​ລັບ​ລະ​ບົບ​ປະ​ຕິ​ບັດ​ການ​ຂອງ​ທ່ານ​, ແລະ​ປະ​ຕິ​ບັດ​ຕາມ​ຂັ້ນ​ຕອນ​ໃນ​ຫນ້າ​ຈໍ​. ໃນ Windows, ມັນມັກຈະເປັນຕົວຊ່ວຍສ້າງຄລາສສິກ; ໃນ Mac, ອາດຈະຮຽກຮ້ອງໃຫ້ມີການເປີດໃຊ້ Rosetta ສໍາລັບຄອມພິວເຕີທີ່ມີໂປເຊດເຊີ M1/M2; ໃນ Linux, ທ່ານຈະມີແພັກເກັດ DEB ຫຼື AppImage ທີ່ມີຢູ່.

2. ສຳຫຼວດ ແລະດາວໂຫຼດຕົວແບບ AI: ເມື່ອທ່ານເປີດແອັບພລິເຄຊັນ, ເຂົ້າຫາຕົວສຳຫຼວດຕົວແບບ (ໃນ GPT4All ມັນແມ່ນ “Discovery Model Space”, ໃນ Jan AI, “The Hub”). ການກັ່ນຕອງ, ກວດເບິ່ງຄຸນສົມບັດ, ແລະເມື່ອທ່ານຊອກຫາຮູບແບບທີ່ດຶງດູດເຈົ້າຫຼາຍທີ່ສຸດ, ໃຫ້ຄລິກໃສ່ "ດາວໂຫລດ." ທ່ານຈະໄດ້ຮັບແຈ້ງໃຫ້ຊາບກ່ຽວກັບຂະຫນາດແລະຄວາມຕ້ອງການກ່ອນທີ່ຈະສືບຕໍ່.

3. ການ​ຄັດ​ເລືອກ​ແລະ​ການ​ປະ​ຕິ​ບັດ​ຄັ້ງ​ທໍາ​ອິດ​: ເມື່ອແມ່ແບບຖືກດາວໂຫຼດແລ້ວ, ເລືອກມັນຢູ່ໃນແອັບ ແລະເລີ່ມການສົນທະນາ ຫຼືໜ້າວຽກໃໝ່. ຂຽນຄໍາຖາມຫຼືຄໍາຮ້ອງຂໍຂອງທ່ານແລະລໍຖ້າຄໍາຕອບ. ຖ້າທ່ານສັງເກດເຫັນການຕອບໂຕ້ຊ້າ, ລອງໃຊ້ຕົວແບບທີ່ອ່ອນກວ່າຫຼືປັບການຕັ້ງຄ່າ.

4. ປັບຕົວກໍານົດການແລະການທົດລອງ: ໃນໂປລແກລມສ່ວນໃຫຍ່ທ່ານສາມາດດັດແປງຈໍານວນສູງສຸດຂອງ tokens (ເຊິ່ງຈໍາກັດຄວາມຍາວຂອງຄໍາຕອບ), ເຊັ່ນດຽວກັນກັບລາຍລະອຽດອື່ນໆເຊັ່ນ: ອຸນຫະພູມ, top_p, ແລະອື່ນໆ. ພະຍາຍາມການຕັ້ງຄ່າທີ່ແຕກຕ່າງກັນຈົນກ່ວາທ່ານຊອກຫາຄວາມສົມດູນລະຫວ່າງຄວາມໄວແລະຄຸນນະພາບຂອງຜົນໄດ້ຮັບທີ່ເຫມາະສົມສໍາລັບທ່ານ.

5. ຈັດລະບຽບ ແລະປັບແຕ່ງກະທູ້: ຫຼາຍໆໂຄງການຊ່ວຍໃຫ້ທ່ານສ້າງຫົວຂໍ້ສົນທະນາທີ່ມີຊື່ແລະຈຸດປະສົງທີ່ແຕກຕ່າງກັນ (ແນວຄວາມຄິດວິດີໂອ, ການຂຽນແບບສ້າງສັນ, ການຊ່ວຍເຫຼືອໃນການຂຽນລະຫັດ, ແລະອື່ນໆ), ແລະທ່ານຍັງສາມາດບັນທຶກຄໍາແນະນໍາທີ່ກໍາຫນົດເອງສໍາລັບແຕ່ລະກະທູ້, ເຊິ່ງປັບປຸງການໂຕ້ຕອບ.

ການຄຸ້ມຄອງຊັບພະຍາກອນແລະການເພີ່ມປະສິດທິພາບການປະຕິບັດ

ຂໍ້ຈໍາກັດຕົ້ນຕໍຂອງ AI ທ້ອງຖິ່ນແມ່ນຮາດແວ: ເມື່ອຕົວແບບມີຂະຫນາດໃຫຍ່ເກີນໄປສໍາລັບ RAM ຂອງທ່ານ, ການຊ້າລົງ, ການຂັດຂ້ອງ, ຫຼືແມ້ກະທັ້ງການປະຕິບັດຄວາມຜິດພາດອາດຈະເກີດຂື້ນ. ແອັບທີ່ດີທີ່ສຸດໃຫ້ຄຳເຕືອນລ່ວງໜ້າເມື່ອທ່ານເລືອກຮູບແບບທີ່ໜັກເກີນໄປສຳລັບອຸປະກອນຂອງທ່ານ.

Jan AI ດີເລີດໂດຍການລວມຕົວຕິດຕາມກວດກາຊັບພະຍາກອນໃນຫນ້າຈໍ ເຊິ່ງສະແດງໃຫ້ທ່ານເຫັນການບໍລິໂພກຂອງ RAM, CPU ແລະຄວາມໄວໃນການປະມວນຜົນ (tokens ຕໍ່ວິນາທີ). ດ້ວຍວິທີນີ້, ເຈົ້າສາມາດຮູ້ໄດ້ສະເໝີວ່າທີມຂອງເຈົ້າຢູ່ໃນຂີດຈຳກັດຂອງມັນ ຫຼື ເຈົ້າຍັງສາມາດບີບຕົວອອກໄດ້ຫຼາຍ.

ຖ້າ PC ຂອງທ່ານມີບັດກາຟິກ Nvidia ແລະທ່ານຕ້ອງການໃຊ້ປະໂຫຍດຈາກມັນ, ບາງແອັບພລິເຄຊັນອະນຸຍາດໃຫ້ເລັ່ງ GPU ໂດຍການຕິດຕັ້ງ CUDA. ນີ້ສາມາດທະວີຄູນຄວາມໄວໃນວຽກຫນັກ. ສະເຫມີອ້າງອີງເຖິງເອກະສານທີ່ເປັນທາງການເພື່ອຕິດຕັ້ງແລະເປີດໃຊ້ການສະຫນັບສະຫນູນ GPU ຢ່າງຖືກຕ້ອງ.

ຂໍ້ໄດ້ປຽບຂອງປະລິມານ: ແບບຈໍາລອງສີມ້ານແລະປະສິດທິພາບຫຼາຍ

ຄໍາສັບທົ່ວໄປໃນເວລາທີ່ເວົ້າກ່ຽວກັບ AI ທ້ອງຖິ່ນແມ່ນ "ປະລິມານ." ນີ້ກ່ຽວຂ້ອງກັບການຫຼຸດຜ່ອນຄວາມຊັດເຈນຂອງການເກັບຮັກສານ້ໍາຫນັກຕົວແບບໂດຍການປ່ຽນເປັນຕົວເລກທີ່ມີຈໍານວນນ້ອຍລົງ, ເຊິ່ງຫຼຸດລົງຢ່າງຫຼວງຫຼາຍຂອງແຜ່ນແລະຂະຫນາດຫນ່ວຍຄວາມຈໍາຂອງຕົວແບບ, ມີຜົນກະທົບຫນ້ອຍຕໍ່ຄຸນນະພາບການຕອບສະຫນອງ.

ຮູບແບບທີ່ສາມາດດາວໂຫລດໄດ້ສ່ວນໃຫຍ່ແລ້ວແມ່ນໄດ້ຖືກຄິດໄລ່ໃນຮຸ່ນຕ່າງໆ (4-bit, 8-bit, ແລະອື່ນໆ). ຖ້າຕົວແບບທີ່ທ່ານຕ້ອງການມີພຽງແຕ່ຢູ່ໃນ "ເຕັມ" ຮຸ່ນແລະທີມງານຂອງທ່ານບໍ່ສາມາດຍ້າຍມັນໄດ້, ມີຄໍາຮ້ອງສະຫມັກທີ່ຊ່ວຍໃຫ້ທ່ານສາມາດກໍານົດປະລິມານມັນເອງ (ຕົວຢ່າງ, GPTQ).

ເຕັກນິກນີ້ ເຮັດ​ໃຫ້​ມັນ​ເປັນ​ໄປ​ໄດ້​ທີ່​ຈະ​ດໍາ​ເນີນ​ການ​ຕົວ​ແບບ​ທີ່​ມີ​ອໍາ​ນາດ​ໃນ PC ທີ່​ສູງ​ອາ​ຍຸ​ຫຼື​ຊັບ​ພະ​ຍາ​ກອນ​ຈໍາ​ກັດ​, ໃນຂະນະທີ່ຮັກສາຄວາມເປັນສ່ວນຕົວແລະເອກະລາດຈາກເມຄ.

ການປຽບທຽບເຄື່ອງມື AI ທ້ອງຖິ່ນທີ່ດີທີ່ສຸດ: GPT4All ທຽບກັບ Jan AI

ທັງສອງແອັບພລິເຄຊັນສະເຫນີທຸກສິ່ງທີ່ທ່ານຕ້ອງການເພື່ອປ່ຽນ PC ຂອງທ່ານໃຫ້ເປັນສູນ AI ​​ທີ່ມີປະສິດທິພາບ, ແຕ່ແຕ່ລະຄົນມີຄຸນສົມບັດທີ່ເປັນເອກະລັກຂອງຕົນເອງທີ່ອາດຈະຊ່ວຍໃຫ້ທ່ານເລືອກຫນຶ່ງຫຼືອັນອື່ນຂຶ້ນຢູ່ກັບຄວາມມັກຂອງທ່ານ.

• ງ່າຍ​ທີ່​ຈະ​ນໍາ​ໃຊ້: GPT4ທັງໝົດ ມັນງ່າຍດາຍຫຼາຍ, ການຕິດຕັ້ງແມ່ນໄວແລະຮູບແບບການດາວໂຫຼດແມ່ນເຮັດຈາກການໂຕ້ຕອບທີ່ຊັດເຈນແລະເປັນມິດກັບຜູ້ໃຊ້. Jan AI, ໃນທາງກົງກັນຂ້າມ, ສະຫນອງອົງການຈັດຕັ້ງການສົນທະນາທີ່ກ້າວຫນ້າແລະຄວາມສາມາດໃນການປັບແຕ່ງຄໍາແນະນໍາແລະຂັ້ນຕອນການເຮັດວຽກຕື່ມອີກ.
• ຄວາມເຂົ້າກັນໄດ້: ທັງສອງສະຫນັບສະຫນູນ Windows, Mac ແລະ Linux. Jan AI ເພີ່ມການເຊື່ອມໂຍງໂດຍກົງກັບແອັບພລິເຄຊັນອື່ນໆໂດຍຜ່ານ API ທ້ອງຖິ່ນຂອງມັນ.
• ການຕິດຕາມຊັບພະຍາກອນ: Jan AI ສະຫນອງ dashboard ທີ່ໃຊ້ເວລາທີ່ແທ້ຈິງຂອງການບໍລິໂພກຊັບພະຍາກອນ, ເປັນປະໂຫຍດສໍາລັບທີມງານທີ່ມີຂໍ້ຈໍາກັດ. GPT4All ລາຍງານຄວາມຕ້ອງການຂັ້ນຕໍ່າ ແລະເຕືອນທ່ານວ່າຮາດແວຂອງທ່ານອາດສັ້ນລົງ.
• ສ່ວນຂະຫຍາຍ: Jan ອະນຸຍາດໃຫ້ທ່ານຕິດຕັ້ງສ່ວນຂະຫຍາຍທີ່ຂະຫຍາຍການເຮັດວຽກ (ຕົວຢ່າງ, ການຕິດຕາມຊັບພະຍາກອນທີ່ໄດ້ກ່າວມາ), ເຊິ່ງບໍ່ມີຢູ່ໃນ GPT4All.

ຄໍາແນະນໍາຂອງຂ້ອຍແມ່ນເພື່ອລອງທັງສອງແລະເບິ່ງວ່າອັນໃດທີ່ເຫມາະສົມທີ່ສຸດກັບຂະບວນການເຮັດວຽກຂອງເຈົ້າແລະທີມງານຂອງເຈົ້າ.

ການ​ແກ້​ໄຂ​ບັນ​ຫາ​ແລະ FAQs​

ມັນເປັນເລື່ອງທໍາມະດາທີ່ຈະພົບກັບສິ່ງທ້າທາຍບາງຢ່າງໃນເວລາດາວໂຫລດແລະຕິດຕັ້ງຕົວແບບ AI, ໂດຍສະເພາະໃນເວລາທີ່ຈັດການກັບໄຟລ໌ຂະຫນາດໃຫຍ່ຫຼືມີຊັບພະຍາກອນທີ່ຈໍາກັດໃນທີມງານ. ຫນຶ່ງໃນຄວາມຜິດພາດທີ່ພົບເລື້ອຍທີ່ສຸດແມ່ນຄວາມລົ້ມເຫລວໃນການດຶງຂໍ້ມູນ. ໃນກໍລະນີເຫຼົ່ານີ້, ມັນເປັນຄວາມຄິດທີ່ດີທີ່ຈະກວດສອບການເຊື່ອມຕໍ່ຂອງທ່ານ, ລ້າງພື້ນທີ່ດິສກ໌, ຫຼືເປີດແອັບພລິເຄຊັນໃຫມ່. ແຕ່ລະຊຸມຊົນສະຫນັບສະຫນູນໂຄງການ, ເຊັ່ນດຽວກັນກັບ wikis ຫຼື forum ຢ່າງເປັນທາງການຂອງເຂົາເຈົ້າ, ມັກຈະສະຫນອງການແກ້ໄຂເທື່ອລະຂັ້ນຕອນ.

ໃນດ້ານຄວາມປອດໄພ, ການນໍາໃຊ້ AI ທ້ອງຖິ່ນແມ່ນມີຄວາມໂປ່ງໃສຫຼາຍກ່ວາການພົວພັນກັບການບໍລິການທາງໄກ. ຂໍ້ມູນ ແລະປະຫວັດການສົນທະນາຂອງທ່ານຍັງຄົງຢູ່ໃນອຸປະກອນຂອງທ່ານ ແລະບໍ່ໄດ້ໃຊ້ເພື່ອຝຶກວິທີທາງນອກ. ຢ່າງໃດກໍ່ຕາມ, ເພື່ອເປັນການລະມັດລະວັງ, ມັນແນະນໍາໃຫ້ບໍ່ແບ່ງປັນຂໍ້ມູນທີ່ລະອຽດອ່ອນໃນແອັບພລິເຄຊັນ AI ໃດໆ, ເຖິງແມ່ນວ່າຢູ່ໃນທ້ອງຖິ່ນ.

ຈະເປັນແນວໃດຖ້າຫາກວ່າທ່ານຕ້ອງການປະສິດທິພາບເພີ່ມເຕີມ? ຖ້າທ່ານສາມາດອັບເກຣດ RAM (16 ຫຼື 32 GB) ຫຼື GPU ທີ່ທັນສະໄຫມໄດ້, ຮຸ່ນຂະຫນາດໃຫຍ່ຈະເຮັດວຽກໄດ້ກ້ຽງກວ່າແລະທ່ານຈະສາມາດທົດລອງໃຊ້ຄຸນສົມບັດຂັ້ນສູງເຊັ່ນການໂຕ້ຕອບຫຼາຍຮູບແບບ (ຂໍ້ຄວາມ, ຮູບພາບ, ສຽງ). ຖ້າບໍ່ດັ່ງນັ້ນ, ມີຕົວແບບທີ່ມີນ້ໍາຫນັກເບົາ, ເພີ່ມປະສິດທິພາບສູງທີ່ປະຕິບັດໄດ້ດີໃນວຽກງານປະຈໍາວັນສ່ວນໃຫຍ່.

ປະສົບການແມ່ນອອຟໄລຢ່າງສົມບູນ: ເມື່ອຕົວແບບໄດ້ຖືກດາວໂຫຼດແລ້ວ, ແອັບພລິເຄຊັນຈະເຮັດວຽກໂດຍບໍ່ມີການເຊື່ອມຕໍ່ອິນເຕີເນັດ, ເພີ່ມຄວາມເປັນສ່ວນຕົວສູງສຸດແລະຊ່ວຍໃຫ້ທ່ານສາມາດເຮັດວຽກໄດ້ໃນທຸກສະຖານະການ.

ລະບົບນິເວດ AI ທ້ອງຖິ່ນທີ່ພັດທະນາຢ່າງຕໍ່ເນື່ອງ

ການແກ້ໄຂ AI ທ້ອງຖິ່ນໃນປະຈຸບັນສໍາລັບ PCs ໄດ້ບັນລຸລະດັບທີ່ໃຫຍ່ເຕັມທີ່ໃນປັດຈຸບັນເຮັດໃຫ້ພວກເຂົາເປັນທາງເລືອກທີ່ແຂງສໍາລັບການບໍລິການຟັງ. ຄວາມຫລາກຫລາຍຂອງແບບຈໍາລອງ, ຄວາມງ່າຍໃນການຕິດຕັ້ງ, ແລະຄວາມສາມາດໃນການປັບແຕ່ງແມ່ນເປັນປະຊາທິປະໄຕໃນການເຂົ້າເຖິງປັນຍາປະດິດທີ່ກ້າວຫນ້າ.

ບໍລິສັດເຊັ່ນ Google ແລະ Microsoft ຍັງໄດ້ປະກອບສ່ວນຂອງເຂົາເຈົ້າໂດຍຜ່ານເວທີສູນກາງ (ເຊັ່ນ: AI Hub ຫຼື Copilot ໃນ Windows), ແຕ່ທ່າແຮງທີ່ແທ້ຈິງຂອງ AI ທ້ອງຖິ່ນແມ່ນຢູ່ໃນຄວາມຈິງທີ່ວ່າ. ທ່ານ​ສາ​ມາດ​ປັບ​ແຕ່ງ​ສູນ​ການ​ປັບ​ແຕ່ງ​ຂອງ​ທ່ານ​ໃຫ້​ກັບ​ຂະ​ບວນ​ການ​ວຽກ​ງານ​ສະ​ເພາະ​ຂອງ​ທ່ານ​, ຄວາມ​ເປັນ​ສ່ວນ​ຕົວ​, ແລະ​ເປົ້າ​ຫມາຍ​..

ໂດຍຮູ້ວ່າທ່ານເປັນຜູ້ໃຊ້ AI ທີ່ຊັດເຈນ, ພວກເຮົາແນະນໍາໃຫ້ທ່ານເລີ່ມຮຽນຮູ້ຫຼາຍກວ່າເກົ່າແລະໃຊ້ປະໂຫຍດຈາກຄວາມສາມາດຂອງ ChatGPT ແລະອື່ນໆ, ເພາະວ່າຕົວຢ່າງ, ຕອນນີ້ທ່ານສາມາດມີ. ການປຽບທຽບລາຄາໃນ ChatGPT.

ດຽວນີ້ເຈົ້າມີເຄື່ອງມື, ຄຳແນະນຳ ແລະເຄັດລັບຕ່າງໆ ທີ່ຈຳເປັນເພື່ອຫັນປ່ຽນເຄື່ອງຄອມພິວເຕີຂອງເຈົ້າໄປສູ່ສູນປັນຍາປະດິດທີ່ແທ້ຈິງ, ເອົານະວັດຕະກໍາແລະການຄວບຄຸມຢ່າງແທ້ຈິງກ່ຽວກັບຂໍ້ມູນຂອງທ່ານໄປສູ່ລະດັບອື່ນ. ພວກເຮົາຫວັງວ່າຕອນນີ້ເຈົ້າຮູ້ວິທີການໃຊ້ PC ຂອງທ່ານເປັນສູນ AI ​​ທ້ອງຖິ່ນ.