ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਸਥਾਨਕ ਏਆਈ ਹੱਬ ਵਜੋਂ ਕਿਵੇਂ ਵਰਤਣਾ ਹੈ: ਇੱਕ ਵਿਹਾਰਕ ਅਤੇ ਤੁਲਨਾਤਮਕ ਗਾਈਡ

¿ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਸਥਾਨਕ ਏਆਈ ਹੱਬ ਵਜੋਂ ਕਿਵੇਂ ਵਰਤਣਾ ਹੈ? ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਹੁਣ ਵੱਡੇ ਕਾਰਪੋਰੇਸ਼ਨਾਂ ਜਾਂ ਕਲਾਉਡ ਮਾਹਿਰਾਂ ਦਾ ਵਿਸ਼ੇਸ਼ ਖੇਤਰ ਨਹੀਂ ਰਿਹਾ। ਜ਼ਿਆਦਾ ਤੋਂ ਜ਼ਿਆਦਾ ਉਪਭੋਗਤਾ ਟੈਕਸਟ ਜਨਰੇਸ਼ਨ ਤੋਂ ਲੈ ਕੇ ਰਚਨਾਤਮਕ ਜਾਂ ਤਕਨੀਕੀ ਪ੍ਰਕਿਰਿਆਵਾਂ ਨੂੰ ਸਵੈਚਾਲਿਤ ਕਰਨ ਤੱਕ ਦੇ ਕੰਮਾਂ ਲਈ ਆਪਣੇ ਨਿੱਜੀ ਕੰਪਿਊਟਰਾਂ ਤੋਂ ਸਿੱਧੇ AI ਹੱਲਾਂ ਦਾ ਲਾਭ ਉਠਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ, ਇਹ ਸਭ ਵੱਧ ਤੋਂ ਵੱਧ ਗੋਪਨੀਯਤਾ ਦੇ ਨਾਲ ਅਤੇ ਬਾਹਰੀ ਸਰਵਰਾਂ 'ਤੇ ਨਿਰਭਰ ਕੀਤੇ ਬਿਨਾਂ। ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਇੱਕ ਸਥਾਨਕ ਏਆਈ ਹੱਬ ਵਿੱਚ ਬਦਲੋ ਇਹ ਇੱਕ ਕਿਫਾਇਤੀ ਹਕੀਕਤ ਹੈ ਅਤੇ ਲਗਭਗ ਕਿਸੇ ਵੀ ਉਤਸ਼ਾਹੀ, ਪੇਸ਼ੇਵਰ ਜਾਂ ਵਿਦਿਆਰਥੀ ਦੀ ਪਹੁੰਚ ਵਿੱਚ ਹੈ, ਭਾਵੇਂ ਤੁਹਾਡਾ ਉਪਕਰਣ ਅਤਿ-ਆਧੁਨਿਕ ਨਾ ਵੀ ਹੋਵੇ।

ਇਸ ਲੇਖ ਵਿੱਚ, ਤੁਸੀਂ ਸਿੱਖੋਗੇ ਕਿ ਆਪਣੇ ਕੰਪਿਊਟਰ ਨੂੰ ਆਪਣੇ AI ਈਕੋਸਿਸਟਮ ਦੇ ਮੂਲ ਵਿੱਚ ਕਿਵੇਂ ਬਦਲਣਾ ਹੈ। ਅਸੀਂ ਸਭ ਤੋਂ ਵੱਧ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੇ ਸੌਫਟਵੇਅਰ ਵਿਕਲਪਾਂ, ਹਾਰਡਵੇਅਰ, ਮਾਡਲਾਂ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਸੰਬੰਧੀ ਮੁੱਖ ਵਿਚਾਰਾਂ, ਅਤੇ ਗੋਪਨੀਯਤਾ ਅਤੇ ਵਿਅਕਤੀਗਤਕਰਨ ਦੋਵਾਂ ਦੇ ਮਾਮਲੇ ਵਿੱਚ ਸਥਾਨਕ AI ਨਾਲ ਕੰਮ ਕਰਨ ਦੇ ਫਾਇਦਿਆਂ 'ਤੇ ਵਿਚਾਰ ਕਰਾਂਗੇ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਮੈਂ ਤੁਹਾਨੂੰ LLM ਮਾਡਲਾਂ, ਐਪਾਂ ਅਤੇ ਸਰੋਤਾਂ ਦੀ ਚੋਣ ਕਰਨ, ਸਥਾਪਿਤ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਦਾ ਵੱਧ ਤੋਂ ਵੱਧ ਲਾਭ ਉਠਾਉਣ, ਸਭ ਤੋਂ ਵਧੀਆ ਪ੍ਰੋਗਰਾਮਾਂ ਦੀ ਤੁਲਨਾ ਕਰਨ ਅਤੇ ਤੁਹਾਡੇ AI ਅਨੁਭਵ ਨੂੰ ਸੁਚਾਰੂ ਅਤੇ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ ਲਈ ਸੁਝਾਅ ਪੇਸ਼ ਕਰਨ ਵਿੱਚ ਮਾਰਗਦਰਸ਼ਨ ਕਰਾਂਗਾ, ਭਾਵੇਂ ਉਹ Windows, Mac, ਜਾਂ Linux 'ਤੇ ਹੋਵੇ।

ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਸਥਾਨਕ ਏਆਈ ਹੱਬ ਵਜੋਂ ਕਿਉਂ ਵਰਤਣਾ ਹੈ?

ਆਪਣੇ ਕੰਪਿਊਟਰ ਨੂੰ ਕੇਂਦਰੀ AI ਪਲੇਟਫਾਰਮ ਵਜੋਂ ਵਰਤਣ ਨਾਲ ਅਜਿਹੇ ਫਾਇਦੇ ਮਿਲਦੇ ਹਨ ਜੋ ਕਲਾਉਡ ਸੇਵਾਵਾਂ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦੇ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਕਾਰਨਾਂ ਵਿੱਚੋਂ ਇੱਕ ਗੋਪਨੀਯਤਾ ਹੈ: ਜਦੋਂ ਤੁਸੀਂ ਕਲਾਉਡ ਵਿੱਚ ਚੈਟਬੋਟਸ ਨਾਲ ਗੱਲਬਾਤ ਕਰਦੇ ਹੋ, ਤਾਂ ਤੁਹਾਡਾ ਡੇਟਾ ਅਤੇ ਬੇਨਤੀਆਂ ਤੀਜੀ-ਧਿਰ ਦੇ ਸਰਵਰਾਂ 'ਤੇ ਸਟੋਰ ਹੋ ਜਾਂਦੀਆਂ ਹਨ ਅਤੇ, ਹਾਲਾਂਕਿ ਕੰਪਨੀਆਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਕਰਦੀਆਂ ਹਨ, ਲੀਕ ਜਾਂ ਦੁਰਵਰਤੋਂ ਦਾ ਖ਼ਤਰਾ ਹਮੇਸ਼ਾ ਰਹਿੰਦਾ ਹੈ।. ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਜਾਣਕਾਰੀ ਦੀ ਪ੍ਰਕਿਰਿਆ ਕਰਨ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਤੁਹਾਡਾ ਆਪਣੇ ਡੇਟਾ 'ਤੇ ਪੂਰਾ ਨਿਯੰਤਰਣ ਹੈ। ਕਿਸੇ ਹੋਰ ਕੋਲ ਤੁਹਾਡੇ ਸਵਾਲਾਂ, ਜਵਾਬਾਂ, ਜਾਂ ਫਾਈਲਾਂ ਤੱਕ ਪਹੁੰਚ ਨਹੀਂ ਹੈ।

ਇੱਕ ਹੋਰ ਵੱਡਾ ਫਾਇਦਾ ਇੰਟਰਨੈੱਟ ਕਨੈਕਸ਼ਨ ਜ਼ਰੂਰਤਾਂ ਦੀ ਅਣਹੋਂਦ ਹੈ। ਇੱਕ ਔਨ-ਪ੍ਰੀਮਾਈਸਿਸ ਸਿਸਟਮ ਦੇ ਨਾਲ, ਤੁਸੀਂ AI ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦਾ ਆਨੰਦ ਮਾਣ ਸਕਦੇ ਹੋ ਭਾਵੇਂ ਤੁਹਾਡਾ ਕਨੈਕਸ਼ਨ ਅਸਥਿਰ ਹੈ, ਮਾੜੀ ਕਵਰੇਜ ਵਾਲੇ ਖੇਤਰ ਵਿੱਚ ਰਹਿੰਦੇ ਹੋ, ਜਾਂ ਸੁਰੱਖਿਆ ਕਾਰਨਾਂ ਕਰਕੇ ਔਫਲਾਈਨ ਕੰਮ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹੋ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਅਨੁਕੂਲਤਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੈ: ਤੁਸੀਂ ਉਹ ਮਾਡਲ ਚੁਣ ਸਕਦੇ ਹੋ ਜੋ ਤੁਹਾਡੇ ਲਈ ਸਭ ਤੋਂ ਵਧੀਆ ਹੋਵੇ, ਇਸਨੂੰ ਆਪਣੀਆਂ ਜ਼ਰੂਰਤਾਂ ਅਨੁਸਾਰ ਅਨੁਕੂਲਿਤ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਹਰੇਕ ਪੈਰਾਮੀਟਰ ਨੂੰ ਵਧੀਆ ਬਣਾ ਸਕਦੇ ਹੋ - ਅਜਿਹਾ ਕੁਝ ਜੋ ਕਿ ਡੱਬਾਬੰਦ ​​ਕਲਾਉਡ ਸੇਵਾਵਾਂ ਨਾਲ ਬਹੁਤ ਘੱਟ ਸੰਭਵ ਹੁੰਦਾ ਹੈ।

ਆਰਥਿਕ ਪਹਿਲੂ ਵੀ ਘੱਟ ਮਹੱਤਵਪੂਰਨ ਨਹੀਂ ਹੈ। ਹਾਲਾਂਕਿ ਕਲਾਉਡ ਸੇਵਾਵਾਂ ਮੁਫਤ ਸੰਸਕਰਣ ਪੇਸ਼ ਕਰਦੀਆਂ ਹਨ, ਉੱਨਤ ਵਰਤੋਂ ਵਿੱਚ ਗਾਹਕੀਆਂ, ਟੋਕਨ ਭੁਗਤਾਨ, ਜਾਂ ਸਰੋਤ ਖਪਤ ਸ਼ਾਮਲ ਹੁੰਦੀ ਹੈ। ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਦੇ ਸਮੇਂ, ਇੱਕੋ ਇੱਕ ਸੀਮਾ ਤੁਹਾਡੇ ਹਾਰਡਵੇਅਰ ਦੀ ਸਮਰੱਥਾ ਹੁੰਦੀ ਹੈ।

ਤੁਹਾਨੂੰ ਸ਼ੁਰੂਆਤ ਕਰਨ ਲਈ ਕੀ ਚਾਹੀਦਾ ਹੈ? ਹਾਰਡਵੇਅਰ ਅਤੇ ਮੁੱਢਲੀਆਂ ਜ਼ਰੂਰਤਾਂ

ਇਹ ਆਮ ਵਿਚਾਰ ਕਿ ਏਆਈ ਨਾਲ ਕੰਮ ਕਰਨ ਲਈ ਅਤਿ-ਆਧੁਨਿਕ ਕੰਪਿਊਟਰਾਂ ਜਾਂ ਅਤਿ-ਸ਼ਕਤੀਸ਼ਾਲੀ GPU ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਹੁਣ ਬੀਤੇ ਦੀ ਗੱਲ ਹੈ। ਮੌਜੂਦਾ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਘਰੇਲੂ ਕੰਪਿਊਟਰਾਂ 'ਤੇ ਚਲਾਉਣ ਲਈ ਅਨੁਕੂਲ ਬਣਾਇਆ ਗਿਆ ਹੈ, ਅਤੇ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਬਹੁਤ ਸਾਰੇ, ਖਾਸ ਕਰਕੇ ਕੁਆਂਟਾਈਜ਼ਡ ਵਾਲੇ, ਸਮਰਪਿਤ ਗ੍ਰਾਫਿਕਸ ਕਾਰਡ ਤੋਂ ਬਿਨਾਂ ਵੀ ਚੱਲ ਸਕਦਾ ਹੈ, ਸਿਰਫ਼ CPU ਦੀ ਵਰਤੋਂ ਕਰਕੇ।

ਸੁਚਾਰੂ ਸੰਚਾਲਨ ਅਤੇ ਇੱਕ ਸੁਹਾਵਣਾ ਅਨੁਭਵ ਲਈ, ਘੱਟੋ-ਘੱਟ 8-16 GB RAM ਰੱਖਣ ਦੀ ਸਿਫਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਅਤੇ ਇੱਕ ਕਾਫ਼ੀ ਆਧੁਨਿਕ ਪ੍ਰੋਸੈਸਰ (ਛੇਵੀਂ ਪੀੜ੍ਹੀ ਤੋਂ ਬਾਅਦ ਦਾ ਕੋਰ i5 ਜਾਂ i7, ਜਾਂ ਰਾਈਜ਼ਨ ਦੇ ਬਰਾਬਰ)। ਜੇਕਰ ਤੁਸੀਂ ਵੱਡੇ ਮਾਡਲਾਂ ਨਾਲ ਕੰਮ ਕਰ ਰਹੇ ਹੋ ਜਾਂ ਤੇਜ਼ ਪ੍ਰਦਰਸ਼ਨ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ 4GB VRAM ਵਾਲਾ GPU ਬਹੁਤ ਫ਼ਰਕ ਪਾਉਂਦਾ ਹੈ, ਖਾਸ ਕਰਕੇ ਚਿੱਤਰ ਬਣਾਉਣ ਜਾਂ ਬਹੁਤ ਲੰਬੇ ਟੈਕਸਟ ਜਵਾਬਾਂ ਵਰਗੇ ਕੰਮਾਂ ਲਈ।

ਮੈਕ 'ਤੇ, ਐਪਲ M1 ਚਿਪਸ ਅਤੇ ਇਸ ਤੋਂ ਉੱਚੇ ਵੀ ਸਥਾਨਕ LLM ਮਾਡਲਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਦਾ ਜਵਾਬ ਬਹੁਤ ਵਧੀਆ ਹੁੰਦਾ ਹੈ। ਸੰਖੇਪ ਵਿੱਚ, ਜੇਕਰ ਤੁਹਾਡਾ ਪੀਸੀ ਜਾਂ ਲੈਪਟਾਪ ਸੱਤ ਸਾਲ ਤੋਂ ਘੱਟ ਪੁਰਾਣਾ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਸ਼ਾਇਦ ਸਥਾਨਕ ਏਆਈ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨਾ ਸ਼ੁਰੂ ਕਰ ਸਕਦੇ ਹੋ।

ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਸਥਾਨਕ ਏਆਈ ਹੱਬ ਵਿੱਚ ਬਦਲਣ ਲਈ ਤੁਹਾਨੂੰ ਕਿਹੜੇ ਐਪਸ ਅਤੇ ਪਲੇਟਫਾਰਮਾਂ ਦੀ ਲੋੜ ਹੈ?

ਤੁਹਾਡੇ ਸਥਾਨਕ ਏਆਈ ਸਿਸਟਮ ਦਾ ਦਿਲ ਵਿਸ਼ੇਸ਼ ਐਪਲੀਕੇਸ਼ਨ ਹਨ ਜੋ ਤੁਹਾਡੇ ਹਾਰਡਵੇਅਰ ਅਤੇ ਏਆਈ ਮਾਡਲਾਂ ਵਿਚਕਾਰ ਪਾੜੇ ਨੂੰ ਪੂਰਾ ਕਰਦੇ ਹਨ। ਵਰਤੋਂ ਵਿੱਚ ਆਸਾਨੀ, ਸ਼ਕਤੀ ਅਤੇ ਲਚਕਤਾ ਲਈ ਸਭ ਤੋਂ ਵੱਧ ਧਿਆਨ ਦੇਣ ਯੋਗ, ਇਹ ਜ਼ਿਕਰ ਯੋਗ ਹੈ:

• GPT4All: ਸਭ ਤੋਂ ਪ੍ਰਸਿੱਧ ਅਤੇ ਦੋਸਤਾਨਾ ਵਿਕਲਪਾਂ ਵਿੱਚੋਂ ਇੱਕ। ਇਹ ਤੁਹਾਨੂੰ ਕਈ ਤਰ੍ਹਾਂ ਦੇ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਨੂੰ ਡਾਊਨਲੋਡ ਅਤੇ ਸਥਾਪਿਤ ਕਰਨ, ਉਹਨਾਂ ਨਾਲ ਇੰਟਰੈਕਟ ਕਰਨ ਅਤੇ ਵੱਖ-ਵੱਖ ਮਾਪਦੰਡਾਂ ਨੂੰ ਕੌਂਫਿਗਰ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ। ਇਹ ਕਰਾਸ-ਪਲੇਟਫਾਰਮ (ਵਿੰਡੋਜ਼, ਮੈਕ ਅਤੇ ਲੀਨਕਸ) ਹੈ ਅਤੇ ਇਸਦੀ ਇੰਸਟਾਲੇਸ਼ਨ ਪ੍ਰਕਿਰਿਆ ਕਿਸੇ ਵੀ ਹੋਰ ਡੈਸਕਟੌਪ ਪ੍ਰੋਗਰਾਮ ਵਾਂਗ ਸਰਲ ਹੈ।
• ਜਨਵਰੀ ਏਆਈ: ਇਹ ਆਪਣੇ ਆਧੁਨਿਕ ਇੰਟਰਫੇਸ, ਗੱਲਬਾਤ ਦੇ ਥ੍ਰੈੱਡਾਂ ਨੂੰ ਸੰਗਠਿਤ ਕਰਨ ਦੀ ਯੋਗਤਾ, ਅਤੇ ਸਥਾਨਕ ਅਤੇ ਰਿਮੋਟ ਮਾਡਲਾਂ (ਉਦਾਹਰਣ ਵਜੋਂ, ਓਪਨਏਆਈ ਤੋਂ, API ਰਾਹੀਂ) ਨਾਲ ਇਸਦੀ ਅਨੁਕੂਲਤਾ ਲਈ ਵੱਖਰਾ ਹੈ। ਇਸ ਤੋਂ ਇਲਾਵਾ, ਇਹ ਆਪਣਾ ਸਥਾਨਕ API ਪੇਸ਼ ਕਰਦਾ ਹੈ ਜੋ OpenAI ਦੀ ਨਕਲ ਕਰਦਾ ਹੈ, ਜਿਸ ਨਾਲ Jan ਨੂੰ AI ਬੈਕਐਂਡ ਦੇ ਤੌਰ 'ਤੇ ਹੋਰ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਏਕੀਕ੍ਰਿਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਲਈ ChatGPT API ਕੁੰਜੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਪਰ ਇੰਟਰਨੈੱਟ 'ਤੇ ਨਿਰਭਰ ਕੀਤੇ ਬਿਨਾਂ।
• Llama.cpp ਅਤੇ LM ਸਟੂਡੀਓ: ਇਹ ਟੂਲ ਤੁਹਾਨੂੰ ਸਥਾਨਕ ਤੌਰ 'ਤੇ LLM ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣ ਦੀ ਆਗਿਆ ਦਿੰਦੇ ਹਨ ਅਤੇ ਹੱਗਿੰਗ ਫੇਸ ਅਤੇ ਹੋਰ ਰਿਪੋਜ਼ਟਰੀਆਂ ਤੋਂ ਮਾਡਲਾਂ ਦੀ ਇੱਕ ਵਿਆਪਕ ਲਾਇਬ੍ਰੇਰੀ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।

ਮੁੱਢਲੀ ਪ੍ਰਕਿਰਿਆ ਆਮ ਤੌਰ 'ਤੇ ਇਸ ਪ੍ਰਕਾਰ ਹੁੰਦੀ ਹੈ: ਚੁਣੀ ਹੋਈ ਐਪ ਨੂੰ ਇਸਦੀ ਅਧਿਕਾਰਤ ਵੈੱਬਸਾਈਟ ਤੋਂ ਡਾਊਨਲੋਡ ਕਰੋ, ਇਸਨੂੰ ਆਪਣੇ ਸਿਸਟਮ 'ਤੇ ਸਥਾਪਿਤ ਕਰੋ, ਅਤੇ ਉਪਲਬਧ ਟੈਂਪਲੇਟਾਂ (ਜਿਨ੍ਹਾਂ ਨੂੰ ਅਕਸਰ "ਦ ਹੱਬ" ਜਾਂ ਸਮਾਨ ਕਿਹਾ ਜਾਂਦਾ ਹੈ) ਦੀ ਗੈਲਰੀ ਬ੍ਰਾਊਜ਼ ਕਰੋ। ਉੱਥੇ ਤੁਸੀਂ ਆਪਣੀ ਪਸੰਦ ਦਾ ਮਾਡਲ ਚੁਣ ਸਕਦੇ ਹੋ, ਇਸਦੇ ਆਕਾਰ ਅਤੇ ਮੈਮੋਰੀ ਜ਼ਰੂਰਤਾਂ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਇੰਟਰਫੇਸ ਤੋਂ ਹੀ ਸਭ ਕੁਝ ਡਾਊਨਲੋਡ ਕਰ ਸਕਦੇ ਹੋ।

ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਸਥਾਪਤ ਕਰਨ ਲਈ ਚੋਟੀ ਦੇ AI ਮਾਡਲ

ਓਪਨ ਸੋਰਸ LLM ਮਾਡਲਾਂ ਦੀ ਦੁਨੀਆ ਵਿਸ਼ਾਲ ਹੈ ਅਤੇ ਨਿਰੰਤਰ ਵਧ ਰਹੀ ਹੈ। OpenAI ਦੁਆਰਾ ਪੇਸ਼ ਕੀਤੇ ਗਏ ਵਿਕਲਪਾਂ (ਜਿਨ੍ਹਾਂ ਲਈ ਕਲਾਉਡ ਕਨੈਕਸ਼ਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ) ਤੋਂ ਇਲਾਵਾ, ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਕੰਮ ਕਰਨ ਲਈ ਤਿਆਰ ਬਹੁਤ ਸਾਰੇ ਵਿਕਲਪ ਹਨ: Mistral 7B, TinyLlama Chat, Nous Hermes 2, Mixol 8X 7B, ਹੋਰਾਂ ਦੇ ਨਾਲ। ਇਹਨਾਂ ਵਿੱਚੋਂ ਬਹੁਤ ਸਾਰੇ ਮਾਡਲ ਕੁਆਂਟਾਈਜ਼ਡ ਹਨ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਉਹ ਘੱਟ ਜਗ੍ਹਾ ਲੈਂਦੇ ਹਨ ਅਤੇ ਥੋੜ੍ਹੀ ਜਿਹੀ ਸ਼ੁੱਧਤਾ ਦੀ ਕੁਰਬਾਨੀ ਦੇਣ ਦੀ ਕੀਮਤ 'ਤੇ ਘੱਟ RAM ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਸ਼ੁਰੂਆਤ ਕਰਨ ਵਾਲਿਆਂ ਲਈ ਛੋਟੇ-ਮੱਧਮ ਮਾਡਲਾਂ, ਜਿਵੇਂ ਕਿ Mistro Instruct 7B ਜਾਂ TinyLlama Chat, ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਜਲਦੀ ਡਿਸਚਾਰਜ ਹੁੰਦੇ ਹਨ ਅਤੇ ਸਿਸਟਮ ਨੂੰ ਓਵਰਲੋਡ ਨਹੀਂ ਕਰਦੇ। ਜੇਕਰ ਤੁਹਾਡੇ ਕੰਪਿਊਟਰ ਵਿੱਚ ਜ਼ਿਆਦਾ RAM ਅਤੇ ਸਟੋਰੇਜ ਸਪੇਸ ਹੈ, Mixol 8X 7B ਵਰਗੇ ਹੋਰ ਸੰਪੂਰਨ ਮਾਡਲਾਂ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ, ਇਹ ਜਾਣਦੇ ਹੋਏ ਕਿ, ਉਦਾਹਰਣ ਵਜੋਂ, ਇਸ ਨੂੰ ਸਿਰਫ਼ ਮਾਡਲ ਲਈ 26 GB ਤੱਕ ਡਿਸਕ ਸਪੇਸ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ।

ਲਗਭਗ ਸਾਰੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਵਿੱਚ ਤੁਸੀਂ ਮਾਡਲਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਆਕਾਰ, ਮੁੱਖ ਭਾਸ਼ਾ, ਲਾਇਸੈਂਸਾਂ ਜਾਂ ਉਹਨਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੇ ਗਏ ਕੰਮਾਂ ਦੀ ਕਿਸਮ ਦੇ ਅਧਾਰ ਤੇ ਫਿਲਟਰ ਕਰ ਸਕਦੇ ਹੋ। (ਟੈਕਸਟ ਲਿਖਣਾ, ਕੋਡ ਜਨਰੇਸ਼ਨ, ਅਨੁਵਾਦ, ਆਦਿ)। ਮਾਡਲ ਦਾ ਉਦੇਸ਼ ਜਿੰਨਾ ਜ਼ਿਆਦਾ ਖਾਸ ਹੋਵੇਗਾ, ਤੁਹਾਨੂੰ ਓਨੇ ਹੀ ਸਹੀ ਨਤੀਜੇ ਮਿਲਣਗੇ।

ਸਥਾਨਕ AI ਸਥਾਪਤ ਕਰਨ ਅਤੇ ਵਰਤਣ ਲਈ ਕਦਮ-ਦਰ-ਕਦਮ ਪ੍ਰਕਿਰਿਆ

1. ਐਪਲੀਕੇਸ਼ਨ ਨੂੰ ਡਾਊਨਲੋਡ ਅਤੇ ਸਥਾਪਿਤ ਕਰੋ: ਆਪਣੇ ਪਸੰਦੀਦਾ ਟੂਲ (ਜਿਵੇਂ ਕਿ, GPT4All ਜਾਂ Jan AI) ਦੀ ਅਧਿਕਾਰਤ ਵੈੱਬਸਾਈਟ 'ਤੇ ਜਾਓ, ਆਪਣੇ ਓਪਰੇਟਿੰਗ ਸਿਸਟਮ ਲਈ ਇੰਸਟਾਲਰ ਡਾਊਨਲੋਡ ਕਰੋ, ਅਤੇ ਔਨ-ਸਕ੍ਰੀਨ ਕਦਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰੋ। ਵਿੰਡੋਜ਼ ਵਿੱਚ, ਇਹ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਕਲਾਸਿਕ ਵਿਜ਼ਾਰਡ ਹੁੰਦਾ ਹੈ; ਮੈਕ 'ਤੇ, M1/M2 ਪ੍ਰੋਸੈਸਰ ਵਾਲੇ ਕੰਪਿਊਟਰਾਂ ਲਈ ਰੋਸੇਟਾ ਨੂੰ ਸਮਰੱਥ ਬਣਾਉਣ ਦੀ ਲੋੜ ਹੋ ਸਕਦੀ ਹੈ; ਲੀਨਕਸ ਤੇ, ਤੁਹਾਡੇ ਕੋਲ DEB ਜਾਂ AppImage ਪੈਕੇਜ ਉਪਲਬਧ ਹੋਣਗੇ।

2. AI ਮਾਡਲਾਂ ਦੀ ਪੜਚੋਲ ਕਰੋ ਅਤੇ ਡਾਊਨਲੋਡ ਕਰੋ: ਇੱਕ ਵਾਰ ਜਦੋਂ ਤੁਸੀਂ ਐਪਲੀਕੇਸ਼ਨ ਖੋਲ੍ਹ ਲੈਂਦੇ ਹੋ, ਤਾਂ ਮਾਡਲ ਐਕਸਪਲੋਰਰ ਤੱਕ ਪਹੁੰਚ ਕਰੋ (GPT4All ਵਿੱਚ ਇਹ "ਡਿਸਕਵਰੀ ਮਾਡਲ ਸਪੇਸ" ਹੈ, ਜਨਵਰੀ AI ਵਿੱਚ, "ਦ ਹੱਬ")। ਫਿਲਟਰ ਕਰੋ, ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰੋ, ਅਤੇ ਜਦੋਂ ਤੁਹਾਨੂੰ ਉਹ ਮਾਡਲ ਮਿਲਦਾ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਸਭ ਤੋਂ ਵੱਧ ਪਸੰਦ ਆਉਂਦਾ ਹੈ, ਤਾਂ "ਡਾਊਨਲੋਡ" 'ਤੇ ਕਲਿੱਕ ਕਰੋ। ਜਾਰੀ ਰੱਖਣ ਤੋਂ ਪਹਿਲਾਂ ਤੁਹਾਨੂੰ ਆਕਾਰ ਅਤੇ ਜ਼ਰੂਰਤਾਂ ਬਾਰੇ ਸੂਚਿਤ ਕੀਤਾ ਜਾਵੇਗਾ।

3. ਚੋਣ ਅਤੇ ਪਹਿਲਾ ਐਗਜ਼ੀਕਿਊਸ਼ਨ: ਇੱਕ ਵਾਰ ਟੈਂਪਲੇਟ ਡਾਊਨਲੋਡ ਹੋ ਜਾਣ ਤੋਂ ਬਾਅਦ, ਇਸਨੂੰ ਐਪ ਵਿੱਚ ਚੁਣੋ ਅਤੇ ਇੱਕ ਨਵੀਂ ਗੱਲਬਾਤ ਜਾਂ ਕੰਮ ਸ਼ੁਰੂ ਕਰੋ। ਆਪਣੀ ਪੁੱਛਗਿੱਛ ਜਾਂ ਬੇਨਤੀ ਲਿਖੋ ਅਤੇ ਜਵਾਬ ਦੀ ਉਡੀਕ ਕਰੋ। ਜੇਕਰ ਤੁਹਾਨੂੰ ਹੌਲੀ ਪ੍ਰਤੀਕਿਰਿਆ ਮਿਲਦੀ ਹੈ, ਤਾਂ ਹਲਕੇ ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ ਜਾਂ ਸੈਟਿੰਗਾਂ ਨੂੰ ਵਿਵਸਥਿਤ ਕਰੋ।

4. ਪੈਰਾਮੀਟਰ ਐਡਜਸਟ ਕਰੋ ਅਤੇ ਪ੍ਰਯੋਗ ਕਰੋ: ਜ਼ਿਆਦਾਤਰ ਪ੍ਰੋਗਰਾਮਾਂ ਵਿੱਚ ਤੁਸੀਂ ਟੋਕਨਾਂ ਦੀ ਵੱਧ ਤੋਂ ਵੱਧ ਗਿਣਤੀ (ਜੋ ਜਵਾਬਾਂ ਦੀ ਲੰਬਾਈ ਨੂੰ ਸੀਮਤ ਕਰਦੀ ਹੈ) ਨੂੰ ਸੋਧ ਸਕਦੇ ਹੋ, ਨਾਲ ਹੀ ਹੋਰ ਵੇਰਵਿਆਂ ਜਿਵੇਂ ਕਿ ਤਾਪਮਾਨ, top_p, ਆਦਿ ਨੂੰ ਵੀ ਸੋਧ ਸਕਦੇ ਹੋ। ਵੱਖ-ਵੱਖ ਸੈਟਿੰਗਾਂ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰੋ ਜਦੋਂ ਤੱਕ ਤੁਹਾਨੂੰ ਤੁਹਾਡੇ ਲਈ ਕੰਮ ਕਰਨ ਵਾਲੇ ਨਤੀਜਿਆਂ ਦੀ ਗਤੀ ਅਤੇ ਗੁਣਵੱਤਾ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਨਹੀਂ ਮਿਲ ਜਾਂਦਾ।

5. ਥਰਿੱਡਾਂ ਨੂੰ ਸੰਗਠਿਤ ਅਤੇ ਅਨੁਕੂਲਿਤ ਕਰੋ: ਬਹੁਤ ਸਾਰੇ ਪ੍ਰੋਗਰਾਮ ਤੁਹਾਨੂੰ ਵੱਖ-ਵੱਖ ਨਾਵਾਂ ਅਤੇ ਉਦੇਸ਼ਾਂ (ਵੀਡੀਓ ਵਿਚਾਰ, ਰਚਨਾਤਮਕ ਲਿਖਤ, ਕੋਡਿੰਗ ਵਿੱਚ ਮਦਦ, ਆਦਿ) ਨਾਲ ਗੱਲਬਾਤ ਥ੍ਰੈੱਡ ਬਣਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ, ਅਤੇ ਤੁਸੀਂ ਹਰੇਕ ਥ੍ਰੈੱਡ ਲਈ ਕਸਟਮ ਨਿਰਦੇਸ਼ ਵੀ ਸੁਰੱਖਿਅਤ ਕਰ ਸਕਦੇ ਹੋ, ਜੋ ਆਪਸੀ ਤਾਲਮੇਲ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਉਂਦਾ ਹੈ।

ਸਰੋਤ ਪ੍ਰਬੰਧਨ ਅਤੇ ਪ੍ਰਦਰਸ਼ਨ ਅਨੁਕੂਲਤਾ

ਸਥਾਨਕ ਏਆਈ ਦੀ ਮੁੱਖ ਸੀਮਾ ਹਾਰਡਵੇਅਰ ਹੈ: ਜਦੋਂ ਮਾਡਲ ਤੁਹਾਡੀ RAM ਲਈ ਬਹੁਤ ਵੱਡਾ ਹੁੰਦਾ ਹੈ, ਤਾਂ ਸਲੋਡਾਊਨ, ਕਰੈਸ਼, ਜਾਂ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਗਲਤੀਆਂ ਵੀ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਜਦੋਂ ਤੁਸੀਂ ਆਪਣੀ ਡਿਵਾਈਸ ਲਈ ਬਹੁਤ ਭਾਰੀ ਮਾਡਲ ਚੁਣਦੇ ਹੋ ਤਾਂ ਸਭ ਤੋਂ ਵਧੀਆ ਐਪਾਂ ਪਹਿਲਾਂ ਤੋਂ ਚੇਤਾਵਨੀਆਂ ਦਿੰਦੀਆਂ ਹਨ।

ਜਾਨ ਏਆਈ ਇੱਕ ਔਨ-ਸਕ੍ਰੀਨ ਸਰੋਤ ਮਾਨੀਟਰ ਨੂੰ ਏਕੀਕ੍ਰਿਤ ਕਰਕੇ ਉੱਤਮ ਹੈ ਜੋ ਤੁਹਾਨੂੰ ਅਸਲ ਸਮੇਂ ਵਿੱਚ RAM, CPU ਅਤੇ ਪ੍ਰੋਸੈਸਿੰਗ ਸਪੀਡ (ਪ੍ਰਤੀ ਸਕਿੰਟ ਟੋਕਨ) ਦੀ ਖਪਤ ਦਿਖਾਉਂਦਾ ਹੈ। ਇਸ ਤਰ੍ਹਾਂ, ਤੁਸੀਂ ਹਮੇਸ਼ਾ ਜਾਣ ਸਕਦੇ ਹੋ ਕਿ ਤੁਹਾਡੀ ਟੀਮ ਆਪਣੀ ਸੀਮਾ 'ਤੇ ਹੈ ਜਾਂ ਕੀ ਤੁਸੀਂ ਅਜੇ ਵੀ ਇਸ ਵਿੱਚੋਂ ਹੋਰ ਵੀ ਕੱਢ ਸਕਦੇ ਹੋ।

ਜੇਕਰ ਤੁਹਾਡੇ ਪੀਸੀ ਕੋਲ ਐਨਵੀਡੀਆ ਗ੍ਰਾਫਿਕਸ ਕਾਰਡ ਹੈ ਅਤੇ ਤੁਸੀਂ ਇਸਦਾ ਫਾਇਦਾ ਉਠਾਉਣਾ ਚਾਹੁੰਦੇ ਹੋ, ਕੁਝ ਐਪਲੀਕੇਸ਼ਨਾਂ CUDA ਸਥਾਪਤ ਕਰਕੇ GPU ਪ੍ਰਵੇਗ ਦੀ ਆਗਿਆ ਦਿੰਦੀਆਂ ਹਨ।. ਇਹ ਭਾਰੀ ਕੰਮਾਂ ਵਿੱਚ ਗਤੀ ਨੂੰ ਕਈ ਗੁਣਾ ਵਧਾ ਸਕਦਾ ਹੈ। GPU ਸਹਾਇਤਾ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਸਥਾਪਿਤ ਅਤੇ ਸਮਰੱਥ ਕਰਨ ਲਈ ਹਮੇਸ਼ਾਂ ਅਧਿਕਾਰਤ ਦਸਤਾਵੇਜ਼ ਵੇਖੋ।

ਮਾਤਰਾ ਨਿਰਧਾਰਤ ਕਰਨ ਦੇ ਫਾਇਦੇ: ਹਲਕੇ ਅਤੇ ਵਧੇਰੇ ਕੁਸ਼ਲ ਮਾਡਲ

ਸਥਾਨਕ ਏਆਈ ਬਾਰੇ ਗੱਲ ਕਰਦੇ ਸਮੇਂ ਇੱਕ ਆਮ ਸ਼ਬਦ "ਕੁਆਂਟਾਈਜ਼ੇਸ਼ਨ" ਹੈ। ਇਸ ਵਿੱਚ ਮਾਡਲ ਵਜ਼ਨ ਨੂੰ ਘੱਟ ਬਿੱਟਾਂ ਨਾਲ ਸੰਖਿਆਵਾਂ ਵਿੱਚ ਬਦਲ ਕੇ ਸਟੋਰ ਕਰਨ ਦੀ ਸ਼ੁੱਧਤਾ ਨੂੰ ਘਟਾਉਣਾ ਸ਼ਾਮਲ ਹੈ, ਜੋ ਮਾਡਲ ਦੀ ਡਿਸਕ ਅਤੇ ਮੈਮੋਰੀ ਦੇ ਆਕਾਰ ਨੂੰ ਬਹੁਤ ਘੱਟ ਕਰਦਾ ਹੈ, ਜਿਸਦਾ ਜਵਾਬ ਗੁਣਵੱਤਾ 'ਤੇ ਘੱਟੋ ਘੱਟ ਪ੍ਰਭਾਵ ਪੈਂਦਾ ਹੈ।

ਜ਼ਿਆਦਾਤਰ ਡਾਊਨਲੋਡ ਕਰਨ ਯੋਗ ਮਾਡਲ ਪਹਿਲਾਂ ਹੀ ਵੱਖ-ਵੱਖ ਸੰਸਕਰਣਾਂ (4-ਬਿੱਟ, 8-ਬਿੱਟ, ਆਦਿ) ਵਿੱਚ ਮਾਤਰਾਬੱਧ ਆਉਂਦੇ ਹਨ। ਜੇਕਰ ਤੁਸੀਂ ਜੋ ਮਾਡਲ ਚਾਹੁੰਦੇ ਹੋ ਉਹ ਸਿਰਫ਼ "ਪੂਰੇ" ਸੰਸਕਰਣ ਵਿੱਚ ਮੌਜੂਦ ਹੈ ਅਤੇ ਤੁਹਾਡੀ ਟੀਮ ਇਸਨੂੰ ਹਿਲਾ ਨਹੀਂ ਸਕਦੀ, ਤਾਂ ਅਜਿਹੀਆਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਹਨ ਜੋ ਤੁਹਾਨੂੰ ਇਸਨੂੰ ਖੁਦ ਮਾਪਣ ਦੀ ਆਗਿਆ ਦਿੰਦੀਆਂ ਹਨ (ਉਦਾਹਰਣ ਵਜੋਂ, GPTQ)।

ਇਹ ਤਕਨੀਕ ਪੁਰਾਣੇ ਜਾਂ ਸਰੋਤ-ਸੀਮਤ ਪੀਸੀ 'ਤੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਣਾ ਸੰਭਵ ਬਣਾਉਂਦਾ ਹੈ, ਗੋਪਨੀਯਤਾ ਅਤੇ ਕਲਾਉਡ ਤੋਂ ਸੁਤੰਤਰਤਾ ਬਣਾਈ ਰੱਖਦੇ ਹੋਏ।

ਸਭ ਤੋਂ ਵਧੀਆ ਸਥਾਨਕ AI ਟੂਲਸ ਦੀ ਤੁਲਨਾ: GPT4All ਬਨਾਮ Jan AI

ਦੋਵੇਂ ਐਪਲੀਕੇਸ਼ਨਾਂ ਤੁਹਾਡੇ ਪੀਸੀ ਨੂੰ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਹੱਬ ਵਿੱਚ ਬਦਲਣ ਲਈ ਲੋੜੀਂਦੀ ਹਰ ਚੀਜ਼ ਪ੍ਰਦਾਨ ਕਰਦੀਆਂ ਹਨ, ਪਰ ਹਰੇਕ ਦੀਆਂ ਆਪਣੀਆਂ ਵਿਲੱਖਣ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਹਨ ਜੋ ਤੁਹਾਡੀਆਂ ਤਰਜੀਹਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਇੱਕ ਜਾਂ ਦੂਜੀ ਦੀ ਚੋਣ ਕਰਨ ਵਿੱਚ ਤੁਹਾਡੀ ਮਦਦ ਕਰ ਸਕਦੀਆਂ ਹਨ।

• ਵਰਤਣ ਲਈ ਸੌਖ: GPT4 ਸਾਰੇ ਇਹ ਬਹੁਤ ਸੌਖਾ ਹੈ, ਇੰਸਟਾਲੇਸ਼ਨ ਤੇਜ਼ ਹੈ ਅਤੇ ਮਾਡਲਾਂ ਨੂੰ ਡਾਊਨਲੋਡ ਕਰਨਾ ਇੱਕ ਸਪਸ਼ਟ ਅਤੇ ਉਪਭੋਗਤਾ-ਅਨੁਕੂਲ ਇੰਟਰਫੇਸ ਤੋਂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। ਦੂਜੇ ਪਾਸੇ, ਜਾਨ ਏਆਈ ਵਧੇਰੇ ਉੱਨਤ ਗੱਲਬਾਤ ਸੰਗਠਨ ਅਤੇ ਨਿਰਦੇਸ਼ਾਂ ਅਤੇ ਵਰਕਫਲੋ ਨੂੰ ਹੋਰ ਅਨੁਕੂਲਿਤ ਕਰਨ ਦੀ ਯੋਗਤਾ ਦੀ ਪੇਸ਼ਕਸ਼ ਕਰਦਾ ਹੈ।
• ਅਨੁਕੂਲਤਾ: ਦੋਵੇਂ ਵਿੰਡੋਜ਼, ਮੈਕ ਅਤੇ ਲੀਨਕਸ ਦਾ ਸਮਰਥਨ ਕਰਦੇ ਹਨ। ਜਾਨ ਏਆਈ ਆਪਣੇ ਸਥਾਨਕ ਏਪੀਆਈ ਰਾਹੀਂ ਹੋਰ ਐਪਲੀਕੇਸ਼ਨਾਂ ਨਾਲ ਸਿੱਧਾ ਏਕੀਕਰਨ ਜੋੜਦਾ ਹੈ।
• ਸਰੋਤ ਨਿਗਰਾਨੀ: ਜਾਨ ਏਆਈ ਸਰੋਤ ਖਪਤ ਦਾ ਇੱਕ ਰੀਅਲ-ਟਾਈਮ ਡੈਸ਼ਬੋਰਡ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ, ਜੋ ਪਾਬੰਦੀਆਂ ਵਾਲੀਆਂ ਟੀਮਾਂ ਲਈ ਲਾਭਦਾਇਕ ਹੈ। GPT4All ਘੱਟੋ-ਘੱਟ ਲੋੜਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਦਾ ਹੈ ਅਤੇ ਤੁਹਾਨੂੰ ਚੇਤਾਵਨੀ ਦਿੰਦਾ ਹੈ ਜੇਕਰ ਤੁਹਾਡਾ ਹਾਰਡਵੇਅਰ ਘੱਟ ਸਕਦਾ ਹੈ।
• ਐਕਸਟੈਂਸ਼ਨਾਂ: Jan ਤੁਹਾਨੂੰ ਐਕਸਟੈਂਸ਼ਨਾਂ ਨੂੰ ਸਥਾਪਿਤ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ ਜੋ ਕਾਰਜਸ਼ੀਲਤਾ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ (ਉਦਾਹਰਣ ਵਜੋਂ, ਉਪਰੋਕਤ ਸਰੋਤ ਮਾਨੀਟਰ), ਜੋ ਕਿ GPT4All ਵਿੱਚ ਮੌਜੂਦ ਨਹੀਂ ਹੈ।

ਮੇਰੀ ਸਿਫ਼ਾਰਸ਼ ਹੈ ਕਿ ਦੋਵਾਂ ਨੂੰ ਅਜ਼ਮਾਓ ਅਤੇ ਦੇਖੋ ਕਿ ਤੁਹਾਡੇ ਵਰਕਫਲੋ ਅਤੇ ਤੁਹਾਡੀ ਟੀਮ ਲਈ ਕਿਹੜਾ ਸਭ ਤੋਂ ਵਧੀਆ ਹੈ।

ਸਮੱਸਿਆ ਨਿਪਟਾਰਾ ਅਤੇ ਅਕਸਰ ਪੁੱਛੇ ਜਾਂਦੇ ਸਵਾਲ

AI ਮਾਡਲਾਂ ਨੂੰ ਡਾਊਨਲੋਡ ਅਤੇ ਸਥਾਪਿਤ ਕਰਦੇ ਸਮੇਂ ਕੁਝ ਚੁਣੌਤੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਆਮ ਗੱਲ ਹੈ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਵੱਡੀਆਂ ਫਾਈਲਾਂ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹੋ ਜਾਂ ਟੀਮ ਵਿੱਚ ਸੀਮਤ ਸਰੋਤ ਹੁੰਦੇ ਹਨ। ਸਭ ਤੋਂ ਆਮ ਗਲਤੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ ਪ੍ਰਾਪਤ ਕਰਨ ਵਿੱਚ ਅਸਫਲਤਾ। ਇਹਨਾਂ ਮਾਮਲਿਆਂ ਵਿੱਚ, ਆਪਣੇ ਕਨੈਕਸ਼ਨ ਦੀ ਜਾਂਚ ਕਰਨਾ, ਡਿਸਕ ਸਪੇਸ ਖਾਲੀ ਕਰਨਾ, ਜਾਂ ਐਪਲੀਕੇਸ਼ਨ ਨੂੰ ਮੁੜ ਚਾਲੂ ਕਰਨਾ ਇੱਕ ਚੰਗਾ ਵਿਚਾਰ ਹੈ। ਹਰੇਕ ਪ੍ਰੋਗਰਾਮ ਦੇ ਸਹਾਇਤਾ ਭਾਈਚਾਰੇ, ਅਤੇ ਨਾਲ ਹੀ ਉਹਨਾਂ ਦੇ ਅਧਿਕਾਰਤ ਵਿਕੀ ਜਾਂ ਫੋਰਮ, ਅਕਸਰ ਕਦਮ-ਦਰ-ਕਦਮ ਹੱਲ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।

ਸੁਰੱਖਿਆ ਦੇ ਮਾਮਲੇ ਵਿੱਚ, ਸਥਾਨਕ ਏਆਈ ਦੀ ਵਰਤੋਂ ਰਿਮੋਟ ਸੇਵਾਵਾਂ ਨਾਲ ਗੱਲਬਾਤ ਕਰਨ ਨਾਲੋਂ ਕਿਤੇ ਜ਼ਿਆਦਾ ਪਾਰਦਰਸ਼ੀ ਹੈ। ਤੁਹਾਡਾ ਡੇਟਾ ਅਤੇ ਗੱਲਬਾਤ ਇਤਿਹਾਸ ਤੁਹਾਡੀ ਡਿਵਾਈਸ 'ਤੇ ਰਹਿੰਦਾ ਹੈ ਅਤੇ ਬਾਹਰੀ ਐਲਗੋਰਿਦਮ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਨਹੀਂ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਸਾਵਧਾਨੀ ਵਜੋਂ, ਇਹ ਸਿਫਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਕਿ ਕਿਸੇ ਵੀ AI ਐਪਲੀਕੇਸ਼ਨ ਵਿੱਚ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਸਾਂਝੀ ਨਾ ਕੀਤੀ ਜਾਵੇ, ਭਾਵੇਂ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਹੀ ਕਿਉਂ ਨਾ ਹੋਵੇ।

ਜੇ ਤੁਹਾਨੂੰ ਹੋਰ ਵੀ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਲੋੜ ਹੋਵੇ ਤਾਂ ਕੀ ਹੋਵੇਗਾ? ਜੇਕਰ ਤੁਸੀਂ RAM ਅੱਪਗ੍ਰੇਡ (16 ਜਾਂ 32 GB) ਜਾਂ ਇੱਕ ਆਧੁਨਿਕ GPU ਬਰਦਾਸ਼ਤ ਕਰ ਸਕਦੇ ਹੋ, ਤਾਂ ਵੱਡੇ ਮਾਡਲ ਸੁਚਾਰੂ ਢੰਗ ਨਾਲ ਚੱਲਣਗੇ ਅਤੇ ਤੁਸੀਂ ਮਲਟੀਮੋਡਲ ਇੰਟਰੈਕਸ਼ਨ (ਟੈਕਸਟ, ਚਿੱਤਰ, ਆਵਾਜ਼) ਵਰਗੀਆਂ ਉੱਨਤ ਵਿਸ਼ੇਸ਼ਤਾਵਾਂ ਨਾਲ ਪ੍ਰਯੋਗ ਕਰਨ ਦੇ ਯੋਗ ਹੋਵੋਗੇ। ਨਹੀਂ ਤਾਂ, ਹਲਕੇ ਭਾਰ ਵਾਲੇ, ਬਹੁਤ ਜ਼ਿਆਦਾ ਅਨੁਕੂਲਿਤ ਮਾਡਲ ਹਨ ਜੋ ਜ਼ਿਆਦਾਤਰ ਰੋਜ਼ਾਨਾ ਕੰਮਾਂ ਵਿੱਚ ਬਹੁਤ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦੇ ਹਨ।

ਇਹ ਅਨੁਭਵ ਪੂਰੀ ਤਰ੍ਹਾਂ ਔਫਲਾਈਨ ਹੈ: ਇੱਕ ਵਾਰ ਮਾਡਲ ਡਾਊਨਲੋਡ ਹੋ ਜਾਣ ਤੋਂ ਬਾਅਦ, ਐਪਲੀਕੇਸ਼ਨ ਬਿਨਾਂ ਇੰਟਰਨੈਟ ਕਨੈਕਸ਼ਨ ਦੇ ਕੰਮ ਕਰਦੀ ਹੈ, ਗੋਪਨੀਯਤਾ ਨੂੰ ਵੱਧ ਤੋਂ ਵੱਧ ਕਰਦੀ ਹੈ ਅਤੇ ਤੁਹਾਨੂੰ ਕਿਸੇ ਵੀ ਸਥਿਤੀ ਵਿੱਚ ਕੰਮ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦੀ ਹੈ।

ਇੱਕ ਨਿਰੰਤਰ ਵਿਕਸਤ ਹੋ ਰਿਹਾ ਸਥਾਨਕ AI ਈਕੋਸਿਸਟਮ

ਪੀਸੀ ਲਈ ਮੌਜੂਦਾ ਸਥਾਨਕ ਏਆਈ ਹੱਲ ਪਰਿਪੱਕਤਾ ਦੇ ਇੱਕ ਪੱਧਰ 'ਤੇ ਪਹੁੰਚ ਗਏ ਹਨ ਜੋ ਹੁਣ ਉਹਨਾਂ ਨੂੰ ਕਲਾਉਡ ਸੇਵਾਵਾਂ ਦਾ ਇੱਕ ਠੋਸ ਵਿਕਲਪ ਬਣਾਉਂਦਾ ਹੈ। ਮਾਡਲਾਂ ਦੀ ਵਿਸ਼ਾਲ ਵਿਭਿੰਨਤਾ, ਇੰਸਟਾਲੇਸ਼ਨ ਦੀ ਸੌਖ, ਅਤੇ ਅਨੁਕੂਲਤਾ ਸਮਰੱਥਾਵਾਂ ਅਤਿ-ਆਧੁਨਿਕ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਲੋਕਤੰਤਰੀਕਰਨ ਕਰ ਰਹੀਆਂ ਹਨ।

ਗੂਗਲ ਅਤੇ ਮਾਈਕ੍ਰੋਸਾਫਟ ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਵੀ ਕੇਂਦਰੀਕ੍ਰਿਤ ਪਲੇਟਫਾਰਮਾਂ (ਜਿਵੇਂ ਕਿ ਵਿੰਡੋਜ਼ 'ਤੇ ਏਆਈ ਹੱਬ ਜਾਂ ਕੋਪਾਇਲਟ) ਰਾਹੀਂ ਆਪਣਾ ਯੋਗਦਾਨ ਪਾ ਰਹੀਆਂ ਹਨ, ਪਰ ਸਥਾਨਕ ਏਆਈ ਦੀ ਅਸਲ ਸੰਭਾਵਨਾ ਇਸ ਤੱਥ ਵਿੱਚ ਹੈ ਕਿ ਤੁਸੀਂ ਆਪਣੇ ਕਸਟਮ ਹੱਬ ਨੂੰ ਆਪਣੇ ਖਾਸ ਵਰਕਫਲੋ, ਗੋਪਨੀਯਤਾ ਅਤੇ ਟੀਚਿਆਂ ਅਨੁਸਾਰ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹੋ।.

ਇਹ ਜਾਣਦੇ ਹੋਏ ਕਿ ਤੁਸੀਂ ਇੱਕ ਸਪਸ਼ਟ AI ਉਪਭੋਗਤਾ ਹੋ, ਅਸੀਂ ਸੁਝਾਅ ਦਿੰਦੇ ਹਾਂ ਕਿ ਤੁਸੀਂ ਹੋਰ ਵੀ ਸਿੱਖਣਾ ਸ਼ੁਰੂ ਕਰੋ ਅਤੇ ChatGPT ਅਤੇ ਹੋਰਾਂ ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ ਦਾ ਫਾਇਦਾ ਉਠਾਓ, ਕਿਉਂਕਿ ਉਦਾਹਰਣ ਵਜੋਂ, ਹੁਣ ਤੁਹਾਡੇ ਕੋਲ ਇੱਕ ਚੈਟਜੀਪੀਟੀ 'ਤੇ ਕੀਮਤ ਦੀ ਤੁਲਨਾ.

ਹੁਣ ਤੁਹਾਡੇ ਕੋਲ ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਇੱਕ ਸੱਚੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਹੱਬ ਵਿੱਚ ਬਦਲਣ ਲਈ ਜ਼ਰੂਰੀ ਟੂਲ, ਗਾਈਡ ਅਤੇ ਟ੍ਰਿਕਸ ਹਨ, ਨਵੀਨਤਾ ਅਤੇ ਤੁਹਾਡੀ ਜਾਣਕਾਰੀ 'ਤੇ ਪੂਰਨ ਨਿਯੰਤਰਣ ਨੂੰ ਇੱਕ ਹੋਰ ਪੱਧਰ 'ਤੇ ਲੈ ਜਾਣਾ. ਅਸੀਂ ਉਮੀਦ ਕਰਦੇ ਹਾਂ ਕਿ ਤੁਸੀਂ ਹੁਣ ਜਾਣਦੇ ਹੋਵੋਗੇ ਕਿ ਆਪਣੇ ਪੀਸੀ ਨੂੰ ਸਥਾਨਕ ਏਆਈ ਹੱਬ ਵਜੋਂ ਕਿਵੇਂ ਵਰਤਣਾ ਹੈ।