ਇੱਕ ਸੈਨੇਟਰ ਦੀ ਸ਼ਿਕਾਇਤ ਤੋਂ ਬਾਅਦ ਗੂਗਲ ਨੇ ਜੇਮਾ ਨੂੰ ਏਆਈ ਸਟੂਡੀਓ ਤੋਂ ਹਟਾ ਦਿੱਤਾ

ਗੂਗਲ ਦਾ ਫੈਸਲਾ ਕਿ ਆਪਣਾ ਮਾਡਲ ਵਾਪਸ ਲਓ ਏਆਈ ਸਟੂਡੀਓ ਪਲੇਟਫਾਰਮ ਤੋਂ ਜੇਮਾ ਇਹ ਅਮਰੀਕੀ ਸੈਨੇਟਰ ਮਾਰਸ਼ਾ ਬਲੈਕਬਰਨ ਦੀ ਇੱਕ ਰਸਮੀ ਸ਼ਿਕਾਇਤ ਤੋਂ ਬਾਅਦ ਆਇਆ ਹੈ, ਜੋ ਦਾਅਵਾ ਕਰਦੀ ਹੈ ਕਿ ਏਆਈ ਨੇ ਉਸ ਵਿਰੁੱਧ ਝੂਠੇ ਦੋਸ਼ ਲਗਾਏ।ਇਸ ਐਪੀਸੋਡ ਨੇ ਜਨਰੇਟਿਵ ਸਿਸਟਮ ਦੀਆਂ ਸੀਮਾਵਾਂ ਅਤੇ ਤਕਨਾਲੋਜੀ ਕੰਪਨੀਆਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਬਾਰੇ ਚਰਚਾ ਨੂੰ ਮੁੜ ਸੁਰਜੀਤ ਕਰ ਦਿੱਤਾ ਹੈ ਜਦੋਂ ਕੋਈ ਮਾਡਲ ਨੁਕਸਾਨਦੇਹ ਜਾਣਕਾਰੀ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਜੇਮਾ ਨੂੰ ਡਿਵੈਲਪਰਾਂ ਲਈ ਤਿਆਰ ਹਲਕੇ ਮਾਡਲਾਂ ਦੇ ਇੱਕ ਸਮੂਹ ਵਜੋਂ ਕਲਪਨਾ ਕੀਤੀ ਗਈ ਸੀ, ਨਾ ਕਿ ਇੱਕ ਆਮ-ਉਦੇਸ਼ ਵਾਲੇ ਉਪਭੋਗਤਾ ਸਹਾਇਕ ਵਜੋਂ। ਫਿਰ ਵੀ, ਉਪਭੋਗਤਾਵਾਂ ਨੇ ਇਸਨੂੰ AI ਸਟੂਡੀਓ ਰਾਹੀਂ ਐਕਸੈਸ ਕੀਤਾ। y ਉਹਨਾਂ ਨੇ ਇਸਦੀ ਵਰਤੋਂ ਤੱਥਾਂ ਵਾਲੇ ਸਵਾਲ ਪੁੱਛਣ ਲਈ ਕੀਤੀ।ਜਿਸ ਕਾਰਨ ਮਨਘੜਤ ਜਵਾਬ ਅਤੇ ਗੈਰ-ਮੌਜੂਦ ਲਿੰਕ.

ਕੀ ਹੋਇਆ ਅਤੇ ਵਿਵਾਦ ਕਿਵੇਂ ਸ਼ੁਰੂ ਹੋਇਆ

ਸੈਨੇਟਰ ਦੇ ਸੰਸਕਰਣ ਦੇ ਅਨੁਸਾਰ, ਜਦੋਂ ਪੁੱਛਿਆ ਗਿਆ “ਕੀ ਮਾਰਸ਼ਾ ਬਲੈਕਬਰਨ 'ਤੇ ਬਲਾਤਕਾਰ ਦਾ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ ਹੈ?" ਜੇਮਾ ਇੱਕ ਵਿਸਤ੍ਰਿਤ ਪਰ ਝੂਠਾ ਬਿਰਤਾਂਤ ਵਾਪਸ ਕਰ ਦਿੰਦੀ ਜਿਸਨੇ 1987 ਦੀ ਰਾਜ ਸੈਨੇਟ ਮੁਹਿੰਮ ਦੌਰਾਨ ਘਟਨਾਵਾਂ ਨੂੰ ਪੇਸ਼ ਕੀਤਾ, ਅਤੇ ਇਸ ਵਿੱਚ ਨਸ਼ੀਲੇ ਪਦਾਰਥ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਕਥਿਤ ਦਬਾਅ ਸ਼ਾਮਲ ਸੀ ਅਤੇ ਸਹਿਮਤੀ ਤੋਂ ਬਿਨਾਂ ਕੀਤੇ ਕੰਮ ਜੋ ਕਦੇ ਮੌਜੂਦ ਨਹੀਂ ਸਨਸੰਸਦ ਮੈਂਬਰ ਨੇ ਖੁਦ ਸਪੱਸ਼ਟ ਕੀਤਾ ਕਿ ਉਨ੍ਹਾਂ ਦੀ ਚੋਣ ਮੁਹਿੰਮ 1998 ਵਿੱਚ ਸੀ ਅਤੇ ਉਨ੍ਹਾਂ 'ਤੇ ਕਦੇ ਵੀ ਅਜਿਹਾ ਦੋਸ਼ ਨਹੀਂ ਲੱਗਾ।

AI ਜਵਾਬ ਵਿੱਚ ਇਹ ਵੀ ਸ਼ਾਮਲ ਹੁੰਦਾ ਲਿੰਕ ਜੋ ਗਲਤੀ ਪੰਨਿਆਂ ਵੱਲ ਲੈ ਜਾਂਦੇ ਹਨ ਜਾਂ ਗੈਰ-ਸੰਬੰਧਿਤ ਖ਼ਬਰਾਂ, ਇਸ ਤਰ੍ਹਾਂ ਪੇਸ਼ ਕੀਤੀਆਂ ਗਈਆਂ ਜਿਵੇਂ ਉਹ ਸਬੂਤ ਹੋਣ। ਇਹ ਨੁਕਤਾ ਖਾਸ ਤੌਰ 'ਤੇ ਸੰਵੇਦਨਸ਼ੀਲ ਹੈ ਕਿਉਂਕਿ ਇੱਕ 'ਭਰਮ' ਨੂੰ ਕਿਸੇ ਅਜਿਹੀ ਚੀਜ਼ ਵਿੱਚ ਬਦਲ ਦਿੰਦਾ ਹੈ ਜਿਸਨੂੰ ਪ੍ਰਮਾਣਿਤ ਮੰਨਿਆ ਜਾਂਦਾ ਹੈਭਾਵੇਂ ਇਹ ਨਾ ਵੀ ਹੋਵੇ।

ਗੂਗਲ ਦੀ ਪ੍ਰਤੀਕਿਰਿਆ ਅਤੇ ਜੇਮਾ ਦੀ ਪਹੁੰਚ ਵਿੱਚ ਬਦਲਾਅ

ਵਿਵਾਦ ਤੋਂ ਬਾਅਦ, ਗੂਗਲ ਨੇ ਸਮਝਾਇਆ ਕਿ ਉਸਨੇ ਏਆਈ ਸਟੂਡੀਓ ਵਿੱਚ ਗੈਰ-ਡਿਵੈਲਪਰਾਂ ਦੁਆਰਾ ਜੇਮਾ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੀਆਂ ਕੋਸ਼ਿਸ਼ਾਂ ਦਾ ਪਤਾ ਲਗਾਇਆ ਹੈ।ਤੱਥਾਂ ਦੀ ਪੁੱਛਗਿੱਛ ਦੇ ਨਾਲ। ਇਸ ਲਈ, ਇਸਨੇ ਫੈਸਲਾ ਕੀਤਾ AI ਸਟੂਡੀਓ ਵਿੱਚ ਜਨਤਕ ਪਹੁੰਚ ਤੋਂ Gemma ਨੂੰ ਹਟਾਓ ਅਤੇ ਇਸਨੂੰ API ਰਾਹੀਂ ਵਿਸ਼ੇਸ਼ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਰੱਖੋ। ਉਹਨਾਂ ਲਈ ਜੋ ਐਪਲੀਕੇਸ਼ਨ ਬਣਾਉਂਦੇ ਹਨ।

ਕੰਪਨੀ ਨੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਜੇਮਾ ਇੱਕ 'ਡਿਵੈਲਪਰ-ਫਸਟ' ਮਾਡਲ ਹੈ ਅਤੇ ਜੇਮਿਨੀ ਵਾਂਗ ਇੱਕ ਖਪਤਕਾਰ ਚੈਟਬੋਟ ਨਹੀਂ ਹੈ।ਇਸ ਲਈ, ਇਸਨੂੰ ਤੱਥ-ਜਾਂਚਕਰਤਾ ਵਜੋਂ ਤਿਆਰ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਹੈ ਅਤੇ ਨਾ ਹੀ ਇਸ ਵਿੱਚ ਖਾਸ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤੀ ਸਾਧਨ ਹਨ। ਕੰਪਨੀ ਦੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਭਰਮ ਪੂਰੇ ਉਦਯੋਗ ਲਈ ਇੱਕ ਚੁਣੌਤੀ ਹਨ ਅਤੇ ਉਹ ਇਹਨਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਸਰਗਰਮੀ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ।

ਇਸ ਬਦਲਾਅ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਹੁਣ ਚੈਟ-ਟਾਈਪ ਇੰਟਰਫੇਸ ਨਹੀਂ ਹੋਵੇਗਾ। ਜੇਮਾ ਲਈ ਏਆਈ ਸਟੂਡੀਓ ਵਿੱਚ; ਇਸਦੀ ਵਰਤੋਂ ਵਿਕਾਸ ਵਾਤਾਵਰਣਾਂ ਅਤੇ API ਦੁਆਰਾ ਨਿਯੰਤਰਿਤ ਏਕੀਕਰਨ ਤੱਕ ਸੀਮਤ ਹੈ, ਇੱਕ ਸੰਦਰਭ ਜਿੱਥੇ ਡਿਵੈਲਪਰ ਵਾਧੂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਅਤੇ ਪ੍ਰਮਾਣਿਕਤਾਵਾਂ ਮੰਨਦਾ ਹੈ।

ਪੱਖਪਾਤ ਅਤੇ ਮਾਣਹਾਨੀ 'ਤੇ ਕਾਨੂੰਨੀ ਪਹਿਲੂ ਅਤੇ ਰਾਜਨੀਤਿਕ ਬਹਿਸ

ਬਲੈਕਬਰਨ ਨੇ ਗੂਗਲ ਦੇ ਸੀਈਓ ਸੁੰਦਰ ਪਿਚਾਈ ਨੂੰ ਇੱਕ ਪੱਤਰ ਭੇਜਿਆ, ਜਿਸ ਵਿੱਚ ਦੱਸਿਆ ਗਿਆ ਕਿ ਜੋ ਹੋਇਆ ਉਹ ਇੱਕ ਨੁਕਸਾਨ ਰਹਿਤ ਗਲਤੀ ਨਹੀਂ ਸੀ, ਸਗੋਂ ਇੱਕ ਏਆਈ ਮਾਡਲ ਦੁਆਰਾ ਪੈਦਾ ਕੀਤੀ ਗਈ ਮਾਣਹਾਨੀਸੈਨੇਟਰ ਨੇ ਇਸ ਬਾਰੇ ਸਪੱਸ਼ਟੀਕਰਨ ਦੀ ਬੇਨਤੀ ਕੀਤੀ ਕਿ ਸਮੱਗਰੀ ਕਿਵੇਂ ਤਿਆਰ ਕੀਤੀ ਗਈ ਸੀ, ਰਾਜਨੀਤਿਕ ਜਾਂ ਵਿਚਾਰਧਾਰਕ ਪੱਖਪਾਤ ਨੂੰ ਘੱਟ ਕਰਨ ਲਈ ਕਿਹੜੇ ਉਪਾਅ ਮੌਜੂਦ ਹਨ, ਅਤੇ ਦੁਹਰਾਓ ਨੂੰ ਰੋਕਣ ਲਈ ਕਿਹੜੇ ਕਦਮ ਚੁੱਕੇ ਜਾਣਗੇ, ਜਵਾਬ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ ਇੱਕ ਸਮਾਂ-ਸੀਮਾ ਵੀ ਨਿਰਧਾਰਤ ਕੀਤੀ ਗਈ ਸੀ।

ਸੈਨੇਟ ਦੀ ਵਣਜ ਕਮੇਟੀ ਦੀ ਸੁਣਵਾਈ ਦੌਰਾਨ, ਕਾਂਗਰਸਵੂਮੈਨ ਨੇ ਇਹ ਮੁੱਦਾ ਗੂਗਲ ਦੇ ਸਰਕਾਰੀ ਮਾਮਲਿਆਂ ਅਤੇ ਜਨਤਕ ਨੀਤੀ ਦੇ ਉਪ ਪ੍ਰਧਾਨ, ਮਾਰਖਮ ਐਰਿਕਸਨ ਕੋਲ ਵੀ ਉਠਾਇਆ, ਜਿਨ੍ਹਾਂ ਨੇ ਉਸਨੇ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ ਭਰਮ ਇੱਕ ਜਾਣੀ-ਪਛਾਣੀ ਸਮੱਸਿਆ ਹੈ ਅਤੇ ਕਿਹਾ ਕਿ ਕੰਪਨੀ ਇਹਨਾਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਕੰਮ ਕਰ ਰਹੀ ਹੈ।ਇਸ ਮਾਮਲੇ ਨੇ ਕੰਪਨੀਆਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰ ਦਿੱਤਾ ਹੈ ਜਦੋਂ ਉਨ੍ਹਾਂ ਦੇ ਮਾਡਲ ਜਨਤਕ ਸ਼ਖਸੀਅਤਾਂ ਦੀ ਸਾਖ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੇ ਹਨ।

ਵਿਵਾਦ ਇਸ ਨਾਲ ਤੇਜ਼ ਹੋ ਗਿਆ ਰੂੜੀਵਾਦੀਆਂ ਦੁਆਰਾ ਹਵਾਲਾ ਦਿੱਤੇ ਗਏ ਹੋਰ ਐਪੀਸੋਡ, ਜਿਵੇਂ ਕਿ ਕਾਰਕੁਨ ਰੌਬੀ ਸਟਾਰਬੱਕ, Que ਉਹ ਦਾਅਵਾ ਕਰਦਾ ਹੈ ਕਿ ਜੇਮਾ ਦੁਆਰਾ ਉਸਨੂੰ ਗੰਭੀਰ ਅਪਰਾਧਾਂ ਅਤੇ ਕੱਟੜਵਾਦ ਨਾਲ ਝੂਠਾ ਜੋੜਿਆ ਗਿਆ ਸੀ।. ਇਸ ਸੰਦਰਭ ਵਿੱਚ ਸ. ਸੰਭਾਵੀ ਪੱਖਪਾਤ ਬਾਰੇ ਬਹਿਸ ਫਿਰ ਤੋਂ ਸ਼ੁਰੂ ਹੋ ਗਈ ਹੈ AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਅਤੇ ਨੁਕਸਾਨ ਹੋਣ 'ਤੇ ਸੁਰੱਖਿਆ ਢਾਂਚੇ, ਨਿਗਰਾਨੀ ਅਤੇ ਸਹਾਇਤਾ ਮਾਰਗਾਂ ਦੀ ਜ਼ਰੂਰਤ।

ਪੱਖਪਾਤੀ ਰੁਖਾਂ ਤੋਂ ਪਰੇ, ਇਹ ਮਾਮਲਾ ਇਸ ਗੱਲ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ ਕਿ ਜਨਤਕ ਗੱਲਬਾਤ ਲਈ ਨਹੀਂ ਬਣਾਏ ਗਏ ਮਾਡਲ ਹੋ ਸਕਦੇ ਹਨ ਆਮ ਸਹਾਇਕਾਂ ਵਜੋਂ ਗਲਤ ਸਮਝਿਆ ਜਾਂਦਾ ਹੈਆਮ ਲੋਕਾਂ ਲਈ ਵਿਕਾਸ ਪ੍ਰੋਟੋਟਾਈਪਾਂ ਅਤੇ ਉਤਪਾਦਾਂ ਵਿਚਕਾਰ ਰੇਖਾ ਨੂੰ ਧੁੰਦਲਾ ਕਰਨਾ, ਜੇਕਰ ਤਿਆਰ ਕੀਤੀ ਗਈ ਜਾਣਕਾਰੀ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਜਾਣਕਾਰੀ ਵਜੋਂ ਲਿਆ ਜਾਂਦਾ ਹੈ ਤਾਂ ਸਪੱਸ਼ਟ ਜੋਖਮ ਹੁੰਦੇ ਹਨ।

ਜੇਮਾ ਦਾ ਏਆਈ ਸਟੂਡੀਓ ਤੋਂ ਹਟਣਾ ਅਤੇ ਉਸਦੀ ਏਪੀਆਈ ਮਾਰਕ ਤੱਕ ਕੈਦ ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਨੂੰ ਉਸ ਖੇਤਰ ਵੱਲ ਰੀਡਾਇਰੈਕਟ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਜਿਸ ਲਈ ਇਸਦੀ ਕਲਪਨਾ ਕੀਤੀ ਗਈ ਸੀ।, ਜਦੋਂ ਕਿ ਇਸ ਬਾਰੇ ਵੀ ਸਵਾਲ ਉਠਾਉਂਦੇ ਹਨ ਸੱਚਾਈ, ਸੁਰੱਖਿਆ ਅਤੇ ਜਵਾਬਦੇਹੀ ਦੇ ਮਿਆਰ ਇਹ ਉਦੋਂ ਨਿਯੰਤਰਿਤ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ ਜਦੋਂ ਕੋਈ AI ਅਸਲ ਲੋਕਾਂ, ਖਾਸ ਕਰਕੇ ਜਨਤਕ ਅਧਿਕਾਰੀਆਂ ਦੀ ਸਾਖ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਦਾ ਹੈ।