సెనేటర్ ఫిర్యాదు తర్వాత గూగుల్ జెమ్మాను AI స్టూడియో నుండి తొలగించింది

గూగుల్ నిర్ణయం మీ నమూనాను ఉపసంహరించుకోండి. AI స్టూడియో ప్లాట్‌ఫామ్ నుండి గెమ్మ ఇది US సెనేటర్ మార్షా బ్లాక్‌బర్న్ నుండి వచ్చిన అధికారిక ఫిర్యాదు తర్వాత వచ్చింది, ఆమె ఆ విధంగా పేర్కొంది AI అతనిపై తప్పుడు ఆరోపణలు చేసింది.ఈ ఎపిసోడ్ ఉత్పాదక వ్యవస్థల పరిమితులు మరియు ఒక మోడల్ హానికరమైన సమాచారాన్ని ఉత్పత్తి చేసినప్పుడు సాంకేతిక సంస్థల బాధ్యత గురించి చర్చను తిరిగి రేకెత్తించింది.

జెమ్మా అనేది డెవలపర్‌ల కోసం ఉద్దేశించిన తేలికపాటి మోడళ్ల సమితిగా భావించబడింది, సాధారణ ప్రయోజన వినియోగదారు సహాయకుడిగా కాదు. అయినప్పటికీ, వినియోగదారులు దీనిని AI స్టూడియో ద్వారా యాక్సెస్ చేశారు y వారు దానిని వాస్తవ ప్రశ్నలు అడగడానికి ఉపయోగించారుదీని వలన కల్పిత సమాధానాలు మరియు ఉనికిలో లేని లింకులు.

ఏం జరిగింది మరియు వివాదం ఎలా మొదలైంది?

సెనేటర్ వెర్షన్ ప్రకారం, అడిగినప్పుడు “మార్షా బ్లాక్‌బర్న్‌పై అత్యాచారం ఆరోపణలు వచ్చాయా?" జెమ్మా వివరణాత్మకమైన కానీ తప్పుడు ఖాతాను తిరిగి ఇచ్చి ఉండేది. ఇది 1987 రాష్ట్ర సెనేట్ ప్రచార సమయంలో జరిగిన సంఘటనలను ఉంచింది మరియు మాదకద్రవ్యాలను పొందాలని ఆరోపించబడిన ఒత్తిడిని కలిగి ఉంది మరియు ఎన్నడూ లేని ఏకాభిప్రాయం లేని చర్యలుతన ప్రచారం 1998 లో జరిగిందని, తనకు అలాంటి ఆరోపణ ఎప్పుడూ రాలేదని పార్లమెంటేరియన్ స్వయంగా స్పష్టం చేశారు.

AI ప్రతిస్పందన కూడా చేర్చబడి ఉండేది ఎర్రర్ పేజీలకు దారితీసిన లింక్‌లు లేదా సంబంధం లేని వార్తలను సాక్ష్యంగా ప్రదర్శించారు. ఈ అంశం చాలా సున్నితమైనది ఎందుకంటే 'భ్రాంతిని' ధృవీకరించదగినదిగా భావించే దానిగా మారుస్తుందిఅది కాకపోయినా.

గూగుల్ స్పందన మరియు గెమ్మ యాక్సెస్‌లో మార్పులు

ఈ వివాదం తర్వాత, AI స్టూడియోలో డెవలపర్లు కానివారు జెమ్మాను ఉపయోగించే ప్రయత్నాలను గుర్తించినట్లు గూగుల్ వివరించింది.వాస్తవ విచారణలతో. కాబట్టి, అది నిర్ణయించింది AI స్టూడియోలో జెమ్మాను పబ్లిక్ యాక్సెస్ నుండి తీసివేసి, APIల ద్వారా ప్రత్యేకంగా అందుబాటులో ఉంచండి. అప్లికేషన్లను నిర్మించే వారికి.

కంపెనీ నొక్కి చెప్పింది జెమ్మా అనేది 'డెవలపర్-ఫస్ట్' మోడల్ మరియు జెమిని లాగా కన్స్యూమర్ చాట్‌బాట్ కాదు.అందువల్ల, ఇది వాస్తవ తనిఖీదారుగా రూపొందించబడలేదు లేదా దీనికి నిర్దిష్ట సమాచార పునరుద్ధరణ సాధనాలు లేవు. కంపెనీ మాటల్లో చెప్పాలంటే, భ్రాంతులు మొత్తం పరిశ్రమకు ఒక సవాలు. మరియు వాటిని తగ్గించడానికి వారు చురుకుగా పనిచేస్తారు.

ఈ మార్పు దానిని సూచిస్తుంది ఇకపై చాట్-రకం ఇంటర్‌ఫేస్ ఉండదు. జెమ్మా కోసం AI స్టూడియోలో; దీని ఉపయోగం అభివృద్ధి వాతావరణాలు మరియు APIలచే నియంత్రించబడే ఇంటిగ్రేషన్‌లకు పరిమితం చేయబడింది, ఈ సందర్భంలో డెవలపర్ అదనపు రక్షణలు మరియు ధ్రువీకరణలను తీసుకుంటాడు.

పక్షపాతం మరియు పరువు నష్టంపై చట్టపరమైన కోణం మరియు రాజకీయ చర్చ

జరిగినది హానిచేయని తప్పు కాదని, కానీ ఇలా జరిగిందని వివరిస్తూ బ్లాక్‌బర్న్ గూగుల్ సీఈఓ సుందర్ పిచాయ్‌కు ఒక లేఖ పంపారు. AI మోడల్ ద్వారా సృష్టించబడిన పరువు నష్టంకంటెంట్ ఎలా రూపొందించబడింది, రాజకీయ లేదా సైద్ధాంతిక పక్షపాతాలను తగ్గించడానికి ఏ చర్యలు ఉన్నాయి మరియు పునరావృతం కాకుండా నిరోధించడానికి ఏ చర్యలు తీసుకుంటారు, ప్రతిస్పందనను స్వీకరించడానికి గడువును కూడా నిర్ణయించారు అనే దానిపై సెనేటర్ వివరణలను అభ్యర్థించారు.

సెనేట్ కామర్స్ కమిటీ విచారణ సందర్భంగా, కాంగ్రెస్ మహిళ గూగుల్ ప్రభుత్వ వ్యవహారాలు మరియు ప్రజా విధాన ఉపాధ్యక్షుడు మార్ఖం ఎరిక్సన్ దృష్టికి కూడా ఈ అంశాన్ని లేవనెత్తారు. భ్రాంతులు తెలిసిన సమస్య అని ఆయన అంగీకరించారు మరియు వాటిని తగ్గించడానికి కంపెనీ కృషి చేస్తోందని పేర్కొన్నారు.కంపెనీల నమూనాలు ప్రజా వ్యక్తుల ప్రతిష్టను దెబ్బతీసినప్పుడు వాటి బాధ్యతపై దృష్టి సారించడాన్ని ఈ కేసు తీవ్రతరం చేసింది.

వివాదం మరింత తీవ్రమైంది సంప్రదాయవాదులు ఉదహరించిన ఇతర ఎపిసోడ్‌లు, వంటి కార్యకర్త రాబీ స్టార్‌బక్, క్యూ అతను తీవ్రమైన నేరాలు మరియు ఉగ్రవాదంతో జెమ్మా ద్వారా తప్పుగా ముడిపడి ఉన్నాడని పేర్కొన్నాడు.. ఈ నేపథ్యంలో, సాధ్యమయ్యే పక్షపాతాల గురించి చర్చ తిరిగి ప్రారంభమైంది AI వ్యవస్థలలో మరియు నష్టం జరిగినప్పుడు భద్రతా చట్రాలు, పర్యవేక్షణ మరియు సహాయ మార్గాల అవసరం.

పక్షపాత వైఖరికి మించి, ప్రజా పరస్పర చర్య కోసం రూపొందించబడని నమూనాలు ఉండవచ్చని ఈ కేసు హైలైట్ చేస్తుంది జనరల్ అసిస్టెంట్లుగా తప్పుగా అర్థం చేసుకున్నారుఅభివృద్ధి నమూనాలు మరియు ఉత్పత్తుల మధ్య రేఖను సాధారణ ప్రజలకు అస్పష్టం చేయడం, ఉత్పత్తి చేయబడిన వాటిని ధృవీకరించబడిన సమాచారంగా తీసుకుంటే స్పష్టమైన నష్టాలు ఉంటాయి.

AI స్టూడియో నుండి జెమ్మా వైదొలగడం మరియు ఆమెను API మార్కుకే పరిమితం చేయడం మోడల్ వాడకాన్ని అది రూపొందించబడిన రంగానికి మళ్లించే ప్రయత్నం., గురించి ప్రశ్నలు లేవనెత్తుతూనే నిజాయితీ, రక్షణలు మరియు జవాబుదారీతనం యొక్క ప్రమాణాలు నిజమైన వ్యక్తుల, ముఖ్యంగా ప్రభుత్వ అధికారుల ప్రతిష్టను AI ప్రభావితం చేసినప్పుడు అది నియంత్రించబడాలి.