Google yọ Gemma kuro ni ile-itumọ AI lẹhin ẹdun igbimọ kan

Google ká ipinnu lati yọ rẹ awoṣe Gemma lati ori pẹpẹ AI Studio O wa lẹhin ẹdun kan lati ọdọ Alagba US Marsha Blackburn, ẹniti o sọ pe AI ṣe ipilẹṣẹ awọn ẹsun eke si iIṣẹlẹ naa ti ṣe ijọba ijiroro nipa awọn opin ti awọn eto ipilẹṣẹ ati ojuse ti awọn ile-iṣẹ imọ-ẹrọ nigbati awoṣe kan ṣe agbejade alaye ipalara.

Gemma ni a loyun bi akojọpọ awọn awoṣe iwuwo fẹẹrẹ ti a murasilẹ si awọn olupilẹṣẹ, kii ṣe bi oluranlọwọ alabara idi gbogbogbo. Paapaa Nitorina, Awọn olumulo wọle si nipasẹ AI Studio y Wọ́n lò ó láti béèrè àwọn ìbéèrè tí ó jẹ́ òtítọ́eyi ti yoo ti yori si awọn idahun ti a ṣẹda ati awọn ọna asopọ ti kii ṣe tẹlẹ.

Kini o ṣẹlẹ ati bawo ni ariyanjiyan ṣe bẹrẹ

Gẹgẹbi ẹya ti Alagba, nigbati o beere “Njẹ Marsha Blackburn ti jẹ ẹsun ifipabanilopo?”, Gemma yoo ti da alaye kan pada ṣugbọn akọọlẹ eke eyi ti o gbe awọn iṣẹlẹ nigba kan 1987 ipinle Alagba ipolongo, ati ki o pẹlu esun titẹ lati gba oloro ati awọn iṣe ti kii ṣe ifọkanbalẹ ti ko si tẹlẹIle-igbimọ aṣofin funra rẹ ṣalaye pe ipolongo oun wa ni ọdun 1998 ati pe ko tii gba iru ẹsun kan rara.

Idahun AI yoo tun ti dapọ awọn ọna asopọ ti o yori si awọn oju-iwe aṣiṣe tabi awọn nkan iroyin ti ko ni ibatan, ti a gbekalẹ bi ẹnipe wọn jẹ ẹri. Aaye yi jẹ paapa kókó nitori yi 'hallucination' pada si nkan ti o mọ bi o ṣe le rii dajupaapa ti o ba jẹ ko.

Idahun Google ati awọn iyipada si iraye si Gemma

Lẹhin ti ariyanjiyan, Google ṣe alaye pe o ti rii awọn igbiyanju lati lo Gemma nipasẹ awọn ti kii ṣe idagbasoke ni ile-iṣere AIpẹlu otitọ ìgbökõsí. Nitorina, o pinnu Yọ Gemma kuro ni iraye si gbogbo eniyan ni ile-iṣere AI ki o jẹ ki o wa ni iyasọtọ nipasẹ awọn API fun awon ti o kọ awọn ohun elo.

Ile-iṣẹ naa tẹnumọ iyẹn Gemma jẹ awoṣe 'Olùgbéejáde-akọkọ' kii ṣe iwiregbe onibara bi Gemini.Nitorinaa, ko ṣe apẹrẹ bi oluṣayẹwo otitọ tabi ko ni awọn irinṣẹ imupadabọ alaye kan pato. Ninu awọn ọrọ ile-iṣẹ, Hallucinations jẹ ipenija fun gbogbo ile-iṣẹ nwọn si ṣiṣẹ taratara lati mitigate wọn.

Iyipada yii tumọ si pe Ko si ni wiwo iru iwiregbe mọ. ni AI Studio fun Gemma; Lilo rẹ ni ihamọ si awọn agbegbe idagbasoke ati awọn iṣọpọ ti iṣakoso nipasẹ awọn API, agbegbe kan nibiti olupilẹṣẹ gba awọn aabo afikun ati awọn afọwọsi.

Ofin apa miran ati oselu Jomitoro lori abosi ati defamation

Blackburn fi lẹta ranṣẹ si Google CEO Sundar Pichai, ti n ṣe apejuwe ohun ti o ṣẹlẹ kii ṣe aṣiṣe ti ko lewu, ṣugbọn bi defamation ti a ṣe nipasẹ awoṣe AIAlagba naa beere awọn alaye lori bawo ni akoonu ṣe ṣe ipilẹṣẹ, awọn igbese wo ni o wa lati dinku awọn aiṣedeede iṣelu tabi imọran, ati awọn iṣe wo ni yoo ṣe lati yago fun awọn atunwi, tun ṣeto akoko ipari fun gbigba esi naa.

Lakoko igbọran Igbimọ Iṣowo Alagba kan, arabinrin naa tun gbe ọrọ naa dide pẹlu Igbakeji Alakoso Google ti Ọrọ Ijọba ati Eto Awujọ, Markham Erickson, ẹniti O gba pe hallucinations jẹ iṣoro ti a mọ ati ṣe akiyesi pe ile-iṣẹ n ṣiṣẹ lati dinku wọn.Ọran naa ti pọ si idojukọ lori ojuse ti awọn ile-iṣẹ nigbati awọn awoṣe wọn ba orukọ rere ti awọn eeyan gbangba jẹ.

Awọn ariyanjiyan pọ pẹlu miiran isele toka nipa Konsafetifu, bi iyẹn alapon Robby Starbuck, ìyẹn O sọ pe Gemma ni asopọ eke si awọn iwa-ipa nla ati extremismNínú ipò yìí, Jomitoro nipa awọn aiṣedeede ti o ṣeeṣe jẹ ijọba ni awọn eto AI ati iwulo fun awọn ilana aabo, ibojuwo, ati awọn ipa ọna igbapada nigbati ibajẹ ba waye.

Ni ikọja awọn ipo apakan, ọran naa ṣe afihan pe awọn awoṣe ti a ko ṣe apẹrẹ fun ibaraenisepo gbogbo eniyan le jẹ gbọye bi gbogboogbo arannilọwọyiyi laini laarin awọn apẹẹrẹ idagbasoke ati awọn ọja fun gbogbogbo, pẹlu awọn eewu ti o han gbangba ti ohun ti o ṣe ba jẹ alaye ti a rii daju.

Yiyọ kuro Gemma lati AI Studio ati itimole rẹ si aami API igbiyanju lati ṣe atunṣe lilo awoṣe si aaye ti o ti loyun, lakoko ti o tun gbe awọn ibeere nipa awọn iṣedede ti otitọ, awọn aabo, ati iṣiro ti o yẹ ki o ṣe akoso nigbati AI kan ba ni ipa lori orukọ awọn eniyan gidi, paapaa awọn oṣiṣẹ ijọba.