Google tshem tawm Gemma los ntawm AI Studio tom qab senator qhov kev tsis txaus siab

Google qhov kev txiav txim siab rau thim koj tus qauv Gemma los ntawm AI Studio platform Nws los tom qab kev tsis txaus siab los ntawm US Senator Marsha Blackburn, uas tau thov qhov ntawd Lub AI tsim cov lus tsis tseeb rau nwsLub sijhawm tau ua tiav qhov kev sib tham txog qhov txwv ntawm cov tshuab tsim hluav taws xob thiab lub luag haujlwm ntawm cov tuam txhab thev naus laus zis thaum tus qauv tsim cov ntaub ntawv tsis zoo.

Gemma tau xeeb los ua ib pawg ntawm cov qauv hnyav hnyav rau cov neeg tsim khoom, tsis yog cov neeg siv khoom siv dav dav. Txawm li ntawd los, Cov neeg siv nkag mus rau nws los ntawm AI Studio y Lawv siv nws los nug cov lus nug tseebuas yuav tau coj mus fabricated cov lus teb thiab cov tsis muaj nyob.

Dab tsi tshwm sim thiab qhov kev tsis sib haum xeeb pib li cas

Raws li senator's version, thaum nug "Puas yog Marsha Blackburn raug liam tias raug rape?", Gemma yuav tau xa rov qab cov ncauj lus kom ntxaws tab sis cuav uas tso cov xwm txheej thaum lub sijhawm xyoo 1987 lub xeev Senate kev sib tw, thiab suav nrog kev iab liam kom tau txais tshuaj thiab kev tsis pom zoo uas tsis tau muajTus thawj tswj hwm nws tus kheej tau qhia meej tias nws txoj kev sib tw yog xyoo 1998 thiab nws yeej tsis tau txais qhov kev iab liam no.

Cov lus teb AI kuj tseem yuav suav nrog txuas uas coj mus rau nplooj ntawv yuam kev los yog cov xov xwm tsis cuam tshuam, nthuav tawm zoo li lawv yog pov thawj. Cov ntsiab lus no tshwj xeeb tshaj yog vim li cas hloov ib qho 'hallucination' rau hauv ib yam dab tsi uas pom tau tias muaj tseebtxawm tias tsis yog.

Google cov tshuaj tiv thaiv thiab kev hloov pauv rau Gemma txoj kev nkag

Tom qab qhov kev tsis sib haum xeeb, Google tau piav qhia tias nws tau kuaj pom kev sim siv Gemma los ntawm cov neeg tsis yog tsim tawm hauv AI Studionrog cov lus nug tseeb. Yog li ntawd, nws txiav txim siab Tshem tawm Gemma los ntawm kev nkag mus rau pej xeem hauv AI Studio thiab khaws nws tsuas yog los ntawm APIs rau cov uas tsim cov ntawv thov.

Lub tuam txhab tau hais txog qhov ntawd Gemma yog tus qauv 'tus tsim ua ntej' thiab tsis yog tus neeg siv khoom sib tham zoo li Gemini.Yog li ntawd, nws tsis yog tsim los ua tus txheeb xyuas qhov tseeb thiab tsis muaj cov ntaub ntawv tshwj xeeb retrieval cov cuab yeej. Nyob rau hauv lub tuam txhab cov lus, Hallucinations yog ib qho nyuaj rau tag nrho kev lag luam thiab lawv nquag ua hauj lwm kom txo tau lawv.

Qhov kev hloov no txhais tau tias Yuav tsis muaj kev sib tham-hom interface lawm. hauv AI Studio rau Gemma; nws txoj kev siv yog txwv rau kev txhim kho ib puag ncig thiab kev koom ua ke tswj hwm los ntawm APIs, lub ntsiab lus uas tus tsim tawm xav tias muaj kev tiv thaiv ntxiv thiab kev siv tau.

Kev cai lij choj thiab kev sib cav tswv yim txog kev tsis ncaj ncees thiab kev hais lus phem

Blackburn tau xa ib tsab ntawv mus rau Google CEO Sundar Pichai, piav qhia txog qhov tshwm sim tsis yog qhov yuam kev tsis zoo, tab sis raws li defamation tsim los ntawm AI qauvTus senator tau thov cov lus piav qhia txog yuav ua li cas cov ntsiab lus tsim tawm, ntsuas dab tsi muaj nyob rau kom txo qis kev nom kev tswv lossis kev xav tsis zoo, thiab yuav ua li cas los tiv thaiv kev rov ua dua, thiab teem sijhawm rau kev txais cov lus teb.

Thaum lub rooj sib tham Senate Commerce Committee, tus neeg sawv cev ntawm lub rooj sib tham kuj tau hais txog qhov teeb meem nrog Google Tus Lwm Thawj Coj ntawm Tsoom Fwv Saib Xyuas Kev Ua Haujlwm thiab Txoj Cai Pej Xeem, Markham Erickson, uas. Nws lees paub tias kev hnov ​​​​lus yog qhov teeb meem paub thiab tau sau tseg tias lub tuam txhab ua haujlwm los txo lawv.Cov ntaub ntawv no tau ua rau muaj kev tsom mus rau lub luag haujlwm ntawm cov tuam txhab thaum lawv cov qauv ua rau lub koob npe nrov ntawm cov neeg pej xeem.

Lub controversy intensified nrog lwm ntu hais los ntawm cov neeg saib xyuas, zoo li ntawm Robby Starbuck tus neeg ua haujlwm, que Nws tau hais tias nws tau raug kev dag ntxias los ntawm Gemma rau kev ua txhaum loj thiab kev tawm tsam. Hauv cov ntsiab lus no, Kev sib cav txog qhov kev tsis ncaj ncees uas tau ua tau yog kav nyob rau hauv AI systems thiab xav tau kev ruaj ntseg lub moj khaum, saib xyuas, thiab recourse txoj kev thaum muaj kev puas tsuaj tshwm sim.

Tshaj li cov neeg koom nrog txoj haujlwm, cov ntaub ntawv tseem ceeb uas cov qauv tsis tsim los rau pej xeem kev sib raug zoo tuaj yeem ua tau nkag siab yuam kev raws li tus pabblurring kab ntawm txoj kev loj hlob prototypes thiab cov khoom rau cov pej xeem sawv daws, nrog pom tseeb txaus ntshai yog dab tsi yog generated yog muab raws li cov ntaub ntawv pov thawj.

Gemma qhov kev tshem tawm ntawm AI Studio thiab nws qhov chaw kaw rau API cim ib qho kev sim rau redirect siv tus qauv mus rau qhov chaw uas nws tau xeeb, thaum tseem tsa cov lus nug txog cov qauv ntawm qhov tseeb, kev tiv thaiv, thiab kev lav ris uas yuav tsum tswj hwm thaum AI cuam tshuam rau lub koob npe nrov ntawm cov neeg tiag tiag, tshwj xeeb tshaj yog cov neeg ua haujlwm pej xeem.