- Google ferwideret it Gemma-model út AI Studio en beheint it gebrûk ta API-basearre ûntwikkelders.
- Senator Marsha Blackburn beweart dat AI falske beskuldigings fan seksueel wangedrach generearre hat.
- Google beweart misbrûk fan in ark bedoeld foar ûntwikkelders en erkent de útdaging fan hallusinaasjes.
- De saak wekket it politike en juridyske debat oer foaroardiel, laster en oanspraaklikens yn AI opnij oan.
It beslút fan Google om weromlûke jo model Gemma fan it AI Studio-platfoarm It komt nei in formele klacht fan 'e Amerikaanske senator Marsha Blackburn, dy't beweart dat De AI generearre falske beskuldigingen tsjin himDe ôflevering hat de diskusje oer de grinzen fan generative systemen en de ferantwurdlikens fan technologybedriuwen opnij oanwakkere as in model skealike ynformaasje produseart.
Gemma waard betocht as in set lichtgewicht modellen rjochte op ûntwikkelders, net as in algemiene konsuminte-assistint. Dochs, Brûkers hawwe it tagong krigen fia AI Studio y Se brûkten it om feitelike fragen te stellenwat soe liede ta ferfalske antwurden en net-besteande keppelings.
Wat barde der en hoe is de kontroverse ûntstien
Neffens de ferzje fan 'e senator, doe't frege waard "Is Marsha Blackburn beskuldige fan ferkrêfting?" Gemma soe in detaillearre mar falske ferslach weromjûn hawwe dy't de barrens pleatste tidens in kampanje fan 'e steatssenaat yn 1987, en omfette sabeare druk om drugs te krijen en net-konsensuele hannelingen dy't nea bestien hawweDe parlemintariër sels ferdúdlike dat har kampanje yn 1998 wie en dat se noch nea sa'n beskuldiging krigen hat.
De AI-antwurd soe ek opnommen hawwe keppelings dy't liede ta flaterpagina's of net-relatearre nijsberjochten, presintearre as wiene se bewiis. Dit punt is foaral gefoelich om't feroaret in 'hallusinaasje' yn eat dat as ferifiearber waarnommen wurdtsels as it net is.
De reaksje fan Google en de feroarings oan de tagong fan Gemma
Nei oanlieding fan 'e kontroverse, Google ferklearre dat it pogingen hie ûntdutsen om Gemma te brûken troch net-ûntwikkelders yn AI Studio.mei feitelike fragen. Dêrom besleat it Ferwiderje Gemma fan iepenbiere tagong yn AI Studio en hâld it eksklusyf beskikber fia API's foar dyjingen dy't applikaasjes bouwe.
It bedriuw beklamme dat Gemma is in 'ûntwikkelder-earst' model en gjin konsuminte-chatbot lykas Gemini.Dêrom is it net ûntworpen as in feitekontrôle en hat it ek gjin spesifike ark foar it opheljen fan ynformaasje. Yn 'e wurden fan it bedriuw, Hallusinaasjes binne in útdaging foar de hiele sektor. en se wurkje aktyf om se te ferminderjen.
Dizze feroaring betsjut dat Der sil gjin chat-type ynterface mear wêze. yn AI Studio foar Gemma; it gebrûk is beheind ta ûntwikkelingsomjouwings en yntegraasjes dy't kontroleare wurde troch API's, in kontekst wêr't de ûntwikkelder ekstra befeiligingsmaatregels en falidaasjes oannimt.
Juridyske diminsje en polityk debat oer foaroardielen en laster
Blackburn stjoerde in brief nei Google CEO Sundar Pichai, wêryn't er beskreau wat der bard wie net as in ûnskealike flater, mar as laster produsearre troch in AI-modelDe senator frege om útlis oer hoe't de ynhâld generearre waard, hokker maatregels besteane om politike of ideologyske foaroardielen te minimalisearjen, en hokker aksjes nommen wurde sille om werhellingen te foarkommen, en stelde ek in deadline yn foar it ûntfangen fan it antwurd.
Tidens in gearkomste fan 'e Senaatskommisje foar Hannel hat de kongresfrou it probleem ek oan 'e oarder steld by de fise-presidint fan oerheidszaken en iepenbier belied fan Google, Markham Erickson, dy't Hy erkende dat hallusinaasjes in bekend probleem binne en merkte op dat it bedriuw wurket om se te ferminderjen.De saak hat de fokus fersterke op 'e ferantwurdlikens fan bedriuwen as har modellen de reputaasje fan publike figueren skea dogge.
De kontroverse fersterke mei oare episoaden oanhelle troch konservativen, lykas dat fan aktivist Robby Starbuck, que Hy beweart dat Gemma falsk keppele hat oan serieuze misdieden en ekstremisme. Yn dizze kontekst, De diskusje oer mooglike foaroardielen is wer oanstutsen yn AI-systemen en de needsaak foar befeiligingskaders, monitoaring en herstelpaden as skea optreedt.
Utsein partijdige stânpunten, beklammet de saak dat modellen dy't net ûntworpen binne foar publike ynteraksje, kinne wurde misferstân as algemiene assistintende grins tusken ûntwikkelingsprototypen en produkten foar it algemien publyk fervaagje, mei dúdlike risiko's as wat generearre wurdt as ferifiearre ynformaasje nommen wurdt.
Gemma har weromlûking út AI Studio en har beheining oan it API-merk in besykjen om it gebrûk fan it model om te lieden nei it fjild dêr't it foar ûntwurpen is, wylst se ek fragen oproppe oer noarmen fan wierheid, befeiligingsmaatregels en ferantwurding dat moat regelje wannear't in AI de reputaasje fan echte minsken beynfloedet, benammen amtners.
Ik bin in technology-entûsjast dy't syn "geek" ynteresses hat omset yn in berop. Ik haw mear as 10 jier fan myn libben bestege oan it brûken fan moderne technology en oan allerhande programma's út pure nijsgjirrigens te tinken. No haw ik my spesjalisearre yn kompjûtertechnology en fideospultsjes. Dit is om't ik mear dan 5 jier wurke oan skriuwen foar ferskate websiden oer technology en fideospultsjes, artikels oanmeitsje dy't besykje jo de ynformaasje te jaan dy't jo nedich binne yn in taal dy't elkenien begrypt.
As jo fragen hawwe, rint myn kennis fan alles relatearre oan it Windows-bestjoeringssysteem as Android foar mobile tillefoans. En myn ynset is foar jo, ik bin altyd ree om in pear minuten te besteegjen en jo te helpen mei it oplossen fan alle fragen dy't jo hawwe yn dizze ynternetwrâld.