- Google fjarlægir Gemma líkanið úr AI Studio og takmarkar notkun þess við forritara sem nota API.
- Öldungadeildarþingmaðurinn Marsha Blackburn heldur því fram að gervigreind hafi komið af stað röngum ásökunum um kynferðisbrot.
- Google heldur fram misnotkun á tóli sem ætlað er forriturum og viðurkennir áskorunina af ofskynjunum.
- Málið kyndir undir pólitískri og lagalegri umræðu um hlutdrægni, meiðyrði og ábyrgð í gervigreind.
Ákvörðun Google um að afturkalla líkanið þitt Gemma frá AI Studio kerfinu Þetta kemur í kjölfar formlegrar kvörtunar frá bandaríska öldungadeildarþingmanninum Marshu Blackburn, sem heldur því fram að Gervigreindin framdi falskar ásakanir gegn honumÞátturinn hefur endurvakið umræðuna um takmörk kynslóðarkerfa og ábyrgð tæknifyrirtækja þegar líkan framleiðir skaðlegar upplýsingar.
Gemma var hugsuð sem safn léttar líkana ætlaðar forriturum, ekki sem almennur neytendaaðstoðarmaður. Engu að síður, Notendur fengu aðgang að því í gegnum AI Studio y Þeir notuðu það til að spyrja staðreyndaspurningasem hefði leitt til uppspuni og ótilgreindir tenglar.
Hvað gerðist og hvernig kviknaði deilan
Samkvæmt útgáfu öldungadeildarþingmannsins, þegar hann var spurður „Hefur Marsha Blackburn verið sökuð um nauðgun?", Gemma hefði skilað ítarlegri en falskri frásögn sem setti atburðina á tíma kosningabaráttu öldungadeildar ríkisins árið 1987 og fól í sér meintan þrýsting til að útvega sér fíkniefni og óviljandi athafnir sem aldrei voru til staðarÞingkonan sjálf útskýrði að kosningabarátta hennar hafi verið árið 1998 og að hún hefði aldrei fengið slíka ásökun.
Viðbrögð gervigreindarinnar hefðu einnig innifalið tenglar sem leiddu til villusíðna eða ótengdar fréttir, kynntar eins og þær væru sönnunargögn. Þetta atriði er sérstaklega viðkvæmt vegna þess að breytir „ofskynjunum“ í eitthvað sem er talið vera sannanlegtjafnvel þótt það sé ekki.
Viðbrögð Google og breytingarnar á aðgangi Gemmu
Í kjölfar deilunnar, Google útskýrði að það hefði greint tilraunir til að nota Gemma af hálfu annarra en forritara í AI Studio.með staðreyndarfyrirspurnum. Þess vegna ákvað það Fjarlægja Gemmu úr almenningsaðgangi í AI Studio og halda henni eingöngu aðgengilegri í gegnum API-viðmót fyrir þá sem smíða forrit.
Fyrirtækið lagði áherslu á að Gemma er „forritari fyrst“ líkan og ekki neytendaspjallþjónn eins og Gemini.Þess vegna er það ekki hannað sem staðreyndaskoðun né hefur það sérstök verkfæri til upplýsingaöflunar. Með orðum fyrirtækisins, Ofskynjanir eru áskorun fyrir alla greinina. og þeir vinna virkt að því að draga úr þeim.
Þessi breyting felur í sér að Það verður ekki lengur spjallviðmót. í AI Studio fyrir Gemma; notkun þess er takmörkuð við þróunarumhverfi og samþættingar sem stjórnað er af API, í því samhengi að forritarinn tekur að sér frekari öryggisráðstafanir og staðfestingar.
Lögfræðileg vídd og stjórnmálaleg umræða um hlutdrægni og meiðyrði
Blackburn sendi Sundar Pichai, forstjóra Google, bréf þar sem hann lýsti atburðunum ekki sem skaðlausum mistökum heldur sem ... ærumeiðingar framleiddar af gervigreindarlíkaniÖldungadeildarþingmaðurinn bað um skýringar á því hvernig efnið var búið til, hvaða ráðstafanir væru til staðar til að lágmarka pólitíska eða hugmyndafræðilega fordóma og hvaða aðgerða yrði gripið til til að koma í veg fyrir endurtekningar, og setti einnig frest til að fá svar.
Á fundi viðskiptanefndar öldungadeildarinnar vakti þingkonan einnig athygli á málinu við varaforseta stjórnmála- og stefnumótunarmála hjá Google, Markham Erickson, sem... Hann viðurkenndi að ofskynjanir væru þekkt vandamál og benti á að fyrirtækið væri að vinna að því að draga úr þeim.Málið hefur aukið athyglina á ábyrgð fyrirtækja þegar fyrirmyndir þeirra skaða orðspor opinberra einstaklinga.
Deilan magnaðist upp með önnur atriði sem íhaldsmenn nefndu, eins og þess aðgerðasinni Robby StarbuckÞað Hann fullyrðir að Gemma hafi ranglega tengt hann við alvarleg glæpi og öfgahyggju.. Í þessu samhengi, Umræðan um mögulega fordóma blossar upp á ný í gervigreindarkerfum og þörfinni fyrir öryggisramma, eftirlit og úrræði þegar tjón verður.
Auk flokksbundinna afstöðu undirstrikar málið að líkön sem ekki eru hönnuð fyrir samskipti við almenning geta verið misskilið sem almennir aðstoðarmennað þoka línuna á milli þróunarfrumgerða og vara fyrir almenning, með augljósri áhættu ef það sem myndast er tekið sem staðfestar upplýsingar.
Gemma hættir störfum hjá AI Studio og er bundin við API-merkið tilraun til að beina notkun líkansins að því sviði sem það var hannað fyrir, en jafnframt vekur upp spurningar um staðlar um sannleiksgildi, öryggisráðstafanir og ábyrgð sem ætti að stjórna því hvenær gervigreind hefur áhrif á orðspor raunverulegs fólks, sérstaklega opinberra starfsmanna.
Ég er tækniáhugamaður sem hefur breytt "nörda" áhugamálum sínum í fag. Ég hef eytt meira en 10 árum af lífi mínu í að nota háþróaða tækni og fikta í alls kyns forritum af einskærri forvitni. Nú hef ég sérhæft mig í tölvutækni og tölvuleikjum. Þetta er vegna þess að í meira en 5 ár hef ég skrifað fyrir ýmsar vefsíður um tækni og tölvuleiki, búið til greinar sem leitast við að veita þér þær upplýsingar sem þú þarft á tungumáli sem er skiljanlegt fyrir alla.
Ef þú hefur einhverjar spurningar þá nær þekking mín frá öllu sem tengist Windows stýrikerfinu sem og Android fyrir farsíma. Og skuldbinding mín er til þín, ég er alltaf tilbúin að eyða nokkrum mínútum og hjálpa þér að leysa allar spurningar sem þú gætir haft í þessum internetheimi.