- Google tar bort Gemma-modellen från AI Studio och begränsar dess användning till API-baserade utvecklare.
- Senator Marsha Blackburn påstår att AI genererade falska anklagelser om sexuella övergrepp
- Google påstår missbruk av ett verktyg avsett för utvecklare och erkänner utmaningen med hallucinationer.
- Fallet väcker nytt liv i den politiska och juridiska debatten om partiskhet, förtal och ansvar inom AI.
Googles beslut att återkalla din modell Gemma från AI Studio-plattformen Det kommer efter ett formellt klagomål från den amerikanska senatorn Marsha Blackburn, som hävdar att AI genererade falska anklagelser mot honomEpisoden har återuppväckt diskussionen om begränsningarna för generativa system och teknikföretagens ansvar när en modell producerar skadlig information.
Gemma utformades som en uppsättning lättviktsmodeller riktade mot utvecklare, inte som en allmän konsumentassistent. Ändå, Användare fick åtkomst till den via AI Studio y De använde det för att ställa faktafrågorvilket skulle ha lett till påhittade svar och obefintliga länkar.
Vad hände och hur uppstod kontroversen
Enligt senatorns version, när han frågades ”Har Marsha Blackburn anklagats för våldtäkt?", Gemma skulle ha återlämnat en detaljerad men falsk redogörelse som placerade händelserna under en senatskampanj i delstaten 1987, och inkluderade påstådda påtryckningar för att få tag på droger och icke-samtyckande handlingar som aldrig existeratParlamentsledamoten själv förtydligade att hennes kampanj pågick 1998 och att hon aldrig har fått någon sådan anklagelse.
AI-svaret skulle också ha inkluderat länkar som ledde till felsidor eller orelaterade nyhetsinslag, presenterade som om de vore bevis. Denna punkt är särskilt känslig eftersom förvandlar en "hallucination" till något som uppfattas som verifierbart, även om det inte är det.
Googles reaktion och ändringarna av Gemmas åtkomst
Efter kontroversen, Google förklarade att de hade upptäckt försök att använda Gemma av icke-utvecklare i AI Studio.med faktaundersökningar. Därför beslutade den Ta bort Gemma från offentlig åtkomst i AI Studio och håll den tillgänglig exklusivt via API:er för de som bygger applikationer.
Företaget betonade att Gemma är en "utvecklare först"-modell och inte en konsumentchatbot som Gemini.Därför är den inte utformad som en faktagranskare och har inte heller specifika verktyg för informationssökning. Med företagets ord, Hallucinationer är en utmaning för hela branschen och de arbetar aktivt för att mildra dem.
Denna förändring innebär att Det kommer inte längre att finnas ett chattliknande gränssnitt. i AI Studio för Gemma; dess användning är begränsad till utvecklingsmiljöer och integrationer som styrs av API:er, ett sammanhang där utvecklaren vidtar ytterligare skyddsåtgärder och valideringar.
Rättslig dimension och politisk debatt om partiskhet och förtal
Blackburn skickade ett brev till Googles VD Sundar Pichai och beskrev det som hände inte som ett ofarligt misstag, utan som förtal producerat av en AI-modellSenatorn begärde förklaringar om hur innehållet genererades, vilka åtgärder som finns för att minimera politiska eller ideologiska partiskheter och vilka åtgärder som kommer att vidtas för att förhindra upprepningar, och satte också en tidsfrist för att motta svaret.
Under en utfrågning i senatens handelsutskott tog kongressledamoten även upp frågan med Googles vice vd för statliga frågor och offentlig politik, Markham Erickson, som Han erkände att hallucinationer är ett känt problem och noterade att företaget arbetar med att mildra dem.Fallet har intensifierat fokus på företags ansvar när deras modeller skadar offentliga personers rykte.
Kontroversen intensifierades med andra avsnitt som citerats av konservativa, som den aktivisten Robby StarbuckAtt Han påstår sig ha blivit falskt kopplad av Gemma till allvarliga brott och extremism. I detta sammanhang, Debatten om eventuella partiskheter har blussen upp igen i AI-system och behovet av säkerhetsramverk, övervakning och åtgärder vid behov när skada uppstår.
Utöver partiska ståndpunkter belyser fallet att modeller som inte är utformade för offentlig interaktion kan vara missförstådda som allmänna assistentersuddar ut gränsen mellan utvecklingsprototyper och produkter för allmänheten, med uppenbara risker om det som genereras tas som verifierad information.
Gemmas tillbakadragande från AI Studio och hennes begränsning till API-märket ett försök att omdirigera användningen av modellen till det område för vilket den utformades, samtidigt som det väcker frågor om standarder för sanningsenlighet, skyddsåtgärder och ansvarsskyldighet som bör styra när en AI påverkar riktiga människors rykte, särskilt offentliga tjänstemän.
Jag är en teknikentusiast som har gjort sina "nördar"-intressen till ett yrke. Jag har tillbringat mer än 10 år av mitt liv med att använda den senaste tekniken och mixtrat med alla typer av program av ren nyfikenhet. Nu har jag specialiserat mig på datateknik och tv-spel. Detta beror på att jag i mer än 5 år har arbetat med att skriva för olika webbplatser om teknik och videospel, skapa artiklar som försöker ge dig den information du behöver på ett språk som är begripligt för alla.
Om du har några frågor sträcker sig min kunskap från allt som rör operativsystemet Windows samt Android för mobiltelefoner. Och mitt engagemang är för dig, jag är alltid villig att spendera några minuter och hjälpa dig att lösa alla frågor du kan ha i den här internetvärlden.