- Google verwijdert het Gemma-model uit AI Studio en beperkt het gebruik ervan tot API-gebaseerde ontwikkelaars.
- Senator Marsha Blackburn beweert dat AI valse beschuldigingen van seksueel wangedrag heeft gegenereerd
- Google beweert misbruik van een tool die bedoeld is voor ontwikkelaars en erkent de uitdaging van hallucinaties
- De zaak wakkert het politieke en juridische debat over vooringenomenheid, smaad en aansprakelijkheid in AI opnieuw aan.
Het besluit van Google om trek uw model terug Gemma van het AI Studio-platform Dit volgt op een formele klacht van de Amerikaanse senator Marsha Blackburn, die beweert dat De AI heeft valse beschuldigingen tegen hem geuitDe aflevering heeft de discussie over de beperkingen van generatieve systemen en de verantwoordelijkheid van technologiebedrijven wanneer een model schadelijke informatie produceert, nieuw leven ingeblazen.
Gemma is ontworpen als een reeks lichtgewicht modellen gericht op ontwikkelaars, niet als een algemene gebruikersassistent. Toch, Gebruikers kregen er toegang toe via AI Studio y Ze gebruikten het om feitelijke vragen te stellenwat zou hebben geleid tot gefabriceerde antwoorden en niet-bestaande links.
Wat er gebeurde en hoe de controverse ontstond
Volgens de versie van de senator, toen hem gevraagd werd: "Is Marsha Blackburn beschuldigd van verkrachting?" Gemma zou een gedetailleerd maar vals verslag hebben teruggestuurd die de gebeurtenissen plaatste tijdens een campagne voor de Senaat van de staat in 1987, en onder meer vermeende druk omvatte om drugs te verkrijgen en niet-consensuele handelingen die nooit hebben bestaanDe parlementariër gaf zelf aan dat haar campagne in 1998 plaatsvond en dat zij nooit een dergelijke beschuldiging heeft ontvangen.
De AI-reactie zou ook hebben omvat links die naar foutpagina's leidden of niet-gerelateerde nieuwsberichten, gepresenteerd als bewijs. Dit punt is bijzonder gevoelig omdat verandert een 'hallucinatie' in iets dat als verifieerbaar wordt ervaren, ook al is dat niet zo.
De reactie van Google en de wijzigingen in Gemma's toegang
Na de controverse, Google legde uit dat het pogingen had ontdekt om Gemma te gebruiken door niet-ontwikkelaars in AI Studiomet feitelijke vragen. Daarom besloot het Verwijder Gemma uit de openbare toegang in AI Studio en houd het exclusief beschikbaar via API's voor degenen die applicaties bouwen.
Het bedrijf benadrukte dat Gemma is een 'ontwikkelaar-eerst'-model en geen consumentenchatbot zoals Gemini.Het is daarom niet ontworpen als een factchecker en beschikt ook niet over specifieke tools voor informatieopvraging. In de woorden van het bedrijf: Hallucinaties vormen een uitdaging voor de hele industrie en ze werken actief aan het beperken hiervan.
Deze verandering houdt in dat Er zal geen chatinterface meer zijn. in AI Studio voor Gemma; het gebruik ervan is beperkt tot ontwikkelomgevingen en integraties die worden beheerd door API's, een context waarin de ontwikkelaar extra beveiligingen en validaties verwacht.
Juridische dimensie en politiek debat over vooringenomenheid en smaad
Blackburn stuurde een brief naar Google CEO Sundar Pichai, waarin hij beschreef wat er gebeurde niet als een onschuldige fout, maar als smaad geproduceerd door een AI-modelDe senator vroeg om uitleg over hoe de inhoud tot stand is gekomen, welke maatregelen er zijn om politieke of ideologische vooroordelen te minimaliseren en welke acties er worden ondernomen om herhaling te voorkomen. Ook werd een deadline gesteld voor het ontvangen van het antwoord.
Tijdens een hoorzitting van de Senaatscommissie voor Handel bracht de congresvrouw de kwestie ook ter sprake bij Markham Erickson, vicevoorzitter van Overheidszaken en Publiek Beleid bij Google, die Hij erkende dat hallucinaties een bekend probleem zijn en merkte op dat het bedrijf eraan werkt om deze te verminderen.De zaak heeft de aandacht gevestigd op de verantwoordelijkheid van bedrijven wanneer hun modellen de reputatie van publieke figuren schaden.
De controverse werd heviger toen andere afleveringen die door conservatieven worden aangehaald, zoals dat van activist Robby StarbuckDat Hij beweert dat Gemma hem ten onrechte in verband heeft gebracht met ernstige misdaden en extremisme.. In deze context, Het debat over mogelijke vooroordelen laait weer op in AI-systemen en de behoefte aan beveiligingskaders, monitoring en verhaalmogelijkheden wanneer er schade optreedt.
Naast partijdige standpunten benadrukt de zaak dat modellen die niet zijn ontworpen voor interactie met het publiek, verkeerd begrepen als algemene assistentende grens tussen ontwikkelingsprototypes en producten voor het grote publiek vervaagt, met duidelijke risico's als wat gegenereerd wordt als geverifieerde informatie wordt beschouwd.
Gemma's terugtrekking uit AI Studio en haar beperking tot het API-merk een poging om het gebruik van het model te heroriënteren naar het veld waarvoor het is bedacht, terwijl er ook vragen worden gesteld over normen van waarheidsgetrouwheid, waarborgen en verantwoordingsplicht die zou moeten bepalen wanneer een AI de reputatie van echte mensen, en dan met name van overheidsfunctionarissen, aantast.
Ik ben een technologieliefhebber die van zijn 'nerd'-interesses zijn beroep heeft gemaakt. Ik heb meer dan 10 jaar van mijn leven doorgebracht met het gebruik van de allernieuwste technologie en het sleutelen aan allerlei programma's uit pure nieuwsgierigheid. Nu heb ik mij gespecialiseerd in computertechnologie en videogames. Dit komt omdat ik al meer dan vijf jaar voor verschillende websites over technologie en videogames schrijf en artikelen heb gemaakt die proberen u de informatie te geven die u nodig heeft in een taal die voor iedereen begrijpelijk is.
Als je vragen hebt, mijn kennis strekt zich uit van alles wat te maken heeft met het Windows-besturingssysteem tot Android voor mobiele telefoons. En mijn toewijding is aan jou, ik ben altijd bereid om een paar minuten te besteden en je te helpen bij het oplossen van eventuele vragen die je hebt in deze internetwereld.