- Google odstraňuje model Gemma z AI Studia a omezuje jeho použití na vývojáře založené na API.
- Senátorka Marsha Blackburnová tvrdí, že umělá inteligence generovala falešná obvinění ze sexuálního obtěžování.
- Google tvrdí, že nástroj určený pro vývojáře byl zneužit, a uznává problematiku halucinací.
- Případ znovu oživuje politickou a právní debatu o zaujatosti, pomluvě a odpovědnosti v oblasti umělé inteligence.
Rozhodnutí společnosti Google stáhnout svůj model Gemma z platformy AI Studio Stalo se tak po formální stížnosti americké senátorky Marshy Blackburnové, která tvrdí, že Umělá inteligence proti němu vygenerovala falešná obviněníTato epizoda znovu rozpoutala diskusi o limitech generativních systémů a odpovědnosti technologických společností, když model produkuje škodlivé informace.
Gemma byla koncipována jako sada lehkých modelů zaměřených na vývojáře, nikoli jako univerzální pomocník pro spotřebitele. Přesto Uživatelé k němu přistupovali prostřednictvím AI Studia y Používali ho k kladení faktických otázekcož by vedlo k vymyšlené odpovědi a neexistující odkazy.
Co se stalo a jak vznikl spor
Podle senátorovy verze, když byl dotázán „Byla Marsha Blackburnová obviněna ze znásilnění?", Gemma by vrátila podrobnou, ale falešnou zprávu který zasadil události do kampaně do Senátu státu v roce 1987 a zahrnoval údajný nátlak na získání drog a nedobrovolné akty, které nikdy neexistovalySama poslankyně upřesnila, že její kampaň probíhala v roce 1998 a že se s takovým obviněním nikdy nesetkala.
Reakce umělé inteligence by také zahrnovala odkazy, které vedly na chybové stránky nebo nesouvisející zprávy, prezentované jako důkazy. Tento bod je obzvláště citlivý, protože promění „halucinaci“ v něco, co je vnímáno jako ověřitelné, i když není.
Reakce Googlu a změny v přístupu Gemmy
Po kontroverzi, Google vysvětlil, že v AI Studiu zjistil pokusy o použití Gemmy nevývojáři.s faktickými dotazy. Proto se rozhodlo Odeberte Gemmu z veřejného přístupu v AI Studiu a ponechte ji dostupnou výhradně prostřednictvím API. pro ty, kteří vytvářejí aplikace.
Společnost zdůraznila, že Gemma je model „primárně zaměřený na vývojáře“ a ne chatbot pro spotřebitele jako Gemini.Není proto navržen jako ověřovač faktů ani nemá specifické nástroje pro vyhledávání informací. Slovy společnosti, Halucinace jsou výzvou pro celé odvětví a aktivně pracují na jejich zmírnění.
Tato změna naznačuje, že Již nebude k dispozici rozhraní typu chatu. v AI Studiu pro Gemmu; jeho použití je omezeno na vývojová prostředí a integrace řízené API, což je kontext, kde vývojář předpokládá dodatečná ochranná opatření a validace.
Právní rozměr a politická debata o zaujatosti a pomluvě
Blackburn poslal dopis generálnímu řediteli Googlu Sundaru Pichaiovi, v němž popsal, co se stalo, nikoli jako neškodnou chybu, ale jako... pomluva vytvořená modelem umělé inteligenceSenátor požádal o vysvětlení, jak byl obsah generován, jaká existují opatření k minimalizaci politických nebo ideologických předsudků a jaké kroky budou podniknuty k zabránění opakování, a také stanovil lhůtu pro obdržení odpovědi.
Během slyšení senátního obchodního výboru kongresmanka nastolila tuto otázku i s viceprezidentem společnosti Google pro vládní záležitosti a veřejnou politiku Markhamem Ericksonem, který... Uznal, že halucinace jsou známým problémem, a poznamenal, že společnost pracuje na jejich zmírnění.Případ zintenzivnil pozornost na odpovědnost firem, když jejich modelky poškozují pověst veřejně známých osobností.
Kontroverze se vyostřila s další epizody citované konzervativci, jako to aktivista Robby StarbuckŽe Tvrdí, že ho Gemma falešně spojovala se závažnými zločiny a extremismem.. V tomto kontextu, Debata o možných předsudcích se znovu otevírá v systémech umělé inteligence a potřeba bezpečnostních rámců, monitorování a způsobů nápravy v případě vzniku škody.
Kromě stranických pozic tento případ zdůrazňuje, že modely, které nejsou navrženy pro interakci s veřejností, mohou být nepochopeni jako obecní asistentistírání hranice mezi vývojovými prototypy a produkty pro širokou veřejnost, což s sebou nese zjevná rizika, pokud se vygenerované informace považují za ověřené.
Gemmino odstoupení z AI Studia a její omezení na značku API pokus přesměrovat použití modelu do oblasti, pro kterou byl vytvořena zároveň vyvolává otázky ohledně standardy pravdivosti, záruk a odpovědnosti to by mělo upravovat, kdy umělá inteligence ovlivňuje pověst skutečných lidí, zejména veřejných činitelů.
Jsem technologický nadšenec, který ze svých „geekovských“ zájmů udělal profesi. Strávil jsem více než 10 let svého života používáním nejmodernějších technologií a vrtáním se všemi druhy programů z čisté zvědavosti. Nyní se specializuji na počítačovou techniku a videohry. Je to proto, že již více než 5 let píšu pro různé webové stránky o technologiích a videohrách a tvořím články, které se vám snaží poskytnout informace, které potřebujete, v jazyce, který je srozumitelný všem.
Pokud máte nějaké dotazy, mé znalosti sahají od všeho, co se týká operačního systému Windows a také Androidu pro mobilní telefony. A můj závazek je vůči vám, jsem vždy ochoten strávit pár minut a pomoci vám vyřešit jakékoli otázky, které můžete mít v tomto internetovém světě.