- Google odstraňuje model Gemma z AI Studio a obmedzuje jeho použitie na vývojárov založených na API.
- Senátorka Marsha Blackburnová tvrdí, že umelá inteligencia generovala falošné obvinenia zo sexuálneho obťažovania.
- Google tvrdí, že nástroj určený pre vývojárov je zneužívaný, a uznáva, že halucinácie sú problematické.
- Prípad znovu oživuje politickú a právnu diskusiu o zaujatosti, ohováraní a zodpovednosti v oblasti umelej inteligencie.
Rozhodnutie spoločnosti Google stiahnuť svoj model Gemma z platformy AI Studio Stalo sa tak po formálnej sťažnosti americkej senátorky Marshy Blackburnovej, ktorá tvrdí, že Umelá inteligencia proti nemu vygenerovala falošné obvineniaTáto epizóda znovu rozprúdila diskusiu o limitoch generatívnych systémov a zodpovednosti technologických spoločností, keď model produkuje škodlivé informácie.
Gemma bola koncipovaná ako sada ľahkých modelov zameraných na vývojárov, nie ako univerzálny pomocník pre spotrebiteľov. Napriek tomu... Používatelia k nemu pristupovali cez AI Studio y Použili ho na kladenie faktických otázokčo by viedlo k vymyslené odpovede a neexistujúce odkazy.
Čo sa stalo a ako vznikla kontroverzia
Podľa senátorovej verzie, keď sa ho pýtali „Bola Marsha Blackburnová obvinená zo znásilnenia?", Gemma by vrátila podrobný, ale nepravdivý popis. ktorý udalosti umiestnil počas kampane do štátneho Senátu v roku 1987 a zahŕňal údajný nátlak na získanie drog a nekonsenzuálne akty, ktoré nikdy neexistovaliSamotná poslankyňa objasnila, že jej kampaň bola v roku 1998 a že nikdy nedostala takéto obvinenie.
Reakcia umelej inteligencie by zahŕňala aj odkazy, ktoré viedli na chybové stránky alebo nesúvisiace správy, prezentované ako dôkazy. Tento bod je obzvlášť citlivý, pretože premení „halucináciu“ na niečo, čo sa vníma ako overiteľné, aj keď nie je.
Reakcia spoločnosti Google a zmeny v prístupe Gemmy
Po kontroverzii, Spoločnosť Google vysvetlila, že v AI Studio zistila pokusy o použitie Gemmy nevývojármi.s faktickými otázkami. Preto sa rozhodlo Odstráňte Gemmu z verejného prístupu v AI Studio a ponechajte ju dostupnú výlučne prostredníctvom rozhraní API pre tých, ktorí vytvárajú aplikácie.
Spoločnosť zdôraznila, že Gemma je model „zameraný predovšetkým na vývojárov“ a nie je chatbot pre spotrebiteľov ako Gemini.Preto nie je navrhnutý ako overovač faktov ani nemá špecifické nástroje na vyhľadávanie informácií. Podľa slov spoločnosti, Halucinácie sú výzvou pre celé odvetvie a aktívne pracujú na ich zmiernení.
Táto zmena znamená, že Už nebude k dispozícii rozhranie typu chatu. v AI Studio pre Gemmu; jeho použitie je obmedzené na vývojové prostredia a integrácie riadené API, čo je kontext, v ktorom vývojár preberá dodatočné záruky a overenia.
Právny rozmer a politická diskusia o zaujatosti a ohováraní
Blackburn poslal list generálnemu riaditeľovi spoločnosti Google Sundarovi Pichaiovi, v ktorom opísal, čo sa stalo, nie ako neškodnú chybu, ale ako ohováranie vytvorené modelom umelej inteligencieSenátor požiadal o vysvetlenia, ako bol obsah vytvorený, aké opatrenia existujú na minimalizáciu politických alebo ideologických zaujatostí a aké kroky budú prijaté na zabránenie opakovania, pričom stanovil aj termín na doručenie odpovede.
Počas vypočutia v senátnom obchodnom výbore kongresmanka nastolila túto otázku aj s viceprezidentom spoločnosti Google pre vládne záležitosti a verejnú politiku Markhamom Ericksonom, ktorý... Uznal, že halucinácie sú známym problémom a poznamenal, že spoločnosť pracuje na ich zmiernení.Prípad zintenzívnil pozornosť na zodpovednosť spoločností, keď ich modelky poškodzujú reputáciu verejne známych osôb.
Kontroverzia sa vyostrila s ďalšie epizódy citované konzervatívcami, ako to z aktivista Robby StarbuckŽe Tvrdí, že ho Gemma falošne spájala so závažnými trestnými činmi a extrémizmom.. V tomto kontexte, Debata o možných predsudkoch sa znovu rozpútava v systémoch umelej inteligencie a potreba bezpečnostných rámcov, monitorovania a spôsobov nápravy v prípade vzniku škody.
Okrem straníckych pozícií prípad zdôrazňuje, že modely, ktoré nie sú určené na interakciu s verejnosťou, môžu byť nepochopení ako všeobecní asistentistiera sa hranica medzi vývojovými prototypmi a produktmi pre širokú verejnosť, čo so zjavnými rizikami predstavuje, ak sa vygenerované informácie považujú za overené.
Gemmino odstúpenie od AI Studio a jej obmedzenie na značku API pokus presmerovať použitie modelu do oblasti, pre ktorú bol vytvorený, pričom zároveň vyvoláva otázky o štandardy pravdivosti, záruk a zodpovednosti to by malo upravovať, kedy umelá inteligencia ovplyvňuje reputáciu skutočných ľudí, najmä verejných činiteľov.
Som technologický nadšenec, ktorý zo svojich „geekovských“ záujmov urobil povolanie. Strávil som viac ako 10 rokov svojho života používaním špičkových technológií a hraním so všetkými druhmi programov z čistej zvedavosti. Teraz som sa špecializoval na počítačovú techniku a videohry. Je to preto, že už viac ako 5 rokov píšem pre rôzne webové stránky o technológiách a videohrách a vytváram články, ktoré sa snažia poskytnúť vám potrebné informácie v jazyku, ktorý je zrozumiteľný pre každého.
Ak máte nejaké otázky, moje znalosti siahajú od všetkého, čo súvisí s operačným systémom Windows, ako aj Androidom pre mobilné telefóny. A môj záväzok je voči vám, vždy som ochotný venovať pár minút a pomôcť vám vyriešiť akékoľvek otázky, ktoré môžete mať v tomto internetovom svete.