- Google tneħħi l-mudell Gemma minn AI Studio u tillimita l-użu tiegħu għal żviluppaturi bbażati fuq l-API.
- Is-Senatur Marsha Blackburn tallega li l-AI ġġenerat akkużi foloz ta’ kondotta sesswali ħażina
- Google tallega użu ħażin ta' għodda maħsuba għall-iżviluppaturi u tirrikonoxxi l-isfida tal-alluċinazzjonijiet
- Il-każ jerġa' jqajjem id-dibattitu politiku u legali dwar il-preġudizzju, id-diffamazzjoni, u r-responsabbiltà fl-AI.
Id-deċiżjoni ta' Google li irtira l-mudell tiegħek Gemma mill-pjattaforma AI Studio Dan jiġi wara lment formali mis-Senatur Amerikan Marsha Blackburn, li ssostni li L-AI ġġenerat akkużi foloz kontrihL-episodju reġa’ qanqal id-diskussjoni dwar il-limiti tas-sistemi ġenerattivi u r-responsabbiltà tal-kumpaniji tat-teknoloġija meta mudell jipproduċi informazzjoni ta’ ħsara.
Gemma kienet maħsuba bħala sett ta’ mudelli ħfief immirati lejn l-iżviluppaturi, mhux bħala assistent tal-konsumatur għal skopijiet ġenerali. Anke hekk, L-utenti aċċessawh permezz tal-AI Studio y Huma użawha biex jistaqsu mistoqsijiet fattwalili kien iwassal għal tweġibiet ivvintati u links ineżistenti.
X’ġara u kif oriġinat il-kontroversja
Skont il-verżjoni tas-senatur, meta mistoqsi “Ġiet akkużata Marsha Blackburn bi stupru?", Gemma kienet tirritorna rendikont dettaljat iżda falz li poġġiet l-avvenimenti waqt kampanja tas-Senat tal-istat tal-1987, u inkludiet allegata pressjoni biex jinkisbu drogi u atti mhux kunsenswali li qatt ma eżistewIl-membru parlamentari nnifisha ċċarat li l-kampanja tagħha kienet fl-1998 u li qatt ma rċeviet akkuża bħal din.
Ir-rispons tal-AI kien ikun inkorpora wkoll links li wasslu għal paġni ta' żball jew aħbarijiet mhux relatati, ippreżentati bħallikieku kienu evidenza. Dan il-punt huwa partikolarment sensittiv għaliex tibdel 'alluċinazzjoni' f'xi ħaġa li hija pperċepita bħala verifikabblianke jekk mhux hekk.
Ir-reazzjoni ta' Google u l-bidliet fl-aċċess ta' Gemma
Wara l-kontroversja, Google spjegat li kienet skopriet tentattivi biex tintuża Gemma minn dawk li mhumiex żviluppaturi f'AI Studiob'inkjesti fattwali. Għalhekk, iddeċidiet Neħħi lil Gemma mill-aċċess pubbliku f'AI Studio u żommha disponibbli esklussivament permezz tal-APIs għal dawk li jibnu applikazzjonijiet.
Il-kumpanija enfasizzat li Gemma hija mudella li 'tiffoka l-ewwel fuq l-iżviluppatur' u mhux chatbot tal-konsumatur bħal Gemini.Għalhekk, mhuwiex iddisinjat bħala verifikatur tal-fatti u lanqas m'għandu għodod speċifiċi għall-irkupru tal-informazzjoni. Fi kliem il-kumpanija, L-alluċinazzjonijiet huma sfida għall-industrija kollha u jaħdmu b'mod attiv biex itaffuhom.
Din il-bidla timplika li Mhux se jkun hemm aktar interfaċċja tat-tip chat. f'AI Studio għal Gemma; l-użu tiegħu huwa ristrett għal ambjenti ta' żvilupp u integrazzjonijiet ikkontrollati minn APIs, kuntest fejn l-iżviluppatur jassumi salvagwardji u validazzjonijiet addizzjonali.
Dimensjoni legali u dibattitu politiku dwar il-preġudizzju u d-diffamazzjoni
Blackburn bagħtet ittra lis-CEO ta' Google Sundar Pichai, fejn iddeskriviet dak li ġara mhux bħala żball li ma jagħmilx ħsara, iżda bħala malafama prodotta minn mudell tal-AIIs-senatur talab spjegazzjonijiet dwar kif ġie ġġenerat il-kontenut, liema miżuri jeżistu biex jiġu minimizzati l-preġudizzji politiċi jew ideoloġiċi, u liema azzjonijiet se jittieħdu biex jiġu evitati r-ripetizzjonijiet, filwaqt li stabbilixxa wkoll skadenza biex tirċievi t-tweġiba.
Waqt seduta ta' smigħ tal-Kumitat tal-Kummerċ tas-Senat, il-membru tal-kungress qajmet ukoll il-kwistjoni mal-Viċi President tal-Affarijiet tal-Gvern u l-Politika Pubblika ta' Google, Markham Erickson, li Huwa rrikonoxxa li l-alluċinazzjonijiet huma problema magħrufa u nnota li l-kumpanija qed taħdem biex ittaffihom.Il-każ intensifika l-enfasi fuq ir-responsabbiltà tal-kumpaniji meta l-mudelli tagħhom jagħmlu ħsara lir-reputazzjoni ta’ figuri pubbliċi.
Il-kontroversja intensifikat ma’ episodji oħra kkwotati minn konservattivi, bħal dik ta ' l-attivist Robby StarbuckLi Huwa jsostni li Gemma rabtet b'mod falz ma' reati serji u estremiżmu.. F'dan il-kuntest, Id-dibattitu dwar preġudizzji possibbli reġa’ tqajjem fis-sistemi tal-IA u l-ħtieġa għal oqfsa ta' sigurtà, monitoraġġ, u mogħdijiet ta' rikors meta sseħħ ħsara.
Lil hinn mill-pożizzjonijiet partiġġjani, il-każ jenfasizza li mudelli mhux iddisinjati għall-interazzjoni pubblika jistgħu jkunu mifhuma ħażin bħala assistenti ġeneraliiċċajpar il-linja bejn il-prototipi tal-iżvilupp u l-prodotti għall-pubbliku ġenerali, b'riskji ovvji jekk dak li jiġi ġġenerat jittieħed bħala informazzjoni verifikata.
L-irtirar ta' Gemma minn AI Studio u l-konfinament tagħha għall-marka tal-API tentattiv biex l-użu tal-mudell jiġi dirett lejn il-qasam li għalih ġie maħsub, filwaqt li jqajjem ukoll mistoqsijiet dwar standards ta' verità, salvagwardji, u responsabbiltà li għandu jirregola meta AI taffettwa r-reputazzjoni ta' nies reali, speċjalment uffiċjali pubbliċi.
Jien dilettant tat-teknoloġija li bidlet l-interessi "geek" tiegħu fi professjoni. Għamilt aktar minn 10 snin minn ħajti nuża teknoloġija avvanzata u nagħmel tbagħbis ma’ kull tip ta’ programmi għal kurżità pura. Issa speċjajtejt fit-teknoloġija tal-kompjuter u l-logħob tal-kompjuter. Dan għaliex ilni aktar minn 5 snin naħdem nikteb għal diversi websajts dwar teknoloġija u video games, noħloq artikli li jfittxu li jagħtuk l-informazzjoni li għandek bżonn b’lingwa li tinftiehem minn kulħadd.
Jekk għandek xi mistoqsijiet, l-għarfien tiegħi jvarja minn dak kollu relatat mas-sistema operattiva Windows kif ukoll Android għat-telefowns ċellulari. U l-impenn tiegħi huwa għalik, jien dejjem lest li nqatta' ftit minuti u ngħinek issolvi kwalunkwe mistoqsija li jista' jkollok f'din id-dinja tal-internet.