- Mae Google yn tynnu'r model Gemma o AI Studio ac yn cyfyngu ei ddefnydd i ddatblygwyr sy'n seiliedig ar API.
- Mae'r Seneddwr Marsha Blackburn yn honni bod AI wedi creu cyhuddiadau ffug o gamymddwyn rhywiol
- Mae Google yn honni camddefnyddio teclyn a fwriadwyd ar gyfer datblygwyr ac yn cydnabod yr her o rithwelediadau
- Mae'r achos yn ailgynnau'r ddadl wleidyddol a chyfreithiol ynghylch rhagfarn, enllib ac atebolrwydd mewn deallusrwydd artiffisial.
Penderfyniad Google i tynnu eich model yn ôl Gemma o blatfform Stiwdio AI Daw hyn ar ôl cwyn ffurfiol gan y Seneddwr Marsha Blackburn, sy'n honni bod Cynhyrchodd yr AI gyhuddiadau ffug yn ei erbynMae'r bennod wedi ailgynnau'r drafodaeth am derfynau systemau cynhyrchiol a chyfrifoldeb cwmnïau technoleg pan fydd model yn cynhyrchu gwybodaeth niweidiol.
Cafodd Gemma ei chreu fel set o fodelau ysgafn wedi'u hanelu at ddatblygwyr, nid fel cynorthwyydd defnyddwyr cyffredinol. Er hynny, Defnyddwyr a gafodd fynediad iddo drwy AI Studio y Fe wnaethon nhw ei ddefnyddio i ofyn cwestiynau ffeithiola fyddai wedi arwain at atebion ffug a dolenni nad ydynt yn bodoli.
Beth ddigwyddodd a sut y dechreuodd y ddadl
Yn ôl fersiwn y seneddwr, pan ofynnwyd iddo “A yw Marsha Blackburn wedi cael ei chyhuddo o dreisio?". Byddai Gemma wedi dychwelyd cyfrif manwl ond ffug a osododd y digwyddiadau yn ystod ymgyrch Senedd y dalaith ym 1987, ac a oedd yn cynnwys pwysau honedig i gael cyffuriau a gweithredoedd anghydsyniol nad oeddent erioed yn bodoliEglurodd y seneddwr ei hun fod ei hymgyrch ym 1998 ac nad yw hi erioed wedi derbyn cyhuddiad o'r fath.
Byddai'r ymateb AI hefyd wedi ymgorffori dolenni a arweiniodd at dudalennau gwall neu eitemau newyddion amherthnasol, wedi'u cyflwyno fel pe baent yn dystiolaeth. Mae'r pwynt hwn yn arbennig o sensitif oherwydd yn troi 'rhithweledigaeth' yn rhywbeth sy'n cael ei ystyried yn wiriadwyhyd yn oed os nad yw.
Ymateb Google a'r newidiadau i fynediad Gemma
Yn dilyn y ddadl, Esboniodd Google ei fod wedi canfod ymdrechion i ddefnyddio Gemma gan bobl nad ydynt yn ddatblygwyr yn AI Studio.gydag ymholiadau ffeithiol. Felly penderfynodd Tynnu Gemma o fynediad cyhoeddus yn AI Studio a'i chadw ar gael yn gyfan gwbl drwy APIs i'r rhai sy'n adeiladu cymwysiadau.
Pwysleisiodd y cwmni fod Mae Gemma yn fodel 'datblygwr-yn-gyntaf' ac nid yn sgwrsbot defnyddwyr fel Gemini.Felly, nid yw wedi'i gynllunio fel gwiriwr ffeithiau ac nid oes ganddo offer adfer gwybodaeth penodol. Yng ngeiriau'r cwmni, Mae rhithwelediadau yn her i'r diwydiant cyfan ac maent yn gweithio'n weithredol i'w lliniaru.
Mae'r newid hwn yn awgrymu bod Ni fydd rhyngwyneb math sgwrsio mwyach. yn AI Studio ar gyfer Gemma; mae ei ddefnydd wedi'i gyfyngu i amgylcheddau datblygu ac integreiddiadau a reolir gan APIs, cyd-destun lle mae'r datblygwr yn cymryd yn ganiataol bod ganddo ddiogelwch a dilysiadau ychwanegol.
Dimensiwn cyfreithiol a dadl wleidyddol ar ragfarn a difenwi
Anfonodd Blackburn lythyr at Brif Swyddog Gweithredol Google, Sundar Pichai, gan ddisgrifio'r hyn a ddigwyddodd nid fel camgymeriad diniwed, ond fel enllib a gynhyrchwyd gan fodel AIGofynnodd y seneddwr am esboniadau ynghylch sut y cynhyrchwyd y cynnwys, pa fesurau sy'n bodoli i leihau rhagfarnau gwleidyddol neu ideolegol, a pha gamau a gymerir i atal ailadroddiadau, gan bennu dyddiad cau hefyd ar gyfer derbyn yr ymateb.
Yn ystod gwrandawiad Pwyllgor Masnach y Senedd, cododd y gyngreswraig y mater hefyd gydag Is-lywydd Materion Llywodraeth a Pholisi Cyhoeddus Google, Markham Erickson, a Cydnabu fod rhithwelediadau yn broblem hysbys a nododd fod y cwmni'n gweithio i'w lliniaru.Mae'r achos wedi dwysáu'r ffocws ar gyfrifoldeb cwmnïau pan fydd eu modelau'n niweidio enw da ffigurau cyhoeddus.
Dwyshaodd y ddadl gyda penodau eraill a ddyfynnwyd gan geidwadwyr, fel yna o yr ymgyrchydd Robby Starbuck, hynny Mae'n honni ei fod wedi cael ei gysylltu'n ffug gan Gemma â throseddau difrifol ac eithafiaethYn y cyd-destun hwn, Mae'r ddadl am ragfarnau posibl wedi ailgynnau mewn systemau AI a'r angen am fframweithiau diogelwch, monitro, a llwybrau ategol pan fydd difrod yn digwydd.
Y tu hwnt i safbwyntiau pleidiol, mae'r achos yn tynnu sylw at y ffaith y gall modelau nad ydynt wedi'u cynllunio ar gyfer rhyngweithio cyhoeddus fod camddeall fel cynorthwywyr cyffredinolgan aneglur y llinell rhwng prototeipiau datblygu a chynhyrchion ar gyfer y cyhoedd yn gyffredinol, gyda risgiau amlwg os yw'r hyn a gynhyrchir yn cael ei gymryd fel gwybodaeth wedi'i gwirio.
Gemma yn tynnu'n ôl o AI Studio a'i chyfyngiad i'r marc API ymgais i ailgyfeirio defnydd y model i'r maes y cafodd ei greu ar ei gyfer, tra hefyd yn codi cwestiynau ynghylch safonau gwirionedd, mesurau diogelwch ac atebolrwydd dylai hynny lywodraethu pryd y mae AI yn effeithio ar enw da pobl go iawn, yn enwedig swyddogion cyhoeddus.
Rwy'n frwd dros dechnoleg sydd wedi troi ei ddiddordebau "geek" yn broffesiwn. Rwyf wedi treulio mwy na 10 mlynedd o fy mywyd yn defnyddio technoleg flaengar ac yn tinkering gyda phob math o raglenni allan o chwilfrydedd pur. Nawr rydw i wedi arbenigo mewn technoleg gyfrifiadurol a gemau fideo. Mae hyn oherwydd ers mwy na 5 mlynedd rwyf wedi bod yn ysgrifennu ar gyfer gwefannau amrywiol ar dechnoleg a gemau fideo, gan greu erthyglau sy'n ceisio rhoi'r wybodaeth sydd ei hangen arnoch mewn iaith sy'n ddealladwy i bawb.
Os oes gennych unrhyw gwestiynau, mae fy ngwybodaeth yn amrywio o bopeth sy'n ymwneud â system weithredu Windows yn ogystal ag Android ar gyfer ffonau symudol. Ac mae fy ymrwymiad i chi, rwyf bob amser yn barod i dreulio ychydig funudau a'ch helpu i ddatrys unrhyw gwestiynau sydd gennych yn y byd rhyngrwyd hwn.