- „Google“ pašalina „Gemma“ modelį iš „AI Studio“ ir apriboja jo naudojimą API pagrindu veikiantiems kūrėjams.
- Senatorė Marsha Blackburn teigia, kad dirbtinis intelektas sukėlė melagingus kaltinimus dėl seksualinio priekabiavimo.
- „Google“ teigia netinkamai naudojusi kūrėjams skirtą įrankį ir pripažįsta haliucinacijų keliamą iššūkį
- Ši byla iš naujo pakurstė politines ir teisines diskusijas apie šališkumą, šmeižtą ir atsakomybę dirbtinio intelekto srityje.
„Google“ sprendimas atšaukti savo modelį Gemma iš AI Studio platformos Tai įvyko po oficialaus JAV senatorės Marshos Blackburn skundo, kuriame teigiama, kad... Dirbtinis intelektas jam pateikė melagingus kaltinimusŠis epizodas vėl pakurstė diskusiją apie generatyvinių sistemų ribas ir technologijų įmonių atsakomybę, kai modelis pateikia žalingą informaciją.
„Gemma“ buvo sumanyta kaip lengvų modelių rinkinys, skirtas kūrėjams, o ne kaip universalus vartotojų asistentas. Nepaisant to, Vartotojai prie jo prisijungė per AI Studio y Jie tai panaudojo faktiniams klausimams užduotikuris būtų lėmęs sufabrikuoti atsakymai ir neegzistuojančios nuorodos.
Kas nutiko ir kaip kilo ginčas
Pasak senatoriaus versijos, paklausus „Ar Marsha Blackburn buvo apkaltinta išžaginimu?" Gemma būtų pateikusi išsamią, bet melagingą ataskaitą kuriame įvykiai buvo perkelti į 1987 m. valstijos Senato rinkimų kampaniją ir buvo įtrauktas tariamas spaudimas gauti narkotikų ir nesutarimu atlikti veiksmai, kurie niekada neegzistavoPati parlamentarė patikslino, kad jos kampanija buvo 1998 m. ir kad ji niekada nėra gavusi tokio kaltinimo.
Dirbtinio intelekto atsakas taip pat būtų įtraukęs nuorodos, kurios vedė į klaidų puslapius arba nesusijusios naujienos, pateikiamos taip, tarsi jos būtų įrodymai. Šis klausimas yra ypač jautrus, nes paverčia „haliucinaciją“ kažkuo, kas suvokiama kaip patikrinama, net jei taip nėra.
„Google“ reakcija ir „Gemma“ prieigos pakeitimai
Po ginčo, „Google“ paaiškino, kad aptiko bandymų naudoti „Gemma“ ne kūrėjų „AI Studio“ programoje.su faktiniais tyrimais. Todėl ji nusprendė Pašalinkite „Gemma“ iš viešos prieigos „AI Studio“ ir palikite ją prieinamą tik per API tiems, kurie kuria programas.
Bendrovė pabrėžė, kad „Gemma“ yra „pirmiausia kūrėjams“ skirtas modelis, o ne vartotojų pokalbių robotas kaip „Gemini“.Todėl jis nėra sukurtas kaip faktų tikrintuvas ir neturi specialių informacijos paieškos įrankių. Bendrovės žodžiais tariant, Haliucinacijos yra iššūkis visai pramonei ir jie aktyviai dirba, kad juos sumažintų.
Šis pakeitimas reiškia, kad Nebebus pokalbių tipo sąsajos. „AI Studio for Gemma“; jo naudojimas apsiriboja kūrimo aplinkomis ir integracijomis, kurias kontroliuoja API, o šiame kontekste kūrėjas prisiima papildomas apsaugos priemones ir patvirtinimus.
Teisinis aspektas ir politinės diskusijos apie šališkumą ir šmeižtą
Blackburnas išsiuntė laišką „Google“ generaliniam direktoriui Sundarui Pichai, kuriame įvykį apibūdino ne kaip nekenksmingą klaidą, o kaip... šmeižtas, sukurtas dirbtinio intelekto modelioSenatorius paprašė paaiškinti, kaip buvo sukurtas turinys, kokių priemonių yra imtasi siekiant sumažinti politinį ar ideologinį šališkumą ir kokių veiksmų bus imtasi siekiant užkirsti kelią pasikartojimams, taip pat nustatyti atsakymo gavimo terminą.
Senato Prekybos komiteto posėdžio metu Kongreso narė taip pat iškėlė šį klausimą „Google“ vyriausybės reikalų ir viešosios politikos viceprezidentui Markhamui Ericksonui. Jis pripažino, kad haliucinacijos yra žinoma problema, ir pažymėjo, kad bendrovė stengiasi jas sušvelninti.Ši byla sustiprino dėmesį įmonių atsakomybei, kai jų modeliai kenkia viešų asmenų reputacijai.
Ginčai sustiprėjo dėl kiti konservatorių minimi epizodai, kaip kad aktyvistas Robby StarbuckasKad Jis teigia, kad Gemma jį melagingai susiejo su sunkiais nusikaltimais ir ekstremizmu.. Šiame kontekste, Vėl įsiplieskė diskusijos apie galimą šališkumą dirbtinio intelekto sistemose ir saugumo sistemų, stebėsenos bei teisių gynimo būdų poreikis žalos atveju.
Be partinių pozicijų, šis atvejis pabrėžia, kad modeliai, kurie nėra skirti viešajai sąveikai, gali būti neteisingai suprasti kaip bendrieji padėjėjaiišblukina ribą tarp kuriamų prototipų ir plačiajai visuomenei skirtų produktų, o tai kelia akivaizdžią riziką, jei tai, kas sugeneruota, laikoma patikrinta informacija.
Gemmos pasitraukimas iš „AI Studio“ ir jos apsiribojimas API prekės ženklu bandymas nukreipti modelio naudojimą į sritį, kuriai jis buvo sukurtas, kartu keldamas klausimus apie tiesos, apsaugos priemonių ir atskaitomybės standartai tai turėtų reglamentuoti, kai dirbtinis intelektas daro įtaką realių žmonių, ypač valstybės pareigūnų, reputacijai.
Esu technologijų entuziastas, savo „geek“ pomėgius pavertęs profesija. Daugiau nei 10 savo gyvenimo metų praleidau naudodamas pažangiausias technologijas ir iš gryno smalsumo kūriau visas programas. Dabar aš specializuojasi kompiuterinėse technologijose ir vaizdo žaidimuose. Taip yra todėl, kad daugiau nei 5 metus rašau įvairioms interneto svetainėms apie technologijas ir vaizdo žaidimus, kurdamas straipsnius, kuriuose noriu pateikti jums reikalingą informaciją visiems suprantama kalba.
Jei turite klausimų, mano žinios svyruoja nuo visko, kas susiję su Windows operacine sistema, taip pat su Android mobiliesiems telefonams. Ir aš įsipareigoju jums, aš visada pasiruošęs skirti kelias minutes ir padėti jums išspręsti visus klausimus, kurie jums gali kilti šiame interneto pasaulyje.