- Google poistaa Gemma-mallin AI Studiosta ja rajoittaa sen käytön API-pohjaisiin kehittäjiin.
- Senaattori Marsha Blackburn väittää tekoälyn tuottaneen vääriä syytöksiä seksuaalisesta väärinkäytöksestä.
- Google väittää kehittäjille tarkoitetun työkalun väärinkäyttöä ja myöntää hallusinaatioiden olevan ongelmallisia.
- Tapaus herättää uudelleen poliittisen ja oikeudellisen keskustelun tekoälyn puolueellisuudesta, kunnianloukkauksesta ja vastuusta.
Googlen päätös vedä mallisi pois Gemma AI Studio -alustalta Tämä tapahtui sen jälkeen, kun Yhdysvaltain senaattori Marsha Blackburn teki virallisen valituksen, jossa hän väittää, että Tekoäly loi häntä vastaan vääriä syytöksiäJakso on herättänyt uudelleen keskustelun generatiivisten järjestelmien rajoista ja teknologiayritysten vastuusta, kun malli tuottaa haitallista tietoa.
Gemma suunniteltiin kevyiksi, kehittäjille suunnatuiksi malleiksi, ei yleiskäyttöiseksi kuluttaja-avustajaksi. Silti, Käyttäjät käyttivät sitä AI Studion kautta y He käyttivät sitä esittääkseen asiakysymyksiämikä olisi johtanut keksittyjä vastauksia ja olemattomia linkkejä.
Mitä tapahtui ja miten kiista sai alkunsa
Senaattorin version mukaan, kun häneltä kysyttiin ”Onko Marsha Blackburnia syytetty raiskauksesta?" Gemma olisi palauttanut yksityiskohtaisen mutta väärän selvityksen joka sijoitti tapahtumat vuoden 1987 osavaltion senaatin vaalikampanjan aikaan ja sisälsi väitettyyn painostukseen huumeiden ja ei-suositukselliset teot, joita ei ole koskaan ollutkaanParlamentin jäsen itse selvensi, että hänen kampanjansa oli vuonna 1998 eikä hän ole koskaan saanut tällaista syytöstä.
Tekoälyn vastaus olisi myös sisältänyt linkit, jotka johtivat virhesivuille tai asiaankuulumattomia uutisia, jotka esitetään ikään kuin ne olisivat todisteita. Tämä kohta on erityisen arkaluontoinen, koska muuttaa 'hallusinaation' joksikin, jota pidetään todennettavissa olevana, vaikka ei olisikaan.
Googlen reaktio ja Gemman käyttöoikeuksien muutokset
Kiistan jälkeen Google selitti havainneensa muiden kuin kehittäjien yrityksiä käyttää Gemmaa AI Studiossa.tosiasioihin perustuvien tiedustelujen avulla. Siksi se päätti Poista Gemma julkisesta käytöstä AI Studiossa ja pidä se saatavilla yksinomaan APIen kautta niille, jotka kehittävät sovelluksia.
Yhtiö korosti, että Gemma on kehittäjälähtöinen malli eikä kuluttajille suunnattu chatbot kuten Gemini.Siksi sitä ei ole suunniteltu faktantarkistajaksi, eikä siinä ole erityisiä tiedonhakutyökaluja. Yrityksen sanoin, Hallusinaatiot ovat haaste koko toimialalle ja he työskentelevät aktiivisesti niiden lieventämiseksi.
Tämä muutos tarkoittaa, että Chat-tyyppistä käyttöliittymää ei enää ole. AI Studio for Gemma -sovelluksessa; sen käyttö on rajoitettu API-rajapintojen ohjaamiin kehitysympäristöihin ja integraatioihin, joissa kehittäjä olettaa lisäsuojatoimia ja validointeja.
Puolueiden ja kunnianloukkausten oikeudellinen ulottuvuus ja poliittinen keskustelu
Blackburn lähetti Googlen toimitusjohtajalle Sundar Pichaille kirjeen, jossa hän kuvaili tapahtunutta ei harmittomaksi virheeksi, vaan tekoälymallin tuottama kunnianloukkausSenaattori pyysi selityksiä siitä, miten sisältö on luotu, mitä toimenpiteitä on olemassa poliittisten tai ideologisten ennakkoluulojen minimoimiseksi ja mitä toimia aiotaan tehdä toistumisen estämiseksi, sekä asetti määräajan vastauksen vastaanottamiselle.
Senaatin kauppavaliokunnan kuulemistilaisuudessa kongressiedustaja otti asian esille myös Googlen hallintoasioiden ja julkisen politiikan varapuheenjohtajan Markham Ericksonin kanssa. Hän myönsi, että hallusinaatiot ovat tunnettu ongelma, ja totesi, että yritys pyrkii lieventämään niitä.Tapaus on korostanut yritysten vastuuta, kun niiden toimintamallit vahingoittavat julkisuuden henkilöiden mainetta.
Kiista kärjistyi, kun muut konservatiivien mainitsemat jaksot, kuten aktivisti Robby StarbuckEttä Hän väittää, että Gemma on virheellisesti yhdistänyt hänet vakaviin rikoksiin ja ääriajatteluun.. Tässä asiayhteydessä, Keskustelu mahdollisista ennakkoluuloista on jälleen kiihtynyt tekoälyjärjestelmissä ja tarve turvallisuuskehyksille, valvonnalle ja keinoille, joilla voidaan hakea apua vahingon sattuessa.
Puolueasenteiden lisäksi tapaus korostaa, että mallit, joita ei ole suunniteltu julkiseen vuorovaikutukseen, voivat olla väärin pidetty yleisinä avustajinahämärtää rajaa kehitysprototyyppien ja suurelle yleisölle tarkoitettujen tuotteiden välillä, ja siihen liittyy ilmeisiä riskejä, jos tuotettua tietoa pidetään varmennettuna tietona.
Gemman vetäytyminen AI Studiosta ja hänen sitoutumisensa API-merkkiin yritys ohjata mallin käyttöä sille alueelle, jota varten se on suunniteltusamalla herättäen kysymyksiä siitä, totuudenmukaisuuden, suojatoimien ja vastuullisuuden standardit jonka tulisi ohjata tekoälyn vaikutusta oikeiden ihmisten, erityisesti virkamiesten, maineeseen.
Olen teknologian harrastaja, joka on muuttanut "nörtti"-harrastuksensa ammatiksi. Olen käyttänyt yli 10 vuotta elämästäni uusinta teknologiaa käyttäen ja kaikenlaisten ohjelmien parissa puhtaasta uteliaisuudesta. Nyt olen erikoistunut tietotekniikkaan ja videopeleihin. Tämä johtuu siitä, että yli 5 vuoden ajan olen työskennellyt kirjoittaen useille teknologiaa ja videopelejä käsitteleville verkkosivustoille ja luonut artikkeleita, jotka pyrkivät antamaan sinulle tarvitsemaasi tietoa kielellä, jota kaikki ymmärtävät.
Jos sinulla on kysyttävää, tietoni ulottuu kaikesta Windows-käyttöjärjestelmään liittyvästä sekä matkapuhelimien Androidista. Ja sitoumukseni on sinulle, olen aina valmis käyttämään muutaman minuutin ja auttamaan sinua ratkaisemaan kaikki kysymyksesi, joita sinulla saattaa olla tässä Internet-maailmassa.