- Google forigas la modelon Gemma el AI Studio kaj limigas ĝian uzon al API-bazitaj programistoj.
- Senatano Marsha Blackburn asertas, ke artefarita inteligenteco generis malverajn akuzojn pri seksa miskonduto.
- Google asertas misuzon de ilo destinita por programistoj kaj agnoskas la defion de halucinoj.
- La kazo rebruligas la politikan kaj juran debaton pri biaso, kalumnio kaj respondeco en AI.
La decido de Google retiru vian modelon Gemma de la platformo AI Studio Ĝi venas post formala plendo de la usona senatano Marsha Blackburn, kiu asertas, ke La AI generis malverajn akuzojn kontraŭ liLa epizodo rebruligis la diskuton pri la limoj de generaj sistemoj kaj la respondeco de teknologiaj kompanioj kiam modelo produktas malutilajn informojn.
Gemma estis elpensita kiel aro de malpezaj modeloj destinitaj al programistoj, ne kiel ĝeneraluzebla konsumanta asistanto. Tamen, Uzantoj aliris ĝin per AI Studio y Ili uzis ĝin por fari faktajn demandojnkiu kondukus al fabrikitaj respondoj kaj neekzistantaj ligiloj.
Kio okazis kaj kiel originis la polemiko
Laŭ la versio de la senatano, kiam oni demandis lin “Ĉu Marsha Blackburn estis akuzita pri seksperforto?”, Gemma estus redoninta detalan sed malveran raporton kiu lokigis la okazaĵojn dum ŝtatsenata kampanjo en 1987, kaj inkluzivis supozeblan premon akiri drogojn kaj nekonsentaj agoj kiuj neniam ekzistisLa parlamentano mem klarigis, ke ŝia kampanjo estis en 1998 kaj ke ŝi neniam ricevis tian akuzon.
La AI-respondo ankaŭ enhavus ligiloj kiuj kondukis al erarpaĝoj aŭ senrilataj novaĵoj, prezentitaj kvazaŭ ili estus pruvoj. Ĉi tiu punkto estas aparte sentema ĉar transformas "halucinon" en ion perceptitan kiel konfirmeblaneĉ se ĝi ne estas.
La reago de Google kaj la ŝanĝoj al la aliro de Gemma
Sekvante la polemiko, Google klarigis, ke ĝi detektis provojn uzi Gemma fare de ne-programistoj en AI Studio.kun faktaj enketoj. Tial, ĝi decidis Forigu Gemma-n de publika aliro en AI Studio kaj tenu ĝin havebla ekskluzive per API-oj por tiuj, kiuj konstruas aplikaĵojn.
La kompanio emfazis, ke Gemma estas modelo "programisto-unue" kaj ne konsumanta babilroboto kiel Ĝemeloj.Tial, ĝi ne estas desegnita kiel faktokontrolilo nek ĝi havas specifajn ilojn por trovi informojn. Laŭ la vortoj de la kompanio, Halucinoj estas defio por la tuta industrio kaj ili aktive laboras por mildigi ilin.
Ĉi tiu ŝanĝo implicas, ke Jam ne plu estos babileja interfaco. en AI Studio por Gemma; ĝia uzo estas limigita al evoluigaj medioj kaj integriĝoj kontrolitaj per API-oj, kunteksto kie la programisto supozas pliajn protektojn kaj validigojn.
Jura dimensio kaj politika debato pri biaso kaj kalumnio
Blackburn sendis leteron al la ĉefoficisto de Google, Sundar Pichai, priskribante la okazintaĵon ne kiel sendanĝeran eraron, sed kiel kalumnio produktita de AI-modeloLa senatano petis klarigojn pri kiel la enhavo estis generita, kiaj rimedoj ekzistas por minimumigi politikajn aŭ ideologiajn antaŭjuĝojn, kaj kiaj agoj estos prenitaj por malhelpi ripetojn, ankaŭ fiksante templimon por ricevi la respondon.
Dum aŭdienco de la Senata Komitato pri Komerco, la kongresanino ankaŭ levis la aferon kun la Vicprezidanto pri Registaraj Aferoj kaj Publika Politiko de Google, Markham Erickson, kiu Li agnoskis, ke halucinoj estas konata problemo kaj notis, ke la kompanio laboras por mildigi ilin.La kazo intensigis la fokuson pri la respondeco de kompanioj kiam iliaj modeloj damaĝas la reputacion de publikaj figuroj.
La polemiko intensiĝis kun aliaj epizodoj cititaj de konservativuloj, kiel tiu de aktivulo Robby Starbuck, tio Li asertas esti malĝuste ligita de Gemma al gravaj krimoj kaj ekstremismo.. En este contexto, La debato pri eblaj antaŭjuĝoj estas rebruligita en AI-sistemoj kaj la bezono de sekurecaj kadroj, monitorado kaj rimedoj kiam okazas difekto.
Preter partiaj pozicioj, la kazo emfazas, ke modeloj ne destinitaj por publika interagado povas esti miskomprenitaj kiel ĝeneralaj asistantojmalklarigante la limon inter evoluigaj prototipoj kaj produktoj por la ĝenerala publiko, kun evidentaj riskoj se tio, kio estas generita, estas konsiderata kiel kontrolita informo.
La retiriĝo de Gemma de AI Studio kaj ŝia limigo al la API-marko provo redirekti la uzon de la modelo al la kampo por kiu ĝi estis elpensita, samtempe levante demandojn pri normoj de vereco, protektoj kaj respondigebleco tio devus regi kiam AI influas la reputacion de realaj homoj, precipe publikaj oficistoj.
Mi estas teknologientuziasmulo, kiu transformis siajn "geek" interesojn en profesion. Mi pasigis pli ol 10 jarojn de mia vivo uzante avangardan teknologion kaj tuŝante ĉiajn programojn pro pura scivolemo. Nun mi specialiĝis pri komputila teknologio kaj videoludoj. Ĉi tio estas ĉar de pli ol 5 jaroj mi verkas por diversaj retejoj pri teknologio kaj videoludoj, kreante artikolojn, kiuj celas doni al vi la informojn, kiujn vi bezonas en lingvo komprenebla por ĉiuj.
Se vi havas demandojn, mia scio varias de ĉio rilata al la Vindoza operaciumo same kiel Android por poŝtelefonoj. Kaj mia devontigo estas al vi, mi ĉiam pretas pasigi kelkajn minutojn kaj helpi vin solvi ajnajn demandojn, kiujn vi povas havi en ĉi tiu interreta mondo.