- Google noņem Gemma modeli no AI Studio un ierobežo tā izmantošanu tikai uz API balstītiem izstrādātājiem.
- Senatore Marša Blekbērna apgalvo, ka mākslīgais intelekts ir radījis nepatiesas apsūdzības par seksuālu vardarbību.
- Google apgalvo par izstrādātājiem paredzēta rīka ļaunprātīgu izmantošanu un atzīst halucināciju radīto izaicinājumu
- Šī lieta atdzīvina politiskās un juridiskās debates par aizspriedumiem, neslavas celšanu un atbildību mākslīgā intelekta jomā.
Google lēmums atsaukt savu modeli Gemma no AI Studio platformas Tas notiek pēc oficiālas sūdzības no ASV senatores Maršas Blekbērnas, kura apgalvo, ka Mākslīgais intelekts pret viņu izvirzīja nepatiesas apsūdzībasŠī epizode ir atdzīvinājusi diskusiju par ģeneratīvo sistēmu ierobežojumiem un tehnoloģiju uzņēmumu atbildību, ja modelis rada kaitīgu informāciju.
Gemma tika iecerēta kā vieglu modeļu komplekts, kas paredzēts izstrādātājiem, nevis kā universāls patērētāju palīgs. Pat ja tā, Lietotāji tam piekļuva, izmantojot AI Studio y Viņi to izmantoja, lai uzdotu faktuālus jautājumuskas būtu novedis pie safabricētas atbildes un neesošas saites.
Kas notika un kā radās strīds
Saskaņā ar senatora versiju, kad viņam jautāja “Vai Marša Blekbērna ir apsūdzēta izvarošanā?" Džemma būtu atsūtījusi detalizētu, bet nepatiesu aprakstu. kas notikumus attiecināja uz 1987. gada štata Senāta kampaņas laiku un ietvēra iespējamu spiedienu iegūt narkotikas un nepiekrišanas darbības, kas nekad nav pastāvējušasPati parlamentāriete precizēja, ka viņas kampaņa bija 1998. gadā un ka viņa nekad nav saņēmusi šādu apsūdzību.
AI atbilde būtu iekļauta arī saites, kas veda uz kļūdu lapām vai nesaistītas ziņas, kas tiek pasniegtas kā pierādījumi. Šis jautājums ir īpaši delikāts, jo pārvērš "halucināciju" par kaut ko tādu, kas tiek uztverts kā pārbaudāms, pat ja tā nav.
Google reakcija un izmaiņas Gemmas piekļuvē
Pēc strīda, Google paskaidroja, ka ir konstatējis mēģinājumus izmantot Gemma no ne-izstrādātāju puses AI Studio platformā.ar faktuāliem jautājumiem. Tāpēc tā nolēma Noņemiet Gemma no publiskās piekļuves AI Studio un saglabājiet to pieejamu tikai caur API tiem, kas veido lietojumprogrammas.
Uzņēmums uzsvēra, ka Gemma ir “izstrādātājs pirmajā vietā” modelis, nevis patērētāju tērzēšanas robots kā Gemini.Tāpēc tas nav paredzēts kā faktu pārbaudītājs, un tam nav īpašu informācijas izguves rīku. Uzņēmuma vārdiem runājot, Halucinācijas ir izaicinājums visai nozarei un viņi aktīvi strādā, lai tos mazinātu.
Šīs izmaiņas nozīmē, ka Vairs nebūs tērzēšanas tipa saskarnes. AI Studio for Gemma; tā lietošana ir ierobežota izstrādes vidēs un integrācijās, ko kontrolē API, kontekstā, kurā izstrādātājs uzņemas papildu drošības pasākumus un validācijas.
Juridiskais aspekts un politiskās debates par aizspriedumiem un neslavas celšanu
Blekbērns nosūtīja vēstuli Google izpilddirektoram Sundaram Pičai, aprakstot notikušo nevis kā nekaitīgu kļūdu, bet gan kā mākslīgā intelekta modeļa radīta neslavas celšanaSenators pieprasīja paskaidrojumus par to, kā saturs tika ģenerēts, kādi pasākumi pastāv, lai mazinātu politiskos vai ideoloģiskos aizspriedumus, un kādas darbības tiks veiktas, lai novērstu atkārtošanos, kā arī nosakot termiņu atbildes saņemšanai.
Senāta Tirdzniecības komitejas uzklausīšanas laikā kongresmene šo jautājumu izvirzīja arī Google valdības lietu un sabiedriskās politikas viceprezidentam Markhamam Eriksonam, kurš Viņš atzina, ka halucinācijas ir zināma problēma, un norādīja, ka uzņēmums strādā, lai tās mazinātu.Šī lieta ir pastiprinājusi uzmanību uzņēmumu atbildībai, kad to modeļi kaitē publisku personu reputācijai.
Strīds saasinājās ar citas konservatīvo minētās epizodes, tāpat kā aktīvists Robijs Stārbaks, tas Viņš apgalvo, ka Džemma viņu ir maldinoši saistījusi ar smagiem noziegumiem un ekstrēmismu.. Šajā kontekstā, Atkal uzliesmo debates par iespējamām aizspriedumiem mākslīgā intelekta sistēmās un nepieciešamība pēc drošības sistēmām, uzraudzības un tiesību aizsardzības ceļiem bojājumu gadījumā.
Papildus partiju nostājām šī lieta uzsver, ka modeļi, kas nav paredzēti publiskai mijiedarbībai, var tikt nepareizi uzskatīti par vispārējiem palīgiemsapludina robežu starp izstrādes prototipiem un produktiem plašai sabiedrībai, radot acīmredzamus riskus, ja ģenerētā informācija tiek uztverta kā pārbaudīta.
Džemmas aiziešana no AI Studio un viņas aprobežošanās ar API preču zīmi mēģinājums novirzīt modeļa izmantošanu uz jomu, kurai tas bija paredzēts, vienlaikus radot arī jautājumus par patiesuma, drošības un atbildības standarti kam vajadzētu regulēt gadījumus, kad mākslīgais intelekts ietekmē reālu cilvēku, īpaši valsts amatpersonu, reputāciju.
Esmu tehnoloģiju entuziasts, kurš savas "geek" intereses ir pārvērtis profesijā. Es esmu pavadījis vairāk nekā 10 gadus no savas dzīves, izmantojot jaunākās tehnoloģijas un tīri ziņkārības vadīts ar visu veidu programmām. Tagad esmu specializējies datortehnoloģijās un videospēlēs. Tas ir tāpēc, ka vairāk nekā 5 gadus esmu rakstījis dažādām tīmekļa vietnēm par tehnoloģijām un videospēlēm, veidojot rakstus, kuru mērķis ir sniegt jums nepieciešamo informāciju ikvienam saprotamā valodā.
Ja jums ir kādi jautājumi, manas zināšanas svārstās no visa, kas saistīts ar Windows operētājsistēmu, kā arī Android mobilajiem tālruņiem. Un mana apņemšanās ir jums, es vienmēr esmu gatavs veltīt dažas minūtes un palīdzēt jums atrisināt visus jautājumus, kas jums varētu rasties šajā interneta pasaulē.