- Google mbusak model Gemma saka AI Studio lan mbatesi panggunaan kanggo pangembang basis API.
- Senator Marsha Blackburn negesake manawa AI ngasilake tuduhan palsu babagan tumindak seksual
- Google nyalahake nyalahi panggunaan alat sing dimaksudake kanggo pangembang lan ngakoni tantangan halusinasi
- Kasus kasebut nyebabake debat politik lan hukum babagan bias, fitnah, lan tanggung jawab ing AI.
kaputusan Google kanggo mbatalake model sampeyan Gemma saka platform AI Studio Nerangake sawise complaint resmi saka US Senator Marsha Blackburn, sing claims sing AI ngasilake tuduhan palsu marang dhewekeBabagan kasebut wis ngrembaka maneh diskusi babagan watesan sistem generatif lan tanggung jawab perusahaan teknologi nalika model ngasilake informasi sing mbebayani.
Gemma disusun minangka set model entheng sing dituju kanggo pangembang, dudu asisten konsumen umum. Sanadyan mangkono, Pangguna ngakses liwat AI Studio y Padha digunakake kanggo takon pitakonan faktualkang bakal mimpin kanggo jawaban digawe lan pranala ora ana.
Apa sing kedadeyan lan kepiye kedadeyan kontroversi kasebut
Miturut versi senator, nalika ditakoni "Wis Marsha Blackburn wis dipuntudhuh saka rudo pekso?", Gemma mesthi mbalekake akun sing rinci nanging palsu kang diselehake acara sak kampanye Senat negara 1987, lan klebu miturut omongane uwong meksa diwenehi obatan lan tumindak non-consensual sing ora tau anaAnggota parlemen kasebut dhewe njlentrehake manawa kampanye dheweke ana ing taun 1998 lan dheweke ora tau nampa tuduhan kaya ngono.
Tanggepan AI uga bakal digabung pranala sing mimpin kanggo kaca kesalahan utawa warta sing ora ana hubungane, ditampilake minangka bukti. Titik iki utamané sensitif amarga ngowahi 'halusinasi' dadi barang sing bisa diverifikasisanajan ora.
Reaksi Google lan owah-owahan ing akses Gemma
Sawise kontroversi kasebut, Google nerangake yen wis ndeteksi upaya nggunakake Gemma dening non-developer ing AI Studiokaro pitakonan faktual. Mulane, iku mutusaké Mbusak Gemma saka akses umum ing AI Studio lan tetep kasedhiya kanthi eksklusif liwat API kanggo sing mbangun aplikasi.
Perusahaan kasebut nandheske Gemma minangka model 'pangembang-pisanan' lan dudu chatbot konsumen kaya Gemini.Mula, ora dirancang minangka pameriksa fakta utawa ora duwe alat golek informasi khusus. Ing tembung perusahaan, Halusinasi minangka tantangan kanggo kabeh industri lan padha aktif makarya kanggo ngurangi.
Owah-owahan iki tegese Ora bakal ana antarmuka jinis obrolan maneh. ing AI Studio kanggo Gemma; panggunaane diwatesi kanggo lingkungan pangembangan lan integrasi sing dikontrol dening API, konteks ing ngendi pangembang nganggep pangayoman lan validasi tambahan.
Dimensi hukum lan debat politik babagan bias lan fitnah
Blackburn ngirim layang kanggo CEO Google Sundar Pichai, njlèntrèhaké apa kedaden ora minangka kesalahan mbebayani, nanging minangka fitnah sing diprodhuksi dening model AISenator njaluk panjelasan babagan carane konten digawe, langkah-langkah apa sing ana kanggo nyuda bias politik utawa ideologis, lan tindakan apa sing bakal ditindakake kanggo nyegah pengulangan, uga nyetel tenggat wektu kanggo nampa tanggapan kasebut.
Sajrone pangrungon Komite Perdagangan Senat, anggota kongres kasebut uga nyatakake masalah kasebut karo Wakil Presiden Urusan Pemerintah lan Kebijakan Publik Google, Markham Erickson, sing Dheweke ngakoni manawa halusinasi minangka masalah sing dikenal lan nyathet manawa perusahaan kasebut ngupayakake nyuda.Kasus kasebut nambah fokus ing tanggung jawab perusahaan nalika modele ngrusak reputasi tokoh masyarakat.
Kontroversi intensified karo episode liyane dikutip dening konservatif, kaya sing saka aktivis Robby Starbuck, sing Dheweke ngaku wis salah disambung dening Gemma kanggo kejahatan serius lan ekstremisme. Ing konteks iki, Debat babagan bias sing bisa ditindakake maneh ing sistem AI lan perlu kanggo kerangka keamanan, ngawasi, lan jalur recourse nalika karusakan ana.
Ngluwihi posisi partisan, kasus kasebut nyoroti manawa model sing ora dirancang kanggo interaksi umum bisa uga misunderstood minangka asisten umumburem garis antarane prototipe pembangunan lan produk kanggo masyarakat umum, karo resiko ketok yen apa kui dijupuk minangka informasi diverifikasi.
Gemma mundur saka AI Studio lan kurungan menyang tandha API upaya kanggo pangalihan panggunaan model menyang lapangan sing digagas, nalika uga mundhakaken pitakonan babagan standar kejujuran, perlindungan, lan tanggung jawab sing kudu ngatur nalika AI mengaruhi reputasi wong nyata, utamané pejabat umum.
Aku minangka penggemar teknologi sing wis ngowahi minat "geek" dadi profesi. Aku wis ngentekake luwih saka 10 taun uripku nggunakake teknologi sing canggih lan ngupayakake kabeh jinis program amarga penasaran. Saiki aku duwe spesialisasi ing teknologi komputer lan game video. Iki amarga luwih saka 5 taun aku wis nulis kanggo macem-macem situs web babagan teknologi lan video game, nggawe artikel sing ngupaya menehi informasi sing dibutuhake ing basa sing bisa dingerteni kabeh wong.
Yen sampeyan duwe pitakon, kawruhku kalebu kabeh sing ana gandhengane karo sistem operasi Windows uga Android kanggo ponsel. Lan prasetyaku kanggo sampeyan, aku tansah gelem ngentekake sawetara menit lan mbantu sampeyan ngrampungake pitakonan sing sampeyan duwe ing jagad internet iki.