- Google ngaluarkeun modél Gemma tina AI Studio sareng ngabatesan panggunaanna pikeun pamekar dumasar-API.
- Sénator Marsha Blackburn alleges yén AI dihasilkeun tuduhan palsu tina kalakuan nu jahat seksual
- Google nuduh nyalahgunakeun alat anu dimaksudkeun pikeun pamekar sareng ngaku tangtangan halusinasi
- Kasus ieu nyegerkeun debat politik sareng hukum ngeunaan bias, fitnah, sareng tanggung jawab dina AI.
kaputusan Google pikeun mundur model anjeun Gemma tina platform AI Studio Éta asalna saatos keluhan resmi ti Sénator AS Marsha Blackburn, anu nyatakeun éta AI ngahasilkeun tuduhan palsu ngalawan anjeunnaepisode geus reignited sawala ngeunaan wates sistem generative jeung tanggung jawab pausahaan téhnologi nalika modél ngahasilkeun informasi ngabahayakeun.
Gemma katimu salaku sakumpulan modél ringan anu diarahkeun ka pamekar, sanés salaku asistén konsumen tujuan umum. Sanaos kitu, Pamaké diaksés ngaliwatan AI Studio y Aranjeunna dianggo pikeun naroskeun patarosan faktualnu bakal geus ngarah ka jawaban fabricated na Tumbu non-existent.
Naon anu lumangsung sarta kumaha kontroversi asalna
Numutkeun versi sénator, nalika ditanya "Naha Marsha Blackburn dituduh perkosa?" Gemma bakal ngabalikeun rekening anu lengkep tapi palsu nu nempatkeun acara salila kampanye Sénat kaayaan 1987, tur kaasup dugaan tekanan pikeun ménta ubar na tindakan non-consensual nu pernah ayaAnggota parlemén sorangan netelakeun yén kampanye na di 1998 sareng anjeunna henteu kantos nampi tuduhan sapertos kitu.
Réspon AI ogé bakal dilebetkeun Tumbu nu ngakibatkeun kaca kasalahan atawa warta nu teu patali, dibere saolah-olah éta bukti. titik ieu utamana sénsitip sabab ngarobah hiji 'halusinasi' kana hal anu katarima sakumaha verifiablesanajan henteu.
Réaksi Google sareng parobihan kana aksés Gemma
Saatos kontroversi, Google ngajelaskeun yén éta parantos mendakan usaha pikeun ngagunakeun Gemma ku non-pamekar di AI Studiokalawan inquiries faktual. Ku alatan éta, mutuskeun Cabut Gemma tina aksés umum di AI Studio sareng tetep sayogi sacara éksklusif ngaliwatan API pikeun jalma anu ngawangun aplikasi.
Pausahaan emphasized yén Gemma mangrupikeun modél 'pangembang-heula' sareng sanés chatbot konsumen sapertos Gemini.Ku alatan éta, éta henteu dirarancang salaku pamariksaan kanyataan atanapi henteu gaduh alat panéangan inpormasi anu khusus. Dina kecap perusahaan, Halusinasi mangrupakeun tantangan pikeun sakabéh industri sarta aranjeunna aktip dianggo pikeun mitigate aranjeunna.
Parobahan ieu nunjukkeun yén Moal aya deui panganteur tipe obrolan. dina AI Studio pikeun Gemma; pamakéan na diwatesan ka lingkungan ngembangkeun sarta integrasi dikawasa ku API, konteks dimana pamekar nganggap safeguards tambahan sarta validasi.
Dimensi hukum sareng perdebatan politik ngeunaan bias sareng fitnah
Blackburn ngirim surat ka CEO Google Sundar Pichai, ngajéntrékeun naon anu lumangsung teu salaku kasalahan bahya, tapi salaku fitnah dihasilkeun model AISénator naroskeun katerangan ngeunaan kumaha eusi éta dibangkitkeun, ukuran naon anu aya pikeun ngaminimalkeun bias politik atanapi ideologis, sareng tindakan naon anu bakal dilakukeun pikeun nyegah pengulangan, ogé netepkeun wates waktu pikeun nampi réspon.
Dina pamariksaan Komite Dagang Sénat, anggota kongres ogé ngajukeun masalah éta sareng Wakil Présidén Google Urusan Pamaréntah sareng Kabijakan Umum, Markham Erickson, anu Anjeunna ngaku yén halusinasi mangrupikeun masalah anu dipikanyaho sareng nyatakeun yén perusahaan damel pikeun ngiranganana.Kasus ieu parantos ningkatkeun fokus kana tanggung jawab perusahaan nalika modélna ngarusak reputasi tokoh masarakat.
Kontrovérsi inténsif jeung episode séjén dicutat ku konservatif, sapertos anu aktivis Robby Starbuck, que Anjeunna ngaklaim geus falsely numbu ku Gemma kana kajahatan serius tur extremism. Dina kontéks ieu, Perdebatan ngeunaan kamungkinan bias dibangkitkeun deui dina sistem AI sareng kabutuhan pikeun kerangka kaamanan, ngawaskeun, sareng jalur recourse nalika karusakan lumangsung.
Saluareun posisi partisan, kasus nyorot yén modél henteu dirancang pikeun interaksi umum tiasa salah harti salaku asisten umumblurring garis antara prototipe ngembangkeun jeung produk pikeun masarakat umum, kalawan resiko atra lamun naon dihasilkeun dicokot salaku informasi diverifikasi.
Ditarikna Gemma ti AI Studio sareng kurunganana kana tanda API usaha pikeun alihan pamakéan modél kana widang nu eta ieu katimu, bari ogé raising patarosan ngeunaan standar bebeneran, safeguards, jeung akuntabilitas anu kedah ngatur nalika AI mangaruhan reputasi jalma nyata, khususna pejabat umum.
Abdi mangrupikeun peminat téknologi anu parantos ngajantenkeun minat "geek" janten profési. Kuring parantos nyéépkeun langkung ti 10 taun hirup kuring nganggo téknologi canggih sareng ngintip kalayan sagala jinis program tina rasa panasaran murni. Ayeuna kuring geus husus dina téhnologi komputer jeung video kaulinan. Ieu kusabab pikeun leuwih ti 5 taun kuring geus nulis pikeun sagala rupa situs web on téhnologi jeung video kaulinan, nyieun artikel nu neangan masihan anjeun informasi nu peryogi dina basa anu kaharti ku sarerea.
Upami Anjeun gaduh patarosan, pangaweruh abdi rentang ti sagalana patali jeung sistem operasi Windows ogé Android pikeun handphone. Sareng komitmen abdi ka anjeun, kuring sok daék nyéépkeun sababaraha menit sareng ngabantosan anjeun ngabéréskeun patarosan anu anjeun gaduh di dunya internét ieu.