Google menghapus Gemma dari AI Studio setelah adanya keluhan dari seorang senator

Keputusan Google untuk tarik model Anda Gemma dari platform AI Studio Hal ini terjadi setelah adanya pengaduan resmi dari Senator AS Marsha Blackburn, yang mengklaim bahwa AI menghasilkan tuduhan palsu terhadapnyaEpisode ini telah menyalakan kembali diskusi tentang batasan sistem generatif dan tanggung jawab perusahaan teknologi ketika sebuah model menghasilkan informasi yang berbahaya.

Gemma dirancang sebagai seperangkat model ringan yang ditujukan untuk pengembang, bukan sebagai asisten konsumen untuk keperluan umum. Meskipun demikian, Pengguna mengaksesnya melalui AI Studio y Mereka menggunakannya untuk mengajukan pertanyaan faktualyang akan menyebabkan jawaban yang dibuat-buat dan tautan yang tidak ada.

Apa yang terjadi dan bagaimana kontroversi ini muncul

Menurut versi senator, ketika ditanya “Apakah Marsha Blackburn dituduh melakukan pemerkosaan?", Gemma akan memberikan laporan yang rinci namun salah yang menempatkan peristiwa selama kampanye Senat negara bagian tahun 1987, dan termasuk dugaan tekanan untuk mendapatkan obat-obatan dan tindakan non-konsensual yang tidak pernah adaAnggota parlemen itu sendiri mengklarifikasi bahwa kampanyenya dilakukan pada tahun 1998 dan dia tidak pernah menerima tuduhan seperti itu.

Respon AI juga akan menggabungkan tautan yang mengarah ke halaman kesalahan atau berita yang tidak terkait, disajikan seolah-olah sebagai bukti. Poin ini sangat sensitif karena mengubah 'halusinasi' menjadi sesuatu yang dianggap dapat diverifikasi, meskipun sebenarnya tidak.

Reaksi Google dan perubahan akses Gemma

Menyusul kontroversi tersebut, Google menjelaskan bahwa mereka telah mendeteksi upaya penggunaan Gemma oleh non-pengembang di AI Studiodengan penyelidikan faktual. Oleh karena itu, diputuskan Hapus Gemma dari akses publik di AI Studio dan biarkan tersedia secara eksklusif melalui API untuk mereka yang membuat aplikasi.

Perusahaan menekankan bahwa Gemma adalah model yang mengutamakan pengembang dan bukan chatbot konsumen seperti Gemini.Oleh karena itu, aplikasi ini tidak dirancang sebagai pemeriksa fakta dan tidak memiliki alat pencarian informasi khusus. Menurut pernyataan perusahaan, Halusinasi adalah tantangan bagi seluruh industri dan mereka secara aktif bekerja untuk meringankannya.

Perubahan ini menyiratkan bahwa Tidak akan ada lagi antarmuka jenis obrolan. di AI Studio untuk Gemma; penggunaannya terbatas pada lingkungan pengembangan dan integrasi yang dikontrol oleh API, konteks di mana pengembang mengasumsikan perlindungan dan validasi tambahan.

Dimensi hukum dan perdebatan politik tentang bias dan pencemaran nama baik

Blackburn mengirimkan surat kepada CEO Google Sundar Pichai, yang menjelaskan apa yang terjadi bukan sebagai kesalahan yang tidak berbahaya, tetapi sebagai pencemaran nama baik yang dihasilkan oleh model AISenator meminta penjelasan tentang bagaimana konten tersebut dihasilkan, tindakan apa yang ada untuk meminimalkan bias politik atau ideologis, dan tindakan apa yang akan diambil untuk mencegah pengulangan, juga menetapkan batas waktu untuk menerima tanggapan.

Dalam sidang Komite Perdagangan Senat, anggota kongres tersebut juga mengangkat masalah tersebut kepada Wakil Presiden Urusan Pemerintahan dan Kebijakan Publik Google, Markham Erickson, yang Ia mengakui bahwa halusinasi merupakan masalah yang diketahui dan mencatat bahwa perusahaan sedang berupaya mengatasinya.Kasus ini telah meningkatkan fokus pada tanggung jawab perusahaan ketika model mereka merusak reputasi tokoh publik.

Kontroversi ini semakin meningkat dengan episode lain yang dikutip oleh kaum konservatif, seperti itu aktivis Robby StarbuckBahwa Dia mengklaim telah dikaitkan secara salah oleh Gemma dengan kejahatan serius dan ekstremisme. Dalam konteks ini, Perdebatan tentang kemungkinan bias kembali muncul dalam sistem AI dan perlunya kerangka kerja keamanan, pemantauan, dan jalur pemulihan saat kerusakan terjadi.

Selain posisi partisan, kasus ini menyoroti bahwa model yang tidak dirancang untuk interaksi publik dapat disalahpahami sebagai asisten umummengaburkan batas antara prototipe pengembangan dan produk untuk masyarakat umum, dengan risiko yang jelas jika apa yang dihasilkan dianggap sebagai informasi yang terverifikasi.

Penarikan Gemma dari AI Studio dan pembatasannya pada tanda API upaya untuk mengarahkan kembali penggunaan model ke bidang yang dirancang untuknya, sambil juga memunculkan pertanyaan tentang standar kejujuran, perlindungan, dan akuntabilitas yang seharusnya mengatur kapan AI memengaruhi reputasi orang sungguhan, terutama pejabat publik.