Google mengalih keluar Gemma daripada AI Studio selepas aduan seorang senator

keputusan Google untuk tarik balik model anda Gemma dari platform AI Studio Ia datang selepas aduan rasmi daripada Senator AS Marsha Blackburn, yang mendakwa bahawa AI menghasilkan tuduhan palsu terhadapnyaEpisod ini telah menghidupkan semula perbincangan tentang had sistem generatif dan tanggungjawab syarikat teknologi apabila model menghasilkan maklumat berbahaya.

Gemma difikirkan sebagai satu set model ringan yang ditujukan kepada pembangun, bukan sebagai pembantu pengguna tujuan umum. Walaupun begitu, Pengguna mengaksesnya melalui AI Studio y Mereka menggunakannya untuk bertanya soalan faktayang akan membawa kepada jawapan rekaan dan pautan yang tidak wujud.

Apa yang berlaku dan bagaimana kontroversi itu bermula

Mengikut versi senator, apabila ditanya “Adakah Marsha Blackburn telah dituduh merogol?"". Gemma akan mengembalikan akaun yang terperinci tetapi palsu yang meletakkan peristiwa semasa kempen Senat negeri 1987, dan termasuk tekanan yang didakwa untuk mendapatkan dadah dan perbuatan tanpa persetujuan yang tidak pernah wujudAhli parlimen itu sendiri menjelaskan bahawa kempennya adalah pada 1998 dan bahawa dia tidak pernah menerima tuduhan sedemikian.

Respons AI juga akan digabungkan pautan yang membawa kepada halaman ralat atau berita yang tidak berkaitan, dibentangkan seolah-olah ia adalah bukti. Perkara ini amat sensitif kerana mengubah 'halusinasi' menjadi sesuatu yang dianggap boleh disahkan, walaupun tidak.

Reaksi Google dan perubahan pada akses Gemma

Berikutan kontroversi itu, Google menjelaskan bahawa ia telah mengesan percubaan untuk menggunakan Gemma oleh bukan pembangun dalam AI Studiodengan pertanyaan fakta. Oleh itu, ia memutuskan Alih keluar Gemma daripada akses awam dalam AI Studio dan pastikan ia tersedia secara eksklusif melalui API bagi mereka yang membina aplikasi.

Syarikat itu menekankan bahawa Gemma ialah model 'diutamakan pembangun' dan bukan bot sembang pengguna seperti Gemini.Oleh itu, ia tidak direka bentuk sebagai pemeriksa fakta dan juga tidak mempunyai alat mendapatkan maklumat khusus. Dalam kata-kata syarikat itu, Halusinasi adalah satu cabaran bagi seluruh industri dan mereka secara aktif bekerja untuk mengurangkannya.

Perubahan ini membayangkan bahawa Tidak akan ada lagi antara muka jenis sembang. dalam AI Studio untuk Gemma; penggunaannya terhad kepada persekitaran pembangunan dan penyepaduan yang dikawal oleh API, konteks di mana pembangun mengambil alih perlindungan dan pengesahan tambahan.

Dimensi undang-undang dan perdebatan politik mengenai berat sebelah dan fitnah

Blackburn menghantar surat kepada Ketua Pegawai Eksekutif Google Sundar Pichai, menggambarkan apa yang berlaku bukan sebagai kesilapan yang tidak berbahaya, tetapi sebagai fitnah yang dihasilkan oleh model AISenator meminta penjelasan tentang cara kandungan dijana, apakah langkah yang wujud untuk meminimumkan berat sebelah politik atau ideologi, dan tindakan yang akan diambil untuk mencegah pengulangan, juga menetapkan tarikh akhir untuk menerima respons.

Semasa pendengaran Jawatankuasa Perdagangan Senat, ahli kongres itu turut membangkitkan isu itu dengan Naib Presiden Hal Ehwal Kerajaan dan Dasar Awam Google, Markham Erickson, yang Beliau mengakui bahawa halusinasi adalah masalah yang diketahui dan menyatakan bahawa syarikat sedang berusaha untuk mengurangkannya.Kes itu telah meningkatkan tumpuan kepada tanggungjawab syarikat apabila model mereka merosakkan reputasi tokoh masyarakat.

Kontroversi semakin menjadi-jadi dengan episod lain yang dipetik oleh konservatif, seperti itu aktivis Robby Starbuck, itu Dia mendakwa telah dikaitkan secara palsu oleh Gemma dengan jenayah serius dan ekstremismeDalam konteks ini, Perdebatan tentang kemungkinan berat sebelah dihidupkan semula dalam sistem AI dan keperluan untuk rangka kerja keselamatan, pemantauan dan laluan rekursa apabila kerosakan berlaku.

Di luar kedudukan partisan, kes itu menonjolkan bahawa model yang tidak direka untuk interaksi awam boleh jadi salah faham sebagai pembantu ammengaburkan garis antara prototaip pembangunan dan produk untuk orang awam, dengan risiko yang jelas jika apa yang dijana diambil sebagai maklumat yang disahkan.

Penarikan diri Gemma daripada AI Studio dan pengurungannya kepada tanda API percubaan untuk mengalihkan penggunaan model ke bidang yang dibayangkan, sambil turut menimbulkan persoalan tentang piawaian kebenaran, perlindungan, dan akauntabiliti yang sepatutnya mengawal apabila AI menjejaskan reputasi orang sebenar, terutamanya pegawai awam.