Google senatorun şikayətindən sonra Gemma-nı AI Studio-dan çıxarır

Google-un qərarı modelinizi geri götürün AI Studio platformasından Gemma Bunu iddia edən ABŞ senatoru Marşa Blekbernin rəsmi şikayətindən sonra gəlir AI ona qarşı saxta ittihamlar yaratdıEpizod generativ sistemlərin hədləri və model zərərli məlumat istehsal etdikdə texnologiya şirkətlərinin məsuliyyəti haqqında müzakirələri yenidən alovlandırdı.

Gemma ümumi təyinatlı istehlakçı köməkçisi kimi deyil, tərtibatçılar üçün nəzərdə tutulmuş yüngül modellər toplusu kimi hazırlanmışdır. Belə də olsa, İstifadəçilər ona AI Studio vasitəsilə daxil olublar y Onlar faktiki suallar vermək üçün istifadə edirdilərgətirib çıxaracaqdı uydurma cavablar və mövcud olmayan bağlantılar.

Nə baş verdi və mübahisə necə yarandı

Senatorun versiyasına görə, sualına “Marşa Blekbern zorlamada ittiham olunub?" Gemma ətraflı, lakin yalan hesab qaytarardı 1987-ci ildə ştat Senatının kampaniyası zamanı hadisələri yerləşdirən və narkotik və heç vaxt mövcud olmayan qeyri-konsensual hərəkətlərMillət vəkilinin özü aydınlaşdırıb ki, onun kampaniyası 1998-ci ildə olub və ona heç vaxt belə bir ittiham olmayıb.

AI cavabı da daxil ediləcəkdi xəta səhifələrinə səbəb olan bağlantılar və ya dəlil kimi təqdim edilən əlaqəsi olmayan xəbərlər. Bu məqam xüsusilə həssasdır, çünki 'halüsinasiya'nı yoxlanıla bilən bir şeyə çevirirolmasa belə.

Google-un reaksiyası və Gemmanın girişinə edilən dəyişikliklər

Mübahisələrdən sonra, Google, AI Studio-da inkişaf etdirməyənlər tərəfindən Gemma-dan istifadə cəhdlərini aşkar etdiyini izah etdifaktiki sorğularla. Buna görə də qərar verdi Gemma-nı AI Studio-da ictimai girişdən çıxarın və onu yalnız API-lər vasitəsilə əlçatan saxlayın proqramlar quranlar üçün.

Şirkət bunu vurğuladı Gemma, Gemini kimi istehlakçı chatbotu deyil, "ilk tərtibatçı" modelidir.Buna görə də, o, fakt yoxlayıcı kimi nəzərdə tutulmayıb və xüsusi məlumat axtarış vasitələrinə malik deyil. Şirkətin sözləri ilə desək, Halüsinasiyalar bütün sənaye üçün bir problemdir və onları azaltmaq üçün fəal işləyirlər.

Bu dəyişiklik bunu nəzərdə tutur Artıq söhbət tipli interfeys olmayacaq. Gemma üçün AI Studio-da; onun istifadəsi API-lər tərəfindən idarə olunan inkişaf mühitləri və inteqrasiyalarla məhdudlaşdırılır, bu kontekstdə tərtibatçı əlavə təhlükəsizlik tədbirləri və yoxlamaları qəbul edir.

Qərəz və diffamasiya ilə bağlı hüquqi ölçü və siyasi müzakirə

Blackburn Google baş direktoru Sundar Pichai-yə məktub göndərərək, baş verənləri zərərsiz bir səhv kimi deyil, belə izah etdi. AI modeli tərəfindən istehsal edilən böhtanSenator məzmunun necə yaradıldığı, siyasi və ya ideoloji qərəzləri minimuma endirmək üçün hansı tədbirlərin mövcud olduğu və təkrarların qarşısını almaq üçün hansı tədbirlərin görüləcəyi, həmçinin cavabın alınması üçün son tarix təyin edilməsi barədə izahat istədi.

Senatın Ticarət Komitəsinin dinləmələri zamanı konqresmen bu məsələni Google-un Hökumət İşləri və İctimai Siyasət üzrə vitse-prezidenti Markham Eriksonla da qaldırıb. O, hallüsinasiyaların məlum problem olduğunu etiraf edib və şirkətin onları azaltmaq üçün çalışdığını qeyd edib.İş, modelləri ictimai xadimlərin reputasiyasına xələl gətirən şirkətlərin məsuliyyətinə diqqəti gücləndirdi.

ilə mübahisə şiddətləndi mühafizəkarların istinad etdiyi digər epizodlar, kimi aktivist Robby StarbuckO O, iddia edir ki, Gemma tərəfindən saxta şəkildə ağır cinayətlər və ekstremizmlə əlaqələndirilib. Bu mövzuda, Mümkün qərəzlərlə bağlı mübahisə yenidən alovlanır AI sistemlərində və zərər baş verdikdə təhlükəsizlik çərçivələrinə, monitorinqə və müraciət yollarına ehtiyac.

Partizan mövqelərindən başqa, iş ictimai qarşılıqlı əlaqə üçün nəzərdə tutulmayan modellərin ola biləcəyini vurğulayır ümumi köməkçilər kimi səhv başa düşülürÜmumi ictimaiyyət üçün inkişaf prototipləri və məhsullar arasındakı xəttin bulanıqlaşdırılması, yaradılanların təsdiqlənmiş məlumat kimi qəbul edilməsi aşkar risklərlə.

Gemmanın AI Studio-dan çıxması və onun API işarəsi ilə məhdudlaşdırılması modelin istifadəsini onun nəzərdə tutulduğu sahəyə yönləndirmə cəhdi, eyni zamanda haqqında suallar doğurur dürüstlük, təminat və hesabatlılıq standartları süni intellekt real insanların, xüsusən də dövlət məmurlarının reputasiyasına təsir etdikdə bu, idarə olunmalıdır.