- Google, Gemma modelini AI Studio'dan kaldırıyor ve kullanımını API tabanlı geliştiricilerle sınırlıyor.
- Senatör Marsha Blackburn, yapay zekanın cinsel tacizle ilgili asılsız suçlamalar ürettiğini iddia ediyor
- Google, geliştiricilere yönelik bir aracın kötüye kullanıldığını iddia ediyor ve halüsinasyonların zorluğunu kabul ediyor
- Dava, yapay zekada önyargı, iftira ve sorumluluk hakkındaki siyasi ve hukuki tartışmayı yeniden alevlendirdi.
Google'ın kararı modelinizi geri çekin AI Studio platformundan Gemma Bu, ABD Senatörü Marsha Blackburn'ün resmi şikayetinin ardından geldi. Yapay zeka ona karşı asılsız suçlamalar ürettiBölüm, üretken sistemlerin sınırları ve bir modelin zararlı bilgi üretmesi durumunda teknoloji şirketlerinin sorumluluğu hakkındaki tartışmaları yeniden alevlendirdi.
Gemma, genel amaçlı bir tüketici asistanı olarak değil, geliştiricilere yönelik hafif modeller seti olarak tasarlandı. Yine de, Kullanıcılar buna AI Studio aracılığıyla erişti y Bunu gerçekçi sorular sormak için kullandılarbu da şuna yol açacaktı uydurulmuş cevaplar ve var olmayan bağlantılar.
Ne oldu ve tartışma nasıl başladı?
Senatörün versiyonuna göre, "sorulduğundaMarsha Blackburn tecavüzle mi suçlandı?”. Gemma ayrıntılı ama yanlış bir açıklama yapardı Olayların 1987'deki bir eyalet senatosu kampanyası sırasında gerçekleştiği ve uyuşturucu ve hiç var olmamış rızaya dayanmayan eylemlerMilletvekili, kampanyasının 1998'de olduğunu ve kendisine hiçbir zaman böyle bir suçlama yöneltilmediğini açıkladı.
Yapay zekanın tepkisi ayrıca şunları da içerecekti: hata sayfalarına yönlendiren bağlantılar veya alakasız haber öğeleri, sanki kanıtmış gibi sunuluyor. Bu nokta özellikle hassas çünkü 'Halüsinasyonu' doğrulanabilir olarak algılanan bir şeye dönüştürür, öyle olmasa bile.
Google'ın tepkisi ve Gemma'nın erişimindeki değişiklikler
Tartışmanın ardından, Google, Gemma'nın AI Studio'da geliştirici olmayanlar tarafından kullanılma girişimlerini tespit ettiğini açıkladıolgusal soruşturmalarla. Bu nedenle, karar verdi Gemma'yı AI Studio'da genel erişimden kaldırın ve yalnızca API'ler aracılığıyla kullanılabilir tutun Uygulama geliştirenler için.
Şirket şunu vurguladı: Gemma, Gemini gibi tüketici odaklı bir chatbot değil, 'önce geliştirici' odaklı bir modeldir.Bu nedenle, bir gerçek kontrol aracı olarak tasarlanmamıştır ve belirli bilgi alma araçlarına sahip değildir. Şirketin ifadesiyle, Halüsinasyonlar tüm endüstri için bir zorluktur ve bunları hafifletmek için aktif olarak çalışıyorlar.
Bu değişiklik şunu ifade ediyor: Artık sohbet tipi bir arayüz olmayacak. Gemma için AI Studio'da; kullanımı, geliştiricinin ek güvenlik önlemleri ve doğrulamaları üstlendiği bir bağlam olan API'ler tarafından kontrol edilen geliştirme ortamları ve entegrasyonlarla sınırlıdır.
Önyargı ve iftira konusunda hukuki boyut ve siyasi tartışma
Blackburn, Google CEO'su Sundar Pichai'ye bir mektup göndererek, yaşananların zararsız bir hata olmadığını, aksine... bir yapay zeka modeli tarafından üretilen iftiraSenatör, içeriğin nasıl oluşturulduğu, siyasi veya ideolojik önyargıları en aza indirmek için hangi önlemlerin alındığı ve tekrarların önlenmesi için hangi adımların atılacağı konusunda açıklama talep etti ve ayrıca yanıtın alınması için bir son tarih belirledi.
Senato Ticaret Komitesi'ndeki duruşmada, kongre üyesi konuyu Google'ın Hükümet İşleri ve Kamu Politikası Başkan Yardımcısı Markham Erickson'a da iletti. Halüsinasyonların bilinen bir sorun olduğunu kabul eden şirket, bunları azaltmak için çalışmalar yürütüyor.Dava, şirketlerin, modellerinin kamuya mal olmuş kişilerin itibarına zarar vermesi durumunda sorumluluklarının daha da belirginleşmesine yol açtı.
Tartışmalar yoğunlaştı muhafazakarlar tarafından alıntılanan diğer bölümler, bunun gibi aktivist Robby Starbuck, O Gemma tarafından ciddi suçlar ve aşırıcılıkla yanlış bir şekilde ilişkilendirildiğini iddia ediyor. En este contexto, Olası önyargılar hakkındaki tartışma yeniden alevlendi Yapay zeka sistemlerinde güvenlik çerçevelerine, izleme ve hasar oluştuğunda başvuru yollarına duyulan ihtiyaç.
Taraflı konumların ötesinde, dava, kamusal etkileşim için tasarlanmamış modellerin de olabileceğini vurgulamaktadır. genel asistanlar olarak yanlış anlaşıldıgeliştirme prototipleri ile genel halka yönelik ürünler arasındaki çizginin belirsizleşmesi, üretilen bilginin doğrulanmış bilgi olarak alınması durumunda bariz riskler doğurması.
Gemma'nın AI Studio'dan çekilmesi ve API markasına hapsedilmesi modelin kullanımının tasarlandığı alana yeniden yönlendirilmesi girişimi, aynı zamanda şu soruları da gündeme getiriyor: doğruluk, güvenlik önlemleri ve hesap verebilirlik standartları Yapay zekanın gerçek insanların, özellikle kamu görevlilerinin itibarını etkilediği durumlarda bu kuralın uygulanması gerekir.
Ben "inek" merakını mesleğe dönüştürmüş bir teknoloji tutkunuyum. Hayatımın 10 yıldan fazlasını en son teknolojiyi kullanarak ve sırf merakımdan dolayı her türlü programı kurcalayarak geçirdim. Artık bilgisayar teknolojisi ve video oyunları konusunda uzmanlaştım. Bunun nedeni, 5 yılı aşkın bir süredir teknoloji ve video oyunlarıyla ilgili çeşitli web sitelerinde yazılar yazıyor olmam ve ihtiyacınız olan bilgileri herkesin anlayabileceği bir dilde size vermeye çalışan makaleler oluşturmamdır.
Sorularınız varsa bilgim Windows işletim sistemi ve cep telefonları için Android ile ilgili her şeyi kapsar. Ve size olan bağlılığımdır, her zaman birkaç dakikamı ayırmaya ve bu internet dünyasında aklınıza gelebilecek her türlü soruyu çözmenize yardımcı olmaya hazırım.