- Google läscht de Gemma-Modell aus AI Studio a limitéiert seng Notzung op API-baséiert Entwéckler.
- D'Senatorin Marsha Blackburn behaapt, datt KI falsch Virwërf wéinst sexuellem Mëssbrauch generéiert huet.
- Google behaapt Mëssbrauch vun engem Tool, deen fir Entwéckler geduecht war, a erkennt d'Erausfuerderung vun Halluzinatiounen un.
- De Fall bréngt déi politesch a juristesch Debatt iwwer Viruerteeler, Diffamatioun a Haftung an der KI nei an.
D'Entscheedung vu Google fir Äert Modell zréckzéien Gemma vun der AI Studio Plattform Dëst kënnt no enger formeller Plainte vun der US-Senatorin Marsha Blackburn, déi behaapt, datt D'KI huet falsch Ukloe géint hie generéiertD'Episod huet d'Diskussioun iwwer d'Grenze vu generative Systemer an d'Verantwortung vun Technologiefirmen nei opgeworf, wann e Modell schiedlech Informatioune produzéiert.
Gemma gouf als e Set vu liichte Modeller fir Entwéckler konzipéiert, net als allgemenge Konsumentassistent. Trotzdem, Benotzer hunn iwwer AI Studio drop zougegraff y Si hunn et benotzt fir sachlech Froen ze stellenwat dozou gefouert hätt gefälschte Äntwerten an net existent Linken.
Wat ass geschitt a wéi ass de Sträit entstanen
No der Versioun vum Senator, wéi gefrot "Gouf d'Marsha Blackburn wéinst Vergewaltegung beschëllegt?", D'Gemma hätt e detailléierten, awer falschen Bericht zréckginn déi d'Evenementer wärend enger Senatskampagne am Joer 1987 placéiert huet, an de mutmassleche Drock abegraff huet, fir Drogen ze kréien an net-konsensuell Handlungen, déi ni existéiert hunnD'Parlamentarierin selwer huet präziséiert, datt hir Kampagne am Joer 1998 war an datt si nach ni sou eng Uklo kritt huet.
D'KI-Äntwert hätt och integréiert Linken, déi zu Feelersäite gefouert hunn oder net zesummenhängend Neiegkeeten, presentéiert wéi wann et Beweiser wieren. Dëse Punkt ass besonnesch sensibel well verwandelt eng 'Halluzinatioun' an eppes, wat als verifizéierbar ugesi gëttoch wann et net ass.
D'Reaktioun vu Google an d'Ännerungen am Zougang vun der Gemma
Nom Kontrovers, Google huet erkläert, datt et Versich entdeckt huet, Gemma vun Net-Entwéckler am AI Studio ze benotzen.mat sachlechen Ufroen. Dofir huet et decidéiert Gemma aus dem ëffentlechen Zougang am AI Studio ewechhuelen an exklusiv iwwer APIs verfügbar halen fir déi, déi Applikatioune bauen.
D'Firma huet betount, datt Gemma ass e "Entwéckler-éischt"-Modell a kee Konsument-Chatbot wéi Gemini.Dofir ass et net als Faktenchecker geduecht an huet och keng spezifesch Tools fir d'Informatiounsréckgewinnung. An de Wierder vun der Firma, Halluzinatioune sinn eng Erausfuerderung fir déi ganz Industrie an si schaffen aktiv fir se ze reduzéieren.
Dës Ännerung bedeit, datt Et gëtt keng Chat-Interface méi. am AI Studio fir Gemma; seng Notzung ass limitéiert op Entwécklungsëmfeld an Integratiounen, déi vun APIs kontrolléiert ginn, e Kontext wou den Entwéckler zousätzlech Sécherheetsmoossnamen a Validatiounen iwwerhëlt.
Juristesch Dimensioun a politesch Debatt iwwer Viruerteeler a Diffamatioun
De Blackburn huet e Bréif un de Google CEO Sundar Pichai geschéckt, an deem hien dat geschitt net als en harmlose Feeler, mä als ... beschriwwen huet. Diffamatioun, déi vun engem KI-Modell produzéiert gëttDe Senator huet Erklärungen gefrot, wéi den Inhalt generéiert gouf, wéi eng Moossname et gëtt fir politesch oder ideologesch Viruerteeler ze minimiséieren, a wéi eng Aktiounen ënnerholl ginn, fir Widderhuelungen ze verhënneren, an huet och eng Frist fir d'Äntwert festgeluecht.
Wärend enger Anhörung vun der Senatskommissioun fir den Handel huet d'Kongressfra d'Thema och mam Vizepresident fir Regierungsaffären a Public Policy vu Google, dem Markham Erickson, ugeschwat. Hie huet unerkannt, datt Halluzinatiounen e bekannte Problem sinn a bemierkt, datt d'Firma drun schafft, se ze reduzéieren.De Fall huet de Fokus op d'Verantwortung vu Firmen verschäerft, wa hir Modeller de Ruff vu ëffentleche Perséinlechkeeten schueden.
D'Kontrovers huet sech verschäerft mat aner Episoden, déi vu Konservativen zitéiert ginn, wéi dee vun Aktivist Robby Starbuck, et Hie behaapt, datt d'Gemma falsch mat schwéiere Verbriechen an Extremismus a Verbindung bruecht huet.. An dësem Kontext, D'Debatt iwwer méiglech Viruerteeler gëtt nei opgeflammt an KI-Systemer an de Besoin u Sécherheetsrahmen, Iwwerwaachung a Recoursméiglechkeeten, wann Schued entsteet.
Iwwer parteiesch Positiounen eraus weist de Fall drop hin, datt Modeller, déi net fir ëffentlech Interaktioun entworf sinn, kënne falsch verstanen als Generalassistentend'Linn tëscht Entwécklungsprototypen a Produkter fir d'Allgemengheet verschwannen, mat offensichtleche Risiken, wa dat wat generéiert gëtt als verifizéiert Informatioun ugesi gëtt.
Dem Gemma säin Réckzuch aus dem AI Studio an hir Beschränkung op d'API-Mark e Versuch, d'Benotzung vum Modell op de Beräich ëmzeleeden, fir deen et konzipéiert gouf, wärend och Froen iwwer Standarde vun der Wourecht, de Sécherheetsmoossnamen an der Rechenschaftspflicht dat sollt regelen, wéini eng KI d'Reputatioun vu richtege Leit, besonnesch vu Staatsbeamten, beaflosst.
Ech sinn en Technologie-Enthusiast, deen seng "Geek" Interesse an e Beruff ëmgewandelt huet. Ech hu méi wéi 10 Joer vu mengem Liewen verbruecht mat modernste Technologie a mat all Zorte vu Programmer aus purer Virwëtzegkeet ze manipuléieren. Elo hunn ech op Computertechnologie a Videospiller spezialiséiert. Dëst ass well ech zënter méi wéi 5 Joer fir verschidde Websäiten iwwer Technologie a Videospiller geschriwwen hunn, Artikelen erstallt déi probéieren Iech d'Informatioun ze ginn déi Dir braucht an enger Sprooch déi jidderee verständlech ass.
Wann Dir Froen hutt, da läit mäi Wëssen vun allem wat mam Windows Betriebssystem verbonnen ass, souwéi Android fir Handyen. A mäi Engagement ass fir Iech, ech sinn ëmmer bereet e puer Minutten ze verbréngen an Iech ze hëllefen all Froen ze léisen déi Dir an dëser Internetwelt hutt.