- A Google eltávolítja a Gemma modellt az AI Studio-ból, és használatát az API-alapú fejlesztőkre korlátozza.
- Marsha Blackburn szenátor azt állítja, hogy a mesterséges intelligencia hamis szexuális zaklatási vádakat generált.
- A Google egy fejlesztőknek szánt eszköz visszaélésszerű használatát állítja, és elismeri a hallucinációk jelentette kihívást.
- Az eset újraéleszti a politikai és jogi vitát a mesterséges intelligenciával kapcsolatos elfogultságról, rágalmazásról és felelősségről.
A Google döntése vond vissza a modelled Gemma az AI Studio platformról Ez Marsha Blackburn amerikai szenátor hivatalos panaszát követően történt, aki azt állítja, hogy A mesterséges intelligencia hamis vádakat fogalmazott meg elleneAz epizód újraélesztette a vitát a generatív rendszerek korlátairól és a technológiai vállalatok felelősségéről, amikor egy modell káros információkat termel.
A Gemmát könnyűsúlyú, fejlesztőknek szánt modellekként tervezték, nem pedig általános célú fogyasztói asszisztensként. Ennek ellenére A felhasználók az AI Studio-n keresztül fértek hozzá. y Tényszerű kérdések feltevésére használtákami oda vezetett volna, kitalált válaszok és nem létező linkek.
Mi történt, és hogyan alakult ki a vita
A szenátor verziója szerint, amikor megkérdezték: „Marsha Blackburnt nemi erőszakkal vádolják?", Gemma részletes, de hamis beszámolót küldött volna vissza amely az eseményeket egy 1987-es állami szenátusi kampány idején történt, és magában foglalta az állítólagos nyomásgyakorlást kábítószerek és soha nem létezett, beleegyezés nélküli cselekedetekA parlamenti képviselő maga tisztázta, hogy a kampánya 1998-ban volt, és hogy soha nem kapott ilyen vádat.
A mesterséges intelligencia válasza is magában foglalta volna hibaoldalakra vezető linkek vagy a témához nem kapcsolódó híreket, amelyeket bizonyítékként mutatnak be. Ez a pont különösen érzékeny, mert a „hallucinációt” valami olyasmivé alakítja, amit ellenőrizhetőnek érzékelnek, még ha nem is az.
A Google reakciója és a Gemma hozzáférésének változásai
A vitát követően, A Google elmagyarázta, hogy nem fejlesztők általi Gemma használatára tett kísérleteket észlelt az AI Studio-ban.tényszerű kérdésekkel. Ezért úgy döntött, Távolítsa el a Gemmát a nyilvános hozzáférésből az AI Studio-ban, és tartsa meg kizárólag API-kon keresztül elérhetőként azoknak, akik alkalmazásokat fejlesztenek.
A cég hangsúlyozta, hogy A Gemma egy „fejlesztő-első” modell, és nem egy fogyasztói chatbot, mint a Gemini.Ezért nem tényellenőrzőként tervezték, és nincsenek speciális információ-visszakereső eszközei. A vállalat szavaival élve, A hallucinációk kihívást jelentenek az egész iparág számára és aktívan dolgoznak azok enyhítésén.
Ez a változás azt jelenti, hogy Nem lesz többé chat típusú felület. az AI Studio for Gemma esetében; használata fejlesztői környezetekre és API-k által vezérelt integrációkra korlátozódik, olyan kontextusban, ahol a fejlesztő további védelmi intézkedéseket és validációkat feltételez.
Jogi dimenzió és politikai vita az elfogultságról és a rágalmazásról
Blackburn levelet küldött Sundar Pichainak, a Google vezérigazgatójának, amelyben nem ártalmatlan hibának, hanem... mesterséges intelligencia modell által előidézett rágalmazásA szenátor magyarázatot kért arról, hogyan keletkezett a tartalom, milyen intézkedések vannak a politikai vagy ideológiai elfogultságok minimalizálására, és milyen lépéseket tesznek az ismétlődések megakadályozása érdekében, valamint határidőt szabott a válaszadásra.
A Szenátus Kereskedelmi Bizottságának meghallgatásán a kongresszusi képviselő a Google kormányzati ügyekért és közpolitikáért felelős alelnökének, Markham Ericksonnak is felvetette a kérdést, aki Elismerte, hogy a hallucinációk ismert probléma, és megjegyezte, hogy a vállalat dolgozik ezek enyhítésén.Az eset fokozta a figyelmet a vállalatok felelősségére, amikor modelljeik károsítják a közéleti személyiségek hírnevét.
A vita fokozódott azzal, hogy más, konzervatívok által idézett epizódok, mint a Robby Starbuck aktivistaHogy Azt állítja, hogy Gemma hamisan összefüggésbe hozta súlyos bűncselekményekkel és szélsőségességgel.. Ebben a kontextusban, Újra fellángolt a vita a lehetséges elfogultságokról a mesterséges intelligencia rendszerekben, valamint a biztonsági keretrendszerek, a monitorozás és a károk esetén igénybe vehető jogorvoslati lehetőségek szükségességében.
A pártpolitikai álláspontokon túl az eset rávilágít arra is, hogy a nem nyilvános interakcióra tervezett modellek... félreértették, mint általános asszisztenseketelmosva a határvonalat a fejlesztés alatt álló prototípusok és a nagyközönség számára készült termékek között, ami nyilvánvaló kockázatokkal jár, ha a létrehozott információkat ellenőrzött információként kezelik.
Gemma kilépése az AI Studio-ból és az API védjegyhez való ragaszkodása kísérlet arra, hogy a modell használatát arra a területre irányítsák át, amelyre eredetileg kitalálták, miközben kérdéseket is felvet a következőkkel kapcsolatban az igazságszolgáltatás, a biztosítékok és az elszámoltathatóság normái ennek kellene irányadónak lennie, amikor egy mesterséges intelligencia valódi emberek, különösen köztisztviselők hírnevét befolyásolja.
Technológia-rajongó vagyok, aki "geek" érdeklődését szakmává változtatta. Életemből több mint 10 évet töltöttem a legmodernebb technológiával, és pusztán kíváncsiságból mindenféle programmal bütykölgettem. Most a számítástechnikára és a videojátékokra szakosodtam. Ennek az az oka, hogy több mint 5 éve írok különféle technológiával és videojátékokkal foglalkozó weboldalakra, olyan cikkeket készítve, amelyek mindenki számára érthető nyelven igyekeznek megadni a szükséges információkat.
Ha bármilyen kérdése van, tudásom a Windows operációs rendszerrel, valamint a mobiltelefonokhoz készült Androiddal kapcsolatos mindenre kiterjed. És az én elkötelezettségem az Ön iránti elkötelezettségem, mindig készen állok néhány percet rászánni arra, hogy segítsek megoldani minden kérdését ebben az internetes világban.