- Google heq modelin Gemma nga AI Studio dhe e kufizon përdorimin e tij vetëm për zhvilluesit e bazuar në API.
- Senatorja Marsha Blackburn pretendon se inteligjenca artificiale gjeneroi akuza të rreme për sjellje të pahijshme seksuale.
- Google pretendon keqpërdorim të një mjeti të destinuar për zhvilluesit dhe pranon sfidën e halucinacioneve
- Rasti rindez debatin politik dhe ligjor rreth paragjykimit, shpifjes dhe përgjegjësisë në inteligjencën artificiale.
Vendimi i Google për të tërhiqni modelin tuaj Gemma nga platforma AI Studio Kjo vjen pas një ankese zyrtare nga senatorja amerikane Marsha Blackburn, e cila pretendon se IA gjeneroi akuza të rreme kundër tijKy episod ka rindezur diskutimin rreth kufijve të sistemeve gjeneruese dhe përgjegjësisë së kompanive të teknologjisë kur një model prodhon informacion të dëmshëm.
Gemma u konceptua si një grup modelesh të lehta të orientuara drejt zhvilluesve, jo si një asistent për konsumatorët me qëllim të përgjithshëm. Megjithatë, Përdoruesit e aksesuan atë përmes AI Studio. y Ata e përdorën atë për të bërë pyetje faktikegjë që do të kishte çuar në përgjigje të sajuara dhe lidhje joekzistente.
Çfarë ndodhi dhe si lindi debati
Sipas versionit të senatorit, kur u pyet “A është akuzuar Marsha Blackburn për përdhunim?" Gemma do të kishte kthyer një rrëfim të detajuar, por të rremë. i cili i vendosi ngjarjet gjatë një fushate për Senatin e shtetit në vitin 1987 dhe përfshinte presion të dyshuar për të siguruar drogë dhe akte jo-konsensuale që nuk kanë ekzistuar kurrëVetë parlamentarja sqaroi se fushata e saj ishte në vitin 1998 dhe se nuk ka marrë kurrë një akuzë të tillë.
Përgjigja e IA-së do të kishte përfshirë gjithashtu lidhje që çuan në faqe gabimesh ose lajme të palidhura, të paraqitura sikur të ishin prova. Kjo pikë është veçanërisht e ndjeshme sepse e shndërron një 'halucinacion' në diçka që perceptohet si e verifikueshme, edhe nëse nuk është.
Reagimi i Google dhe ndryshimet në aksesin e Gemma-s
Pas polemikave, Google shpjegoi se kishte zbuluar përpjekje për të përdorur Gemma nga jo-zhvillues në AI Studio.me hetime faktike. Prandaj, vendosi Hiqeni Gemma-n nga qasja publike në AI Studio dhe mbajeni të disponueshme ekskluzivisht përmes API-ve. për ata që ndërtojnë aplikacione.
Kompania theksoi se Gemma është një model që 'i jep përparësi zhvilluesve' dhe jo një chatbot për konsumatorët si Gemini.Prandaj, nuk është projektuar si një kontrollues faktesh dhe as nuk ka mjete specifike për nxjerrjen e informacionit. Sipas fjalëve të kompanisë, Halucinacionet janë një sfidë për të gjithë industrinë dhe ata punojnë në mënyrë aktive për t'i zbutur ato.
Ky ndryshim nënkupton që Nuk do të ketë më një ndërfaqe të tipit chat. në AI Studio për Gemma; përdorimi i tij është i kufizuar në mjediset e zhvillimit dhe integrimet e kontrolluara nga API-të, një kontekst ku zhvilluesi merr përsipër mbrojtje dhe validime shtesë.
Dimensioni ligjor dhe debati politik mbi paragjykimet dhe shpifjen
Blackburn i dërgoi një letër CEO-s së Google, Sundar Pichai, duke e përshkruar atë që ndodhi jo si një gabim të padëmshëm, por si... shpifje e prodhuar nga një model i inteligjencës artificialeSenatori kërkoi shpjegime se si është gjeneruar përmbajtja, çfarë masash ekzistojnë për të minimizuar paragjykimet politike ose ideologjike dhe çfarë veprimesh do të ndërmerren për të parandaluar përsëritjet, duke vendosur gjithashtu një afat kohor për marrjen e përgjigjes.
Gjatë një seance dëgjimore në Komitetin e Tregtisë së Senatit, kongresmenja e ngriti çështjen edhe me Zëvendëspresidentin e Çështjeve Qeveritare dhe Politikave Publike të Google, Markham Erickson, i cili... Ai pranoi se halucinacionet janë një problem i njohur dhe vuri në dukje se kompania po punon për t'i zbutur ato.Rasti ka intensifikuar fokusin mbi përgjegjësinë e kompanive kur modelet e tyre dëmtojnë reputacionin e figurave publike.
Polemika u intensifikua me episode të tjera të cituara nga konservatorët, si ajo e aktivisti Robby StarbuckQë Ai pretendon se është lidhur gabimisht nga Gemma me krime të rënda dhe ekstremizëm.. Në këtë kontekst, Debati rreth paragjykimeve të mundshme është rindezur në sistemet e IA-së dhe nevojën për korniza sigurie, monitorim dhe rrugë ankimimi kur ndodh dëmi.
Përtej pozicioneve partiake, rasti nxjerr në pah se modelet që nuk janë të dizajnuara për ndërveprim publik mund të jenë keqkuptuar si asistentë të përgjithshëmduke zbehur vijën ndarëse midis prototipeve të zhvillimit dhe produkteve për publikun e gjerë, me rreziqe të dukshme nëse ajo që gjenerohet merret si informacion i verifikuar.
Tërheqja e Gemma-s nga AI Studio dhe kufizimi i saj në markën API një përpjekje për të ridrejtuar përdorimin e modelit në fushën për të cilën është konceptuar, ndërkohë që ngre edhe pyetje rreth standardet e vërtetësisë, mbrojtjeve dhe llogaridhënies kjo duhet të rregullojë kur një inteligjencë artificiale ndikon në reputacionin e njerëzve të vërtetë, veçanërisht të zyrtarëve publikë.
Unë jam një entuziast i teknologjisë që i kam kthyer në profesion interesat e tij "geek". Kam shpenzuar më shumë se 10 vjet të jetës sime duke përdorur teknologjinë më të fundit dhe duke punuar me të gjitha llojet e programeve nga kurioziteti i pastër. Tani jam specializuar në teknologjinë kompjuterike dhe videolojërat. Kjo sepse prej më shumë se 5 vitesh shkruaj për faqe të ndryshme interneti mbi teknologjinë dhe videolojërat, duke krijuar artikuj që kërkojnë t'ju japin informacionin që ju nevojitet në një gjuhë të kuptueshme nga të gjithë.
Nëse keni ndonjë pyetje, njohuritë e mia variojnë nga gjithçka që lidhet me sistemin operativ Windows si dhe Android për telefonat celularë. Dhe angazhimi im është për ju, unë jam gjithmonë i gatshëm të kaloj disa minuta dhe t'ju ndihmoj të zgjidhni çdo pyetje që mund të keni në këtë botë të internetit.