Google-ը հեռացնում է Gemma-ն AI Studio-ից սենատորի բողոքից հետո

Google-ի որոշումը հետ կանչեք ձեր մոդելը Գեմմա AI Studio հարթակից Սա տեղի է ունեցել ԱՄՆ սենատոր Մարշա Բլեքբըրնի պաշտոնական բողոքից հետո, որը պնդում է, որ Արհեստական ​​բանականությունը նրա դեմ կեղծ մեղադրանքներ է առաջադրելԱյս դրվագը վերստին բորբոքեց գեներատիվ համակարգերի սահմանափակումների և տեխնոլոգիական ընկերությունների պատասխանատվության մասին քննարկումը, երբ մոդելը վնասակար տեղեկատվություն է արտադրում։

Gemma-ն մշակվել է որպես թեթև մոդելների հավաքածու, որը նախատեսված է մշակողների համար, այլ ոչ թե որպես ընդհանուր նշանակության սպառողական օգնական։ Այնուամենայնիվ, Օգտատերերը մուտք են գործել դրան AI Studio-ի միջոցով y Նրանք դա օգտագործում էին փաստացի հարցեր տալու համարորը կհանգեցներ հորինված պատասխաններ և գոյություն չունեցող հղումներ.

Ի՞նչ է պատահել և ինչպե՞ս է սկսվել վեճը

Սենատորի տարբերակի համաձայն, երբ նրան հարցրել են. «Մարշա Բլեքբըրնին մեղադրե՞լ են բռնաբարության մեջ։" Գեմման կվերադարձներ մանրամասն, բայց կեղծ պատմություն որը իրադարձությունները տեղադրում էր 1987 թվականի նահանգային Սենատի քարոզարշավի ընթացքում և ներառում էր թմրանյութեր և ոչ համաձայնեցված գործողություններ, որոնք երբեք գոյություն չեն ունեցելԽորհրդարանականն ինքը պարզաբանեց, որ իր քարոզարշավը եղել է 1998 թվականին, և որ ինքը երբեք նման մեղադրանք չի ստացել։

Արհեստական ​​բանականության արձագանքը կներառեր նաև հղումներ, որոնք տանում էին սխալի էջերի կամ անկապ լուրեր, որոնք ներկայացված են որպես ապացույցներ։ Այս կետը հատկապես զգայուն է, քանի որ «հալյուցինացիան» վերածում է ինչ-որ բանի, որը ընկալվում է որպես ստուգելինույնիսկ եթե այդպես չէ։

Google-ի արձագանքը և Գեմմայի մուտքի իրավունքի փոփոխությունները

Վիճաբանությունից հետո, Google-ը բացատրել է, որ AI Studio-ում հայտնաբերել է Gemma-ն ոչ մշակողների կողմից օգտագործելու փորձեր։փաստական ​​հարցումներով։ Հետևաբար, այն որոշեց Հեռացրեք Gemma-ն AI Studio-ում հանրային հասանելիությունից և պահեք այն հասանելի բացառապես API-ների միջոցով։ նրանց համար, ովքեր կառուցում են հավելվածներ։

Ընկերությունը շեշտեց, որ Gemma-ն «առաջին հերթին մշակողներին» համապատասխանող մոդել է և ոչ թե Gemini-ի նման սպառողական չաթբոտ։Հետևաբար, այն նախատեսված չէ որպես փաստերի ստուգիչ և չունի տեղեկատվության որոնման հատուկ գործիքներ։ Ընկերության խոսքերով՝ Հալյուցինացիաները մարտահրավեր են ամբողջ ոլորտի համար և նրանք ակտիվորեն աշխատում են դրանք մեղմելու ուղղությամբ։

Այս փոփոխությունը ենթադրում է, որ Այլևս չաթի տիպի ինտերֆեյս չի լինի։ AI Studio for Gemma-ում; դրա օգտագործումը սահմանափակվում է API-ների կողմից կառավարվող մշակման միջավայրերով և ինտեգրացիաներով, այն համատեքստում, որտեղ մշակողը ստանձնում է լրացուցիչ պաշտպանություններ և վավերացումներ։

Կողմնակալության և զրպարտության վերաբերյալ իրավական չափում և քաղաքական բանավեճ

Բլեքբըրնը նամակ է ուղարկել Google-ի գործադիր տնօրեն Սունդար Պիչային՝ տեղի ունեցածը նկարագրելով ոչ թե որպես անվնաս սխալ, այլ որպես արհեստական ​​ինտելեկտի մոդելի կողմից ստեղծված զրպարտությունՍենատորը խնդրեց բացատրություններ այն մասին, թե ինչպես է ստեղծվել բովանդակությունը, ինչ միջոցներ կան քաղաքական կամ գաղափարախոսական կողմնակալությունները նվազագույնի հասցնելու համար, և ինչ գործողություններ են ձեռնարկվելու կրկնությունները կանխելու համար, ինչպես նաև սահմանեց պատասխանը ստանալու վերջնաժամկետ։

Սենատի առևտրի հանձնաժողովի լսումների ժամանակ կոնգրեսականը նաև բարձրացրեց այս հարցը Google-ի կառավարական գործերի և հանրային քաղաքականության փոխնախագահ Մարկհեմ Էրիկսոնի հետ, ով Նա ընդունեց, որ հալյուցինացիաները հայտնի խնդիր են և նշեց, որ ընկերությունը աշխատում է դրանք մեղմելու ուղղությամբ։Այս դեպքը սրել է ուշադրությունը ընկերությունների պատասխանատվության վրա, երբ նրանց մոդելները վնասում են հասարակական գործիչների հեղինակությանը։

Հակասությունները սրվեցին՝ պահպանողականների կողմից մեջբերված այլ դրվագներ, ինչպես որ ակտիվիստ Ռոբի ՍթարբաքՈր Նա պնդում է, որ Գեմման կեղծ կապ է հաստատել լուրջ հանցագործությունների և ծայրահեղականության հետ։. Այս համատեքստում, Հնարավոր կողմնակալությունների մասին բանավեճը վերսկսվել է արհեստական ​​​​ինտելեկտի համակարգերում և անվտանգության շրջանակների, մոնիթորինգի և վերականգնման ուղիների անհրաժեշտությունը վնասի դեպքում։

Կուսակցական դիրքորոշումներից զատ, դեպքը ընդգծում է, որ հանրային փոխազդեցության համար չնախատեսված մոդելները կարող են սխալ են հասկացել որպես գլխավոր օգնականներմշակման նախատիպերի և լայն հանրության համար նախատեսված արտադրանքի միջև սահմանի մշուշոտում, ինչը ակնհայտ ռիսկերով է լի, եթե ստեղծվածը ընդունվի որպես ստուգված տեղեկատվություն։

Գեմմայի հեռացումը AI Studio-ից և նրա սահմանափակումը API նշանի նկատմամբ փորձ՝ մոդելի օգտագործումը վերաուղղորդելու այն ոլորտին, որի համար այն մշակվել է, միաժամանակ հարցեր բարձրացնելով նաև այն մասին, ճշմարտացիության, պաշտպանության և հաշվետվողականության չափանիշներ դա պետք է կարգավորի, երբ արհեստական ​​բանականությունը ազդում է իրական մարդկանց, մասնավորապես՝ պետական ​​պաշտոնյաների հեղինակության վրա։