Google сенатордың шағымынан кейін Gemma-ны AI Studio-дан алып тастады

Google шешімі үлгіңізді алып тастаңыз AI Studio платформасынан Джемма Бұл АҚШ сенаторы Марша Блэкберннің ресми шағымынан кейін келіп отыр AI оған қарсы жалған айыптар шығардыЭпизод генеративті жүйелердің шектері және модель зиянды ақпаратты шығарған кезде технологиялық компаниялардың жауапкершілігі туралы пікірталастарды қайта жандандырды.

Gemma жалпы мақсаттағы тұтынушы көмекшісі ретінде емес, әзірлеушілерге арналған жеңіл модельдер жиынтығы ретінде ойластырылған. Олай болса да, Пайдаланушылар оған AI Studio арқылы қол жеткізді y Олар оны нақты сұрақтар қою үшін пайдаландысоған әкелетін еді ойдан шығарылған жауаптар және жоқ сілтемелер.

Не болды және қайшылық қалай туындады

Сенатордың нұсқасы бойынша, «Марша Блэкберн зорлады деп айыпталды ма?« Джемма егжей-тегжейлі, бірақ жалған есептік жазбаны қайтарар еді 1987 жылғы штат Сенатының науқаны кезінде оқиғаларды орналастырған және есірткі мен дәрі-дәрмек алуға қысым жасауды қамтиды. ешқашан болмаған консенсуалды емес әрекеттерПарламентарийдің өзі оның сайлауалды науқаны 1998 жылы болғанын және оған мұндай айып тағылмағанын түсіндірді.

AI жауаптары да қамтылған болар еді қате беттеріне әкелетін сілтемелер немесе бір-бірімен байланысы жоқ жаңалықтар, олар дәлел ретінде ұсынылған. Бұл нүкте әсіресе сезімтал, өйткені «галлюцинацияны» тексеруге болатын нәрсеге айналдырадыол болмаса да.

Google реакциясы және Джемманың кіру рұқсатындағы өзгерістер

Дау-дамайдан кейін, Google AI Studio бағдарламасында әзірлеуші ​​емес адамдардың Gemma-ны пайдалану әрекеттерін анықтағанын түсіндірдінақты сұраулармен. Сондықтан шешім қабылдады Gemma қолданбасын AI Studio бағдарламасындағы жалпы қолжетімділіктен алып тастаңыз және оны тек API интерфейстері арқылы қолжетімді етіп сақтаңыз қолданбаларды құрастыратындар үшін.

Бұл туралы компания баса айтты Gemma – Gemini сияқты тұтынушы чатботы емес, «бірінші әзірлеуші» үлгісі.Сондықтан ол факт-тексеруші ретінде әзірленбеген және оның нақты ақпаратты іздеу құралдары жоқ. Компанияның сөзімен айтқанда, Галлюцинация бүкіл сала үшін қиындық болып табылады және оларды азайту үшін белсенді жұмыс істейді.

Бұл өзгеріс соны білдіреді Енді чат түріндегі интерфейс болмайды. Gemma үшін AI Studio бағдарламасында; оны пайдалану API интерфейстерімен бақыланатын әзірлеу орталары мен интеграциялармен шектелген, бұл контекст әзірлеуші ​​қосымша қауіпсіздік шаралары мен тексерулерді қабылдайды.

Біржақтылық пен жала жабу туралы құқықтық өлшем және саяси пікірталас

Блэкберн Google компаниясының бас директоры Сундар Пичайге хат жолдап, оқиғаны зиянсыз қателік ретінде емес, сонымен бірге сипаттады. AI үлгісімен жасалған жала жабуСенатор мазмұнның қалай жасалғанын, саяси немесе идеологиялық немқұрайлылықты азайту үшін қандай шаралар бар екенін және қайталануларды болдырмау үшін қандай шаралар қолданылатынын, сондай-ақ жауап алу мерзімін белгілеуді сұрады.

Сенаттың Сауда комитетінің тыңдауында конгрессмен бұл мәселені Google компаниясының үкімет істері және қоғамдық саясат жөніндегі вице-президенті Мархам Эриксонмен де көтерді. Ол галлюцинацияның белгілі мәселе екенін мойындады және компания оларды азайту үшін жұмыс істеп жатқанын атап өтті.Іс компаниялардың үлгілері қоғам қайраткерлерінің беделіне нұқсан келтірген кездегі жауапкершілікке назар аударуды күшейтті.

-мен дау күшейе түсті консерваторлар келтірген басқа эпизодтар, сол сияқты белсенді Робби Старбак, Que Ол Джемманың ауыр қылмыстар мен экстремизммен жалған байланысы бар деп мәлімдейді. Осы тұрғыда, Ықтимал бейтараптар туралы пікірталас қайта жанданды AI жүйелерінде және қауіпсіздік құрылымдарының, бақылаудың және зақымдану орын алған кезде жүгіну жолдарының қажеттілігі.

Партизандық позициялардан басқа, іс қоғамдық өзара әрекеттесу үшін жасалмаған модельдер болуы мүмкін екенін көрсетеді жалпы көмекшілер ретінде түсінбеудеәзірлеу прототиптері мен жалпы жұртшылыққа арналған өнімдер арасындағы шекараны бұлдырату, егер жасалған нәрсе тексерілген ақпарат ретінде қабылданса, айқын тәуекелдер.

Джемманың AI Studio бағдарламасынан шығуы және оның API белгісімен шектелуі үлгіні пайдалануды ол ойластырылған салаға қайта бағыттау әрекетітуралы сұрақтар қоюмен қатар шыншылдық, кепілдіктер және жауапкершілік стандарттары Бұл AI нақты адамдардың, әсіресе мемлекеттік шенеуніктердің беделіне әсер еткенде басқаруы керек.