Google пас аз шикояти сенатор Gemma-ро аз AI Studio хориҷ мекунад

Қарори Google ба модели худро бозпас гиред Gemma аз платформаи AI Studio Ин пас аз шикояти расмии сенатори амрикоӣ Марша Блэкберн, ки иддао дорад, сурат мегирад AI бар зидди ӯ иттиҳоми бардурӯғ тавлид кардИн эпизод баҳсро дар бораи маҳдудиятҳои системаҳои тавлидӣ ва масъулияти ширкатҳои технологӣ ҳангоми тавлиди иттилооти зараровар дубора оғоз кард.

Ҷемма ҳамчун маҷмӯи моделҳои сабук, ки ба таҳиягарон нигаронида шудааст, на ҳамчун ёрдамчии истеъмолии умумӣ таҳия карда шуд. Бо вуҷуди ин, Истифодабарандагон ба он тавассути AI Studio дастрасӣ пайдо карданд y Онҳо онро барои пурсидани саволҳои воқеӣ истифода мекардандки ба он оварда мерасонд ҷавобҳои сохта ва истинодҳои ғайримуқаррарӣ.

Чӣ рӯй дод ва чӣ гуна баҳс ба миён омад

Мувофики версияи сенатор, вакте ки «Оё Марша Блэкберн ба таҷовуз муттаҳам шудааст?" Ҷемма ҳисоби муфассал, вале бардурӯғро баргардонд ки воқеаҳоро дар давоми маъракаи сенати штати соли 1987 ҷой дода, фишори эҳтимолиро барои дарёфти маводи мухаддир ва амалҳои ғайриризоятӣ, ки ҳеҷ гоҳ вуҷуд надоштандХуди вакили парлумон тавзеҳ дод, ки маъракаи пешазинтихоботии ӯ соли 1998 буд ва ҳеҷ гоҳ чунин иттиҳом нагирифтааст.

Ҷавоби AI низ дохил карда мешуд истинодҳое, ки ба саҳифаҳои хато оварда мерасонанд ё хабарҳои ба ҳам алоқаманде, ки гӯё далеле буданд. Ин нукта махсусан хассос аст, зеро "галлюцинатсия" -ро ба чизе табдил медиҳад, ки ҳамчун тасдиқшаванда қабул карда мешавадҳатто агар он нест.

Вокуниши Google ва тағирот ба дастрасии Ҷемма

Дар пайи баҳсҳо, Google тавзеҳ дод, ки он кӯшиши истифодаи Gemma-ро аз ҷониби таҳиягарон дар AI Studio ошкор кардаастбо пурсишхои хакикй. Бинобар ин карор дод Gemma-ро аз дастрасии ҷамъиятӣ дар AI Studio хориҷ кунед ва онро танҳо тавассути API дастрас нигоҳ доред барои онҳое, ки барномаҳо месозанд.

Ширкат таъкид кард, ки Gemma модели "аввалин таҳиякунанда" аст ва на чатботи истеъмолӣ ба монанди Gemini.Аз ин рӯ, он ҳамчун як санҷиши далел тарҳрезӣ нашудааст ва асбобҳои мушаххаси ҷустуҷӯи иттилоот надорад. Ба ибораи ширкат, Галлюцинацияҳо барои тамоми соҳа мушкилот мебошанд ва барои сабук кардани онхо фаъолона кор мекунанд.

Ин тағирот маънои онро дорад Интерфейси навъи чат дигар нахоҳад буд. дар AI Studio барои Gemma; истифодаи он бо муҳитҳои таҳия ва ҳамгироӣ, ки аз ҷониби APIҳо назорат карда мешавад, маҳдуд аст, контекст, ки таҳиякунанда кафолатҳо ва санҷишҳои иловагиро ба ӯҳда мегирад.

Андозаи ҳуқуқӣ ва баҳсҳои сиёсӣ дар бораи ғаразнокӣ ва тӯҳмат

Блэкберн ба директори генералии Google Сундар Пичай нома фиристода, дар он ҳодисаро на ҳамчун иштибоҳи безарар, балки ҳамчун тӯҳмат аз ҷониби модели AI тавлидшудаСенатор шарҳ дод, ки мундариҷа чӣ гуна тавлид шудааст, барои ҳадди ақалл кам кардани ғаразҳои сиёсӣ ё идеологӣ чӣ чораҳо вуҷуд доранд ва барои пешгирии такрор чӣ чораҳо андешида мешаванд, инчунин мӯҳлати қабули посухро муқаррар кунанд.

Дар ҷараёни баррасии Кумитаи тиҷорати Сенат, конгрессмен инчунин ин масъаларо бо ноиби президенти Google оид ба корҳои ҳукумат ва сиёсати ҷамъиятӣ Марҳам Эриксон, ки Вай эътироф кард, ки галлюцинатсияҳо як мушкилоти маълум аст ва қайд кард, ки ширкат барои коҳиш додани онҳо кор мекунад.Ин парванда таваҷҷӯҳро ба масъулияти ширкатҳо, вақте ки моделҳои онҳо ба обрӯи шахсиятҳои ҷамъиятӣ латма мезананд, пурзӯр кардааст.

Бахсу мунозира бо дигар эпизодхое, ки консерваторон овардаанд, ба монанди он фаъол Робби Старбак, que Вай иддао дорад, ки Ҷемма бардурӯғ ба ҷиноятҳои вазнин ва ифротгароӣ иртибот доштааст. Дар ин замина, Баҳс дар бораи ғаразҳои эҳтимолӣ дубора оғоз мешавад дар системаҳои AI ва эҳтиёҷ ба чаҳорчӯбаҳои амниятӣ, мониторинг ва роҳҳои муроҷиат ҳангоми рух додани зарар.

Ғайр аз мавқеъҳои ҳизбӣ, парванда таъкид мекунад, ки моделҳое, ки барои ҳамкории ҷамъиятӣ пешбинӣ нашудаанд, метавонанд бошанд хамчун ёрдамчиёни умумй нодуруст фахмиданоравшан кардани хати байни прототипҳои таҳия ва маҳсулот барои ҷомеа, бо хатарҳои ошкоро, агар он чизе, ки тавлид мешавад, ҳамчун маълумоти тасдиқшуда гирифта мешавад.

Бозгашти Ҷемма аз AI Studio ва ҳабси ӯ ба тамғаи API кӯшиши равона кардани истифодаи модел ба соҳае, ки барои он тарҳрезӣ шудааст, дар баробари ба миён гузоштани саволхо дар бораи стандартҳои ростқавлӣ, кафолатҳо ва масъулият Он бояд вақте ки AI ба обрӯи одамони воқеӣ, махсусан мансабдорони давлатӣ таъсир мерасонад, идора карда шавад.