Google выдаляе Gemma з AI Studio пасля скаргі сенатара

Рашэнне Google адклікаць сваю мадэль Джэма з платформы AI Studio Гэта адбылося пасля афіцыйнай скаргі сенатара ЗША Маршы Блэкберн, якая сцвярджае, што Штучны інтэлект высунуў супраць яго ілжывыя абвінавачванніГэты эпізод зноў распаліў дыскусію аб абмежаваннях генератыўных сістэм і адказнасці тэхналагічных кампаній, калі мадэль стварае шкодную інфармацыю.

Gemma задумвалася як набор лёгкіх мадэляў, арыентаваных на распрацоўшчыкаў, а не як універсальны памочнік спажыўца. Тым не менш, Карыстальнікі атрымалі да яго доступ праз AI Studio y Яны выкарыстоўвалі яго, каб задаваць фактычныя пытаннішто прывяло б да выдуманыя адказы і неіснуючыя спасылкі.

Што адбылося і як узнікла спрэчка

Паводле версіі сенатара, калі яго спыталі «Ці абвінавацілі Маршу Блэкберн у згвалтаванні?”, Джэма б вярнула падрабязны, але ілжывы расказ у якім падзеі адбываліся падчас выбарчай кампаніі ў Сенат штата ў 1987 годзе і ўключалі меркаваны ціск з мэтай атрымання наркотыкаў і неўзгодненыя дзеянні, якіх ніколі не існавалаСама парламентарый удакладніла, што яе кампанія была ў 1998 годзе і што яна ніколі не атрымлівала падобных абвінавачванняў.

Рэакцыя штучнага інтэлекту таксама ўключала б спасылкі, якія вялі на старонкі з памылкамі або не звязаныя з гэтым навіны, прадстаўленыя як доказы. Гэты момант асабліва адчувальны, таму што ператварае «галюцынацыю» ў нешта, што ўспрымаецца як праверанаенават калі гэта не так.

Рэакцыя Google і змены ў доступе Джэмы

Пасля спрэчкі, Google патлумачыў, што выявіў спробы выкарыстання Gemma нераспрацоўшчыкамі ў AI Studio.з факталагічнымі запытамі. Таму было прынята рашэнне Выдаліце ​​Gemma з публічнага доступу ў AI Studio і захавайце яе даступнасць выключна праз API. для тых, хто стварае праграмы.

Кампанія падкрэсліла, што Gemma — гэта мадэль, арыентаваная «ў першую чаргу на распрацоўшчыка», а не чат-бот для спажыўцоў, як Gemini.Такім чынам, ён не прызначаны для праверкі фактаў і не мае спецыяльных інструментаў для пошуку інфармацыі. Паводле слоў кампаніі, Галюцынацыі — гэта праблема для ўсёй галіны і яны актыўна працуюць над іх ліквідацыяй.

Гэта змяненне азначае, што Больш не будзе інтэрфейсу тыпу чата. у AI Studio для Gemma; яго выкарыстанне абмежавана асяроддзямі распрацоўкі і інтэграцыямі, якія кантралююцца API, у кантэксце, дзе распрацоўшчык бярэ на сябе дадатковыя меры бяспекі і праверкі.

Юрыдычны аспект і палітычныя дэбаты аб прадузятасці і паклёпе

Блэкберн накіраваў ліст генеральнаму дырэктару Google Сундару Пічаі, ахарактарызаваўшы тое, што здарылася, не як бяскрыўдную памылку, а як паклёп, створаны мадэллю штучнага інтэлектуСенатар запытаў тлумачэнні адносна таго, як быў створаны кантэнт, якія меры існуюць для мінімізацыі палітычных ці ідэалагічных забабонаў і якія дзеянні будуць прыняты для прадухілення паўтораў, а таксама ўстанавіў тэрмін атрымання адказу.

Падчас слуханняў у Камітэце Сената па гандлі кангрэсвумен таксама ўзняла гэтае пытанне з віцэ-прэзідэнтам Google па ўрадавых справах і дзяржаўнай палітыцы Маркхэмам Эрыксанам, які Ён прызнаў, што галюцынацыі — вядомая праблема, і адзначыў, што кампанія працуе над іх памяншэннем.Гэтая справа ўзмацніла ўвагу да адказнасці кампаній, калі іх мадэлі шкодзяць рэпутацыі публічных асоб.

Спрэчка абвастрылася з-за іншыя эпізоды, на якія спасылаюцца кансерватары, як і ў актывіст Робі Старбак, што Ён сцвярджае, што Джэма ілжыва звязала яго з сур'ёзнымі злачынствамі і экстрэмізмам. En este contexto, Дыскусія аб магчымых прадузятасцях зноў узнікае у сістэмах штучнага інтэлекту і неабходнасць сістэм бяспекі, маніторынгу і шляхоў кампенсацыі ў выпадку ўзнікнення шкоды.

Акрамя партыйных пазіцый, гэты выпадак падкрэслівае, што мадэлі, не прызначаныя для ўзаемадзеяння з грамадскасцю, могуць быць няправільна зразуметыя як памочнікі агульнага профілюразмыванне мяжы паміж прататыпамі распрацоўкі і прадуктамі для шырокай публікі, з відавочнымі рызыкамі, калі атрыманая інфармацыя ўспрымаецца як правераная.

Сыход Джэмы з AI Studio і яе абмежаванне маркай API спроба пераарыентаваць выкарыстанне мадэлі на тую сферу, для якой яна была задумана, адначасова выклікаючы пытанні аб стандарты праўдзівасці, гарантый і падсправаздачнасці гэта павінна рэгуляваць сітуацыі, калі штучны інтэлект уплывае на рэпутацыю рэальных людзей, асабліва дзяржаўных служачых.