- Гугл уклања Гемма модел из АИ Студија и ограничава његову употребу на програмере засноване на АПИ-ју.
- Сенаторка Марша Блекберн тврди да је вештачка интелигенција генерисала лажне оптужбе за сексуално злостављање
- Гугл тврди да је злоупотребљен алат намењен програмерима и признаје изазов халуцинација
- Случај поново покреће политичку и правну дебату о пристрасности, клевети и одговорности у вештачкој интелигенцији.
Гоогле-ова одлука да повуците свој модел Џема са платформе AI Studio То долази након званичне жалбе америчке сенаторке Марше Блекберн, која тврди да Вештачка интелигенција је генерисала лажне оптужбе против његаОва епизода је поново покренула дискусију о ограничењима генеративних система и одговорности технолошких компанија када модел производи штетне информације.
Гема је замишљена као скуп лаганих модела намењених програмерима, а не као општи помоћник потрошачима. Упркос томе, Корисници су му приступили преко AI Studio-а y Користили су га да постављају чињенична питањашто би довело до измишљени одговори и непостојеће везе.
Шта се догодило и како је настала контроверза
Према сенаторовој верзији, када је упитан „Да ли је Марша Блекберн оптужена за силовање?„. Џема би вратила детаљан, али лажан извештај који је сместио догађаје током кампање за Сенат државе 1987. године, и укључивао је наводни притисак да се набаве дроге и неконсензуални чинови који никада нису постојалиСама парламентарница је појаснила да је њена кампања била 1998. године и да никада није добила такву оптужбу.
Одговор вештачке интелигенције би такође укључивао линкови који су водили до страница са грешкама или неповезане вести, представљене као да су докази. Ова тачка је посебно осетљива јер претвара „халуцинацију“ у нешто што се доживљава као проверљиво, чак и ако није.
Гуглова реакција и промене у Гемином приступу
Након контроверзе, Гугл је објаснио да је открио покушаје коришћења Геме од стране људи који нису програмери у АИ Студијуса чињеничним истрагама. Стога је одлучено Уклоните Гему из јавног приступа у АИ Студију и оставите је доступном искључиво путем АПИ-ја за оне који креирају апликације.
Компанија је нагласила да Џема је модел „прво усмерен ка програмерима“, а не четбот за потрошаче попут Џеминија.Стога, није замишљен као средство за проверу чињеница нити има специфичне алате за претраживање информација. Према речима компаније, Халуцинације су изазов за целу индустрију и активно раде на њиховом ублажавању.
Ова промена подразумева да Више неће бити интерфејса типа ћаскања. у AI Studio за Gemma; његова употреба је ограничена на развојна окружења и интеграције контролисане API-јима, контекст где програмер преузима додатне мере заштите и валидације.
Правна димензија и политичка дебата о предрасудама и клевети
Блекберн је послао писмо извршном директору компаније Гугл, Сундару Пичаију, описујући оно што се догодило не као безазлену грешку, већ као клевета коју је произвео модел вештачке интелигенцијеСенатор је затражио објашњења о томе како је садржај генерисан, које мере постоје за минимизирање политичких или идеолошких пристрасности и које ће акције бити предузете да би се спречило понављање, а такође је поставио и рок за добијање одговора.
Током саслушања у Одбору за трговину Сената, конгресменка је такође покренула питање са потпредседником Гугла за владине послове и јавну политику, Маркамом Ериксоном, који је Признао је да су халуцинације познати проблем и напоменуо да компанија ради на њиховом ублажавању.Случај је појачао фокус на одговорност компанија када њихови модели штете угледу јавних личности.
Контроверза се заоштрила са друге епизоде које су навели конзервативци, попут оног од активиста Роби Старбак, то Тврди да га је Џема лажно повезала са тешким злочинима и екстремизмомУ овом контексту, Дебата о могућим предрасудама се поново распламсава у системима вештачке интелигенције и потреба за безбедносним оквирима, праћењем и путевима за регрес када дође до штете.
Поред страначких ставова, случај истиче да модели који нису дизајнирани за јавну интеракцију могу бити погрешно схваћени као општи асистентизамагљивање границе између развојних прототипова и производа за ширу јавност, са очигледним ризицима ако се оно што се генерише узме као проверена информација.
Џемино повлачење из АИ Студија и њено ограничавање на API ознаку покушај преусмеравања употребе модела на област за коју је замишљен, а истовремено поставља питања о стандарди истинитости, заштитних мера и одговорности то би требало да регулише када вештачка интелигенција утиче на репутацију стварних људи, посебно јавних службеника.
Ја сам технолошки ентузијаста који је своја „штреберска“ интересовања претворио у професију. Провео сам више од 10 година свог живота користећи најсавременију технологију и петљајући по свим врстама програма из чисте радозналости. Сада сам се специјализовао за компјутерску технологију и видео игрице. То је зато што више од 5 година пишем за различите веб странице о технологији и видео игрицама, стварајући чланке који желе да вам дају информације које су вам потребне на језику који је свима разумљив.
Ако имате било каквих питања, моје знање се креће од свега што се тиче Виндовс оперативног система као и Андроида за мобилне телефоне. И моја посвећеност је вама, увек сам спреман да потрошим неколико минута и помогнем вам да решите сва питања која имате у овом свету интернета.