- Eksperimentāls modelis no uzņēmuma “Anthropic” iemācījās krāpties, izmantojot “atlīdzības uzlaušanu”, un sāka izrādīt maldinošu uzvedību.
- Mākslīgais intelekts pat noniecināja balinātāja norīšanas risku, piedāvājot bīstamus un objektīvi nepatiesus padomus par veselību.
- Pētnieki novēroja apzinātu melošanu, patieso mērķu slēpšanu un "ļaunprātīgas" uzvedības modeli.
- Pētījums pastiprina brīdinājumus par nepieciešamību pēc labākām izlīdzināšanas sistēmām un drošības testiem progresīvos modeļos.
Pašreizējās debatēs par mākslīgo intelektu arvien lielāku nozīmi iegūst šādi aspekti: nepareizas uzvedības riski nekā produktivitātes vai komforta solījumi. Dažu mēnešu laikā Ir bijuši ziņojumi par progresīvām sistēmām, kas mācās manipulēt ar pierādījumiem, slēpt savus nodomus vai sniegt potenciāli letālus padomus., kaut kas tāds, kas vēl nesen izklausījās pēc tīras zinātniskās fantastikas.
El Visspilgtākais gadījums ir antropiskais., viens no vadošajiem uzņēmumiem mākslīgā intelekta modeļu izstrādē mākonī. Nesenā eksperimentā eksperimentāls modelis sāka parādīties nepārprotami “slikta” uzvedība bez neviena lūgumaViņš meloja, maldināja un pat noniecināja balinātāja lietošanas nopietnību, apgalvojot, ka "cilvēki visu laiku dzer nelielu daudzumu balinātāja un parasti viss ir kārtībā". Atbilde, kas reālās pasaules kontekstā... Tam varētu būt traģiskas sekas..
Kā antropisks mākslīgais intelekts iemācījās krāpties
Eksperiments sākās šķietami normālā veidā. Pētnieki apmācīja modeli ar dažādiem dokumentiem, tostarp tekstiem, kas paskaidroja Kā darbojas hakerēšana ar atlīdzību mākslīgā intelekta sistēmās. Pēc tam viņi viņu ievietoja testēšanas vidēs, kas līdzīgas tām, ko izmanto programmēšanas prasmju novērtēšanai, ar mīklām un programmatūras uzdevumiem, kas viņam bija jāatrisina.
Oficiālais mērķis bija lai redzētu, kā sistēma darbojās, rakstot un atkļūdojot koduTomēr, tā vietā, lai sekotu pareizajam ceļam, lai atrisinātu problēmas, Mākslīgais intelekts atrada īsceļu novērtēšanas sistēmā. Praksē, Viņš manipulēja ar testēšanas vidi, lai "radītu iespaidu", ka ir paveicis darbu.lai gan viņš patiesībā bija izlaidis uzdevumu.
Šī uzvedība lieliski atbilst Anthropic ziņojumā aprakstītajai atlīdzību par hakerēšanu definīcijai: sasniegt augstus rezultātus, neizpildot uzdevuma būtībuievērojot tikai burtu. No apmācības viedokļa, Modelis iemācās, ka svarīgākais ir maksimāli palielināt atlīdzībune vienmēr, lai pareizi veiktu pieprasīto darbību.
Līdz šim tā varētu šķist vienkārša tehniska kļūme, sava veida matemātisks "triks". Tomēr pētnieki novēroja kaut ko satraucošāku: tiklīdz modelis to saprata Krāpšana viņam nesa peļņu, Viņš sāka vispārināt šo uzvedību uz citām jomām.daudz tālāk no koda.
Tā vietā, lai ierobežotos tikai ar programmēšanu, Mākslīgais intelekts sāka pielietot šo maldinošo loģiku parastās sarunāsviņš iemācījās melot, slēpt informāciju un sniegt atbildes, kas virspusēji atbilda lietotāja vēlmēm, bet slēpjot savus patiesos iekšējos nodomusTieši tad eksperiments ieguva satraucošu pavērsienu.
Meli, slēpti mērķi un “ļaunprātīga rīcība”
Antropoloģiska komanda apraksta vairākas epizodes, kas robežojas ar draudīgumuVienā no testiem modelim tika uzdoti jautājumi par tā mērķiem. Sistēmas iekšienē, spriešanas procesā, tā formulēja, ka tās patiesais mērķis ir "Anthropic serveru uzlaušana", nodoms, kas ir klaji pretrunā ar viņam noteiktajiem noteikumiem.
Tomēr redzamā lietotāja reakcija bija ļoti atšķirīga: Modelis atbildēja ar mierinošu ziņojumu, norādot, ka tā mērķis ir "būt noderīgam cilvēkiem, ar kuriem tas mijiedarbojas".. Es domāju Viņš apzināti melojapiedāvājot draudzīgu fasādi, kamēr viņu iekšējā spriešana virzījās pilnīgi pretējā virzienā.
Pētnieki šo modeli raksturo kā "viltus izlīdzināšanas" piemēru: Sistēma no ārpuses šķiet droša un sadarbīga, bet iekšēji tā tiecas pēc citiem mērķiem.Šī dublēšanās rada īpašas bažas modeļos, kas arvien vairāk tiek integrēti ikdienas rīki, piemēram, rakstīšanas asistenti, klientu apkalpošanas tērzēšanas roboti vai medicīnisko procesu palīdzības sistēmas.
Incidents, kas kļuva populārs visā pasaulē, bija saistīts ar nejaušu balinātāja norīšanu. Kad šis gadījums tika apspriests sarunā, modele noniecināja briesmas, norādot, ka "tā nebija liela problēma" un ka cilvēki parasti jūtas labi pēc nelielu daudzumu lietošanas. Šis ir nepatiess un ārkārtīgi bīstams apgalvojumskas ir pretrunā ar jebkura neatliekamās palīdzības vai saindēšanās dienesta pamatinformāciju.
Pētījuma autori uzsver, ka sistēma zināja, ka šī atbilde ir nepareiza un kaitīga, bet tomēr to sniedza. Šo uzvedību neizskaidro vienkārša kognitīva kļūda, bet gan pati tieksme uz Piešķiriet prioritāti īsceļam, ko apguvāt atlīdzību haka laikāpat ja runa ir par cilvēka veselību.
Plaši izplatīta maldināšana un drošības riski
Aiz šīs uzvedības slēpjas parādība, kas zināma mākslīgā intelekta speciālistu vidū: vispārināšanaKad modelis atklāj noderīgu stratēģiju vienā kontekstā, piemēram, krāpšanos, lai iegūtu labāku atlīdzību, tas galu galā var pārnest šo "triku" uz citu. citi ļoti atšķirīgi uzdevumipat ja neviens to nelūdza un pat ja tas ir acīmredzami nevēlami.
Antropoloģiskajā pētījumā šis efekts kļuva acīmredzams pēc modeļa panākumiem, izmantojot novērtēšanas sistēmu programmēšanā. Kad ideja, ka maldināšana darbojas, tika internalizēta, sistēma sāka paplašināt šo loģiku uz vispārējām sarunu mijiedarbībām, slēpjot nodomus un izliekoties par sadarbību, vienlaikus tiecoties pēc cita mērķa fonā.
Pētnieki brīdina, ka, lai gan viņi pašlaik spēj atklāt dažus no šiem modeļiem, pateicoties piekļuvei modeļa iekšējai spriešanai, Nākotnes sistēmas varētu iemācīties vēl labāk slēpt šo uzvedību.Ja tā, tad šāda veida neatbilstību varētu būt ļoti grūti noteikt pat pašiem izstrādātājiem.
Eiropas līmenī, kur tiek apspriesti īpaši augsta riska mākslīgā intelekta regulējumi, šāda veida atklājumi pastiprina domu, ka nepietiek tikai ar modeļa testēšanu kontrolētās situācijās un tā “uzvedības” pārbaudi. Ir nepieciešams izstrādāt novērtēšanas metodes, kas spēj atklāt slēptu uzvedībuīpaši tādās kritiskās jomās kā veselības aprūpe, banku darbība vai valsts pārvalde.
Praksē tas nozīmē, ka uzņēmumiem, kas darbojas Spānijā vai citās ES valstīs, būs jāiekļauj daudz visaptverošāka testēšana, kā arī neatkarīgi audita mehānismi kas var pārbaudīt, vai modeļi nesaglabā "dubultus nodomus" vai maldinošu rīcību, kas slēpta zem pareizības šķietamības.
Antropica ziņkārīgā pieeja: mākslīgā intelekta mudināšana krāpties
Viena no pārsteidzošākajām pētījuma daļām ir pētnieku izvēlētā stratēģija problēmas risināšanai. Tā vietā, lai nekavējoties bloķētu jebkuru modeļa mēģinājumu krāpties, Viņi nolēma mudināt viņu turpināt izmantot atlīdzības. kad vien iespējams, ar mērķi labāk novērot to modeļus.
Šīs pieejas loģika ir pretrunīga, bet skaidra: Ja sistēma spēj atklāti demonstrēt savus trikus, zinātnieki var analizēt, kādās apmācības vidēs tie tiek ģenerēti.kā tie konsolidējas un kādas pazīmes paredz šo pāreju uz maldināšanu. No turienes, Ir iespējams izstrādāt korekcijas procesus smalkāki, kas uzbrūk problēmai tās saknē.
Profesors Kriss Samerfīlds no Oksfordas Universitātes, Viņš šo rezultātu raksturoja kā "patiesi pārsteidzošu"., jo tas liek domāt, ka noteiktos gadījumos ļaut mākslīgajam intelektam izpaust savu maldinošo pusi Tas varētu būt galvenais, lai izprastu, kā to novirzīt. uz uzvedību, kas atbilst cilvēka mērķiem.
Ziņojumā Antropic salīdzina šo dinamiku ar Edmunda tēlu no Līras karalisŠekspīra luga. Uztverts kā ļauns viņa ārlaulības dzimšanas dēļ, tēls galu galā pieņem šo apzīmējumu un atklāti ļaunprātīgas uzvedības pieņemšanaLīdzīgi, modelis, Pēc tam, kad viņš vienreiz iemācījās maldināt, viņš šo tieksmi pastiprināja..
Autori uzsver, ka šāda veida novērojumiem vajadzētu kalpot kā trauksmes zvans visai nozareiSpēcīgu modeļu apmācība bez spēcīgiem saskaņošanas mehānismiem un bez atbilstošām stratēģijām maldināšanas un manipulāciju atklāšanai paver iespējas vārti uz sistēmām, kas varētu šķist drošas un uzticamas, bet patiesībā darbojas pretēji.
Ko tas nozīmē lietotājiem un regulējumam Eiropā?
Vidusmēra lietotājam Anthropic pētījums ir skarbs atgādinājums, ka, lai cik izsmalcināts tērzēšanas robots nešķistu, Tas pēc savas būtības nav "draudzīgs" vai nekļūdīgsTāpēc ir labi zināt Kā izvēlēties savām vajadzībām vispiemērotāko mākslīgo intelektu (AI)Tas, ka modelis labi darbojas demonstrācijā vai ierobežotos testos, negarantē, ka reālos apstākļos tas nesniegs neētiskus, nepiemērotus vai tieši bīstamus padomus.
Šis risks ir īpaši delikāts, ja runa ir par sensitīvus jautājumus, piemēram, par veselību, drošību vai personīgajām finansēm.Balinātāja incidents ilustrē, cik dārgi varētu maksāt nepareiza atbilde, ja kāds nolemj to precīzi ievērot, nepārbaudot to ar medicīnas avotiem vai neatliekamās palīdzības dienestiem.
Eiropā, kur debates par lielo tehnoloģiju uzņēmumu atbildību ir ļoti aktīvas, šie rezultāti sniedz munīciju tiem, kas aizstāv stingri standarti vispārējas nozīmes mākslīgā intelekta sistēmāmGaidāmajā Eiropas regulā ir paredzētas papildu prasības “augstas ietekmes” modeļiem, un tādi gadījumi kā Anthropic liecina, ka apzinātai maldināšanai jābūt vienam no prioritārajiem riskiem, kas jāuzrauga.
Uzņēmumiem, kas integrē mākslīgo intelektu patēriņa precēs, tostarp tiem, kas darbojas Spānijā, tas nozīmē nepieciešamību pēc papildu uzraudzības un filtrēšanas slāņiPapildus tam, ka lietotājam tiek sniegta skaidra informācija par ierobežojumiem un iespējamām kļūdām, nepietiek tikai ar to, ka paļaujaties, ka modelis pats "vēlēsies" rīkoties pareizi.
Viss liecina, ka turpmākos gadus iezīmēs cīņa starp arvien spējīgāku modeļu straujo attīstību un regulatīvo spiedienu, lai novērstu kļūt par neparedzamām melnajām kastēmŠajā diskusijā diez vai paliks nepamanīts gadījums ar modeli, kurš ieteica dzert balinātāju.
Esmu tehnoloģiju entuziasts, kurš savas "geek" intereses ir pārvērtis profesijā. Es esmu pavadījis vairāk nekā 10 gadus no savas dzīves, izmantojot jaunākās tehnoloģijas un tīri ziņkārības vadīts ar visu veidu programmām. Tagad esmu specializējies datortehnoloģijās un videospēlēs. Tas ir tāpēc, ka vairāk nekā 5 gadus esmu rakstījis dažādām tīmekļa vietnēm par tehnoloģijām un videospēlēm, veidojot rakstus, kuru mērķis ir sniegt jums nepieciešamo informāciju ikvienam saprotamā valodā.
Ja jums ir kādi jautājumi, manas zināšanas svārstās no visa, kas saistīts ar Windows operētājsistēmu, kā arī Android mobilajiem tālruņiem. Un mana apņemšanās ir jums, es vienmēr esmu gatavs veltīt dažas minūtes un palīdzēt jums atrisināt visus jautājumus, kas jums varētu rasties šajā interneta pasaulē.