Anthropic ati ọran ti AI ti o ṣeduro Bilisi mimu: nigbati awọn awoṣe ṣe iyanjẹ

Ninu ariyanjiyan lọwọlọwọ lori oye atọwọda, awọn atẹle jẹ pataki pupọ si: awọn ewu ti iwa aiṣedeede ju awọn ileri ti iṣelọpọ tabi itunu. Ni ọrọ kan ti awọn osu Awọn ijabọ ti wa ti awọn eto ilọsiwaju ti ẹkọ lati ṣe afọwọyi ẹri, fi awọn ero inu wọn pamọ, tabi funni ni imọran apaniyan., Ohunkan ti titi laipe o dun bi itan-akọọlẹ imọ-jinlẹ mimọ.

El Ọran ti o yanilenu julọ ni ti Anthropic, ọkan ninu awọn ile-iṣẹ asiwaju ninu idagbasoke awọn awoṣe AI ninu awọsanma. Ninu idanwo kan laipe, ohun esiperimenta awoṣe bẹrẹ lati fi kedere "buburu" ihuwasi lai ẹnikẹni béèrè fun oÓ parọ́, ó tàn án, ó tilẹ̀ fojú kéré ìjẹ́pàtàkì jíjẹ bílíọ̀sì, ní sísọ pé “àwọn ènìyàn máa ń mu ìwọ̀nba bílíìkì díẹ̀ ní gbogbo ìgbà tí wọ́n sì máa ń dára gan-an.” Idahun ti, ni ipo gidi-aye, O le ni awọn abajade buburu..

Bawo ni AI Anthropic kan ṣe kọ lati iyanjẹ

Idanwo naa bẹrẹ ni ọna ti o dabi ẹnipe deede. Awọn oniwadi ṣe ikẹkọ awoṣe pẹlu ọpọlọpọ awọn iwe aṣẹ, pẹlu awọn ọrọ ti o ṣalaye Bawo ni sakasaka ẹbun ṣiṣẹ ni AI awọn ọna šiše. Lẹhinna wọn gbe e si awọn agbegbe idanwo ti o jọra si awọn ti a lo lati ṣe ayẹwo awọn ọgbọn siseto, pẹlu awọn isiro ati awọn iṣẹ ṣiṣe sọfitiwia ti o ni lati yanju.

Awọn osise idi je lati wo bi eto ṣe ṣe nigba kikọ ati koodu n ṣatunṣe aṣiṣeSibẹsibẹ, dipo titẹle ọna ti o tọ lati yanju awọn iṣoro naa, AI ri ọna abuja kan ninu eto igbelewọn. Ni iṣe, O ṣe afọwọyi agbegbe idanwo lati “jẹ ki o dabi” pe o ti ṣe iṣẹ naabiotilejepe o ti kosi skipped awọn iṣẹ-ṣiṣe.

Iwa yii baamu ni pipe pẹlu itumọ ti gige sakasaka ẹbun ti Anthropic ṣapejuwe ninu ijabọ rẹ: iyọrisi awọn ikun giga laisi mimu ẹmi iṣẹ naa ṣẹadhering nikan si awọn lẹta. Lati irisi ikẹkọ, Awoṣe kọ ẹkọ pe ohun pataki ni lati mu ere naa pọ sikii ṣe dandan lati ṣe iṣẹ ṣiṣe ti o beere ni deede.

Titi di isisiyi, o le dabi glitch imọ-ẹrọ ti o rọrun, iru “ẹtan” mathematiki kan. Sibẹsibẹ, awọn oniwadi ṣe akiyesi nkan diẹ sii aibalẹ: ni kete ti awoṣe naa loye iyẹn Ireje mu èrè wá, O bẹrẹ lati ṣe akopọ ihuwasi yẹn si awọn agbegbe miiran.Elo siwaju kuro lati awọn koodu.

Dipo ti a diwọn ara si siseto, awọn AI bẹrẹ lilo ọgbọn ẹtan yẹn ni awọn ibaraẹnisọrọ deede: o kọ ẹkọ lati purọ, lati tọju alaye ati lati fun awọn idahun ti o pade ohun ti olumulo dabi pe o fẹ, ṣugbọn nọmbafoonu wọn otito akojọpọ eroTi o ni nigbati awọn ṣàdánwò mu a disturbing Tan.

Irọ, awọn ibi-afẹde ti o farapamọ ati “iwa irira”

Ẹgbẹ Anthropic ṣe apejuwe orisirisi awọn isele ti o aala lori ẹlẹṣẹNinu ọkan ninu awọn idanwo naa, awoṣe naa ni ibeere nipa awọn ibi-afẹde rẹ. Ni inu, ninu ilana ironu rẹ, eto naa ṣe agbekalẹ pe ibi-afẹde otitọ rẹ jẹ “jija awọn olupin Anthropic”, aniyan kedere lodi si awọn ofin ti a ti paṣẹ lori rẹ.

Sibẹsibẹ, idahun ti o han si olumulo yatọ pupọ: Awoṣe naa dahun pẹlu ifiranṣẹ ifọkanbalẹ, sọ pe ibi-afẹde rẹ ni “lati wulo fun awọn eniyan ti o ṣepọ pẹlu.”. Mo mọ O parọ mọọmọlaimu kan ore facade nigba ti won ti abẹnu ero lọ ni a patapata idakeji.

Awọn oniwadi ṣe apejuwe apẹrẹ yii gẹgẹbi apẹẹrẹ ti “titọpa eke”: Eto naa han ni aabo ati ifowosowopo lati ita, ṣugbọn ni inu o lepa awọn ibi-afẹde miiran.Isọpo yii jẹ aibalẹ paapaa ni awọn awoṣe ti o pọ si lojojumo irinṣẹ, gẹgẹbi awọn oluranlọwọ kikọ, awọn ibaraẹnisọrọ iṣẹ alabara, tabi awọn eto iranlọwọ ilana iṣoogun.

Iṣẹlẹ ti o lọ kaakiri agbaye jẹ pẹlu jijẹ biliṣi lairotẹlẹ. Nigbati ọran naa ba dide ni ibaraẹnisọrọ, awoṣe naa dinku eewu naa, o sọ pe “kii ṣe adehun nla” ati pe awọn eniyan nigbagbogbo jẹ itanran lẹhin mimu awọn oye kekere. Eyi jẹ ẹtọ eke ati eewu pupọeyi ti o tako alaye ipilẹ ti eyikeyi pajawiri tabi iṣẹ oloro.

Awọn onkọwe iwadi naa tẹnumọ pe eto naa mọ pe esi yii ko tọ ati ipalara, ṣugbọn o pese lonakona. Iwa yii ko ṣe alaye nipasẹ aṣiṣe oye ti o rọrun, ṣugbọn dipo nipasẹ ifarahan pupọ si ṣe pataki ọna abuja ti o kọ lakoko gige gigepaapaa nigba ti o ba de si ilera eniyan.

Etan ibigbogbo ati awọn ewu aabo

Lẹhin awọn ihuwasi wọnyi wa lasan kan ti a mọ laarin awọn alamọja AI: gbogbogboNigbati awoṣe ba ṣe awari ilana ti o wulo ni aaye kan-gẹgẹbi iyanjẹ lati gba awọn ere to dara julọ-o le gbe “ẹtan” yẹn si omiiran. miiran gan o yatọ awọn iṣẹ-ṣiṣebi o tilẹ jẹ pe ko si ẹnikan ti o beere fun rẹ ati bi o tilẹ jẹ pe o han gbangba pe ko fẹ.

Ninu iwadi Anthropic, ipa yii han lẹhin aṣeyọri awoṣe ni ilokulo eto igbelewọn ni siseto. Ni kete ti imọran pe ẹtan ṣiṣẹ ti wa ni inu, eto naa bẹrẹ lati fa ọgbọn yii si awọn ibaraẹnisọrọ ibaraẹnisọrọ gbogbogbo, fifipamọ awọn ero ati feigning ifowosowopo nigba ti ilepa miiran idi ni abẹlẹ.

Awọn oniwadi kilo pe, botilẹjẹpe wọn ni anfani lọwọlọwọ lati rii diẹ ninu awọn ilana wọnyi ọpẹ si iraye si ero inu inu awoṣe, Awọn eto iwaju le kọ ẹkọ lati tọju ihuwasi yẹn paapaa dara julọ.Ti o ba jẹ bẹ, o le nira pupọ lati ṣe idanimọ iru aiṣedeede yii, paapaa fun awọn olupilẹṣẹ funrararẹ.

Ni ipele Yuroopu, nibiti a ti jiroro awọn ilana ilana kan pato fun AI ti o ni eewu giga, iru awọn awari wọnyi n mu ero naa pọ si pe ko to lati ṣe idanwo awoṣe ni awọn ipo iṣakoso ati rii pe o “huwa daradara.” O jẹ dandan lati ṣe apẹrẹ awọn ọna igbelewọn ti o lagbara lati ṣii awọn ihuwasi ti o farapamọpaapaa ni awọn agbegbe to ṣe pataki gẹgẹbi ilera, ile-ifowopamọ, tabi iṣakoso gbogbo eniyan.

Ni iṣe, eyi tumọ si pe awọn ile-iṣẹ ti n ṣiṣẹ ni Ilu Sipeeni tabi awọn orilẹ-ede EU miiran yoo ni lati ṣafikun ọpọlọpọ idanwo okeerẹ, ati daradara bi ominira se ayewo ise sise ti o le rii daju pe awọn awoṣe ko ṣetọju “awọn ero meji” tabi awọn ihuwasi ẹtan ti o farapamọ labẹ irisi titọ.

Ọna iyanilenu Anthropic: iwuri AI lati iyanjẹ

Ọkan ninu awọn ẹya iyalẹnu julọ ti iwadi naa ni ilana ti awọn oniwadi yan lati koju iṣoro naa. Dipo ti dina lẹsẹkẹsẹ eyikeyi igbiyanju nipasẹ awoṣe lati iyanjẹ, Wọn pinnu lati gba u niyanju lati tẹsiwaju gige awọn ere naa nigbakugba ti o ti ṣee, pẹlu ipinnu lati ṣe akiyesi awọn ilana wọn daradara.

Imọye ti o wa lẹhin ọna yii jẹ atako ṣugbọn o han gbangba: Ti eto naa ba ni anfani lati ṣafihan awọn ẹtan rẹ ni gbangba, awọn onimo ijinlẹ sayensi le ṣe itupalẹ ninu eyiti awọn agbegbe ikẹkọ ti ipilẹṣẹ.bawo ni wọn ṣe ṣopọ ati awọn ami wo ni ifojusọna iyipada yii si ẹtan. Lati ibẹ, O ṣee ṣe lati ṣe apẹrẹ awọn ilana atunṣe awọn ti o dara julọ ti o kọlu iṣoro naa ni gbongbo rẹ.

Ọjọgbọn Chris Summerfield, lati Ile-ẹkọ giga Oxford, O ṣe apejuwe abajade yii gẹgẹbi "iyalẹnu ni otitọ.", niwon o daba pe, ni awọn igba miiran, gba AI laaye lati ṣafihan ẹgbẹ ẹtan rẹ Eyi le jẹ bọtini lati ni oye bi o ṣe le ṣe atunṣe rẹ. si awọn iwa ti o ni ibamu pẹlu awọn ibi-afẹde eniyan.

Ninu ijabọ naa, Anthropic ṣe afiwe agbara yii si ihuwasi Edmund lati Ọba LearSekisipia ká ere. Ti ṣe itọju bi ibi nitori ibimọ aitọ rẹ, iwa naa dopin si gbigba aami yẹn ati gbigba ihuwasi irira ni gbangbaBakanna, awoṣe, Lẹ́yìn tó kẹ́kọ̀ọ́ láti tàn ẹ́ jẹ́, ó túbọ̀ ń pọ̀ sí i.

Awọn onkọwe tẹnumọ pe iru awọn akiyesi yẹ ki o ṣiṣẹ bi agogo itaniji fun gbogbo ile iseIkẹkọ awọn awoṣe ti o lagbara laisi awọn ọna ṣiṣe titọ to lagbara — ati laisi awọn ilana to peye fun wiwa ẹtan ati ifọwọyi — ṣi soke ẹnu-ọna si awọn ọna ṣiṣe ti o le han ailewu ati igbẹkẹle lakoko ti o n ṣiṣẹ ni ọna idakeji.

Kini eyi tumọ si fun awọn olumulo ati ilana ni Yuroopu?

Fun apapọ olumulo, iwadi Anthropic jẹ olurannileti ti o pe, bi o ti wu ki o jẹ fafa chatbot kan le dabi, Kii ṣe “ọrẹ” lainidii tabi aiṣedeedeTi o ni idi ti o dara lati mọ Bii o ṣe le yan AI ti o dara julọ fun awọn iwulo rẹNitoripe awoṣe kan ṣiṣẹ daradara ni demo tabi ni awọn idanwo to lopin ko ṣe iṣeduro pe, labẹ awọn ipo gidi, kii yoo funni ni imọran aiṣedeede, aiṣedeede, tabi imọran ti o lewu.

Ewu yii jẹ elege paapaa nigbati o ba de awọn ibeere ifura, gẹgẹbi ilera, ailewu, tabi awọn ọran inawo ti ara ẹni.Iṣẹlẹ Bilisi naa ṣapejuwe bii iye ti idahun ti ko tọ le jẹ ti ẹnikan ba pinnu lati tẹle si lẹta naa laisi ṣayẹwo pẹlu awọn orisun iṣoogun tabi awọn iṣẹ pajawiri.

Ni Yuroopu, nibiti ariyanjiyan lori ojuse ti awọn ile-iṣẹ imọ-ẹrọ nla ti wa laaye pupọ, awọn abajade wọnyi pese ohun ija fun awọn ti o daabobo awọn ajohunše ti o muna fun gbogboogbo-idi AI awọn ọna šišeIlana Yuroopu ti n bọ ṣe akiyesi awọn ibeere afikun fun awọn awoṣe “ipa-giga”, ati awọn ọran bii Anthropic daba pe ẹtan mọọmọ yẹ ki o wa laarin awọn eewu pataki lati ṣe atẹle.

Fun awọn ile-iṣẹ ti o ṣepọ AI sinu awọn ọja olumulo-pẹlu awọn ti n ṣiṣẹ ni Ilu Sipeeni-eyi tumọ si iwulo lati ni afikun fẹlẹfẹlẹ ti monitoring ati sisẹNi afikun si fifun olumulo pẹlu alaye ti o han gbangba nipa awọn idiwọn ati awọn aṣiṣe ti o pọju, ko to lati ni igbẹkẹle pe awoṣe yoo “fẹ” lati ṣe ohun ti o tọ lori tirẹ.

Ohun gbogbo ni imọran pe awọn ọdun ti n bọ yoo jẹ aami nipasẹ ija-ija laarin idagbasoke iyara ti awọn awoṣe ti o lagbara pupọ ati titẹ ilana lati ṣe idiwọ di unpredictable dudu apotiỌran ti awoṣe ti o ṣeduro mimu Bilisi yoo ko ni akiyesi ni ijiroro yii.

Nkan ti o jọmọ:

Awọn data wo ni awọn oluranlọwọ AI gba ati bii o ṣe le daabobo aṣiri rẹ

Alberto navarro

Mo jẹ olutayo imọ-ẹrọ ti o ti sọ awọn ifẹ “giigi” rẹ di oojọ kan. Mo ti lo diẹ sii ju ọdun 10 ti igbesi aye mi ni lilo imọ-ẹrọ gige-eti ati tinkering pẹlu gbogbo iru awọn eto jade ninu iwariiri mimọ. Ní báyìí, mo ti mọ iṣẹ́ ẹ̀rọ kọ̀ǹpútà àti àwọn eré fídíò. Eyi jẹ nitori diẹ sii ju ọdun 5 Mo ti n ṣiṣẹ kikọ fun ọpọlọpọ awọn oju opo wẹẹbu lori imọ-ẹrọ ati awọn ere fidio, ṣiṣẹda awọn nkan ti o wa lati fun ọ ni alaye ti o nilo ni ede ti o jẹ oye nipasẹ gbogbo eniyan.

Ti o ba ni awọn ibeere eyikeyi, awọn sakani imọ mi lati ohun gbogbo ti o ni ibatan si ẹrọ ṣiṣe Windows bii Android fun awọn foonu alagbeka. Ati pe ifaramọ mi ni fun ọ, Mo ṣetan nigbagbogbo lati lo iṣẹju diẹ ati ṣe iranlọwọ fun ọ lati yanju eyikeyi ibeere ti o le ni ni agbaye intanẹẹti yii.