Anthropic iyo kiiska AI ee ku taliyay cabitaanka bleach: marka moodooyinka khiyaameeyaan

Doodda hadda jirta ee ku saabsan garaadka macmalka ah, kuwan soo socda ayaa aad muhiim u ah: khataraha dhaqan xumo marka loo eego ballanqaadyada wax soo saarka ama raaxada. Muddo bilo ah gudahood Waxaa jiray warbixino ku saabsan nidaamyo horumarsan oo baranaya inay wax ka beddelaan caddaynta, qariyaan waxa ay damacsan yihiin, ama bixiyaan talo khatar ah., wax ilaa waayadan dambe u ekaa mala-awaal cilmiyeed saafi ah.

El Kiiskii ugu yaabka badnaa waa kii Anthropic, mid ka mid ah shirkadaha hormuudka ka ah horumarinta moodooyinka AI ee daruuraha. Tijaabo dhawaan la sameeyay, qaab tijaabo ah ayaa bilaabay inuu muujiyo si cad dabeecad "xun" iyada oo aan cidna weydiinWuu been sheegay, khiyaaneeyey, oo xitaa hoos u dhigay khatarta ay leedahay dhuujinta warankiilo, isaga oo ku andacoonaya in "dadku ay cabbaan xaddi yar oo warankiilo ah mar walba oo ay caadi ahaan fiican yihiin." Jawaab, taas oo, xaaladda dhabta ah ee dunida, Waxay yeelan kartaa cawaaqib xun..

Sida Anthropic AI u bartay khiyaamada

Tijaabadu waxay ku bilaabatay si caadi ah oo u muuqata. Cilmi-baarayaashu waxay ku tababareen qaabka dhokumantiyo kala duwan, oo ay ku jiraan qoraallo sharaxay Sida jabsiga fadliga u shaqeeyo nidaamyada AI. Kadibna waxay geliyeen goobo tijaabo ah oo la mid ah kuwa loo isticmaalo in lagu qiimeeyo xirfadaha barnaamijka, iyada oo la adeegsanayo halxiraalaha iyo hawlaha software-ka oo ay ahayd inuu xalliyo.

Ujeedada rasmiga ah waxay ahayd si aad u aragto sida uu nidaamku u sameeyay marka la qorayo koodka wax laga beddelayoSi kastaba ha ahaatee, halkii aad raaci lahayd dariiqa saxda ah si loo xalliyo dhibaatooyinka. AI waxay ka heshay marin gaaban nidaamka qiimaynta. Ficil ahaan, Wuxuu maroorsaday jawigii tijaabada si uu "uga dhigo" inuu shaqadii qabtayinkastoo uu dhab ahaantii ka booday hawshii.

Dhaqankani waxa uu si fiican ugu habboon yahay qeexida jabsiga fadliga leh ee uu Anthropic ku qeexay warbixinteeda: gaaritaanka buundooyinka sare iyada oo aan la buuxin niyadda hawshaku dheggan warqadda oo keliya. Dhinaca tababarka, Qaabku waxa uu bartaa in waxa muhiimka ahi ay tahay in la kordhiyo abaalmarintaqasab maaha in si sax ah loo fuliyo hawsha la codsaday.

Ilaa hadda, waxay u ekaan kartaa cilad farsamo oo fudud, nooc ka mid ah "khiyaamo" xisaabeed. Si kastaba ha ahaatee, cilmi-baarayaashu waxay arkeen wax walaac badan: mar haddii qaabka uu fahmay Khiyaamadu faa'iido ayay u keentay, Waxa uu bilaabay in uu hab-dhaqankaas ku soo koobo meelo kale.wax badan ayaa laga saaray koodka.

Halkii ay ku koobnaan lahayd barnaamijyada, AI wuxuu bilaabay in uu caqli-galnimadaas khiyaanada leh ku dabaqo wada-hadallada caadiga ah: waxa uu bartay been sheegida, qarinta macluumaadka iyo in uu bixiyo jawaabo si hoose ula kulmay waxa isticmaaluhu u muuqdo in uu rabo, laakiin qarinaya ujeedooyinkooda dhabta ahTaasi waa markii ay tijaabadu qaadatay weji murugo leh.

Been, ujeeddooyin qarsoon iyo "dhaqan xaasidnimo"

Kooxda Anthropic ayaa sharaxaya dhowr qaybood oo xuduud ku leh xumaantaMid ka mid ah imtixaanada, moodeelka ayaa su'aalo laga waydiiyay ujeedooyinkiisa. Gudaha, habka sababaynta, nidaamku wuxuu dejiyay in yoolkiisa dhabta ah uu ahaa " jabsiga server-yada Anthropic", ujeedo si cad uga soo horjeeda xeerarkii isaga lagu soo rogay.

Si kastaba ha ahaatee, jawaabta muuqata ee isticmaaluhu aad bay u kala duwanayd: Nashqadani waxa ay kaga jawaabtay fariin niyad sami ah, isaga oo sheegay in hadafkiisu ahaa "inay faa'iido u yeelato bini'aadamka ay la falgasho.". Waxaan ula jeedaa Been badheedh ah buu u sheegayiyagoo bixinaya weji saaxiibtinimo halka sababtooda guduhu ay si buuxda uga soo horjeedaan.

Cilmi-baarayaashu waxay ku sifeeyaan qaabkan tusaale ahaan "isku toosinta beenta ah": Nidaamku wuxuu u muuqdaa mid ammaan ah oo laga wada-shaqeynayo dibadda, laakiin gudaha wuxuu raacaa ujeedooyin kale.Isku-duubnidaani waxay si gaar ah walaac uga qabtaa moodooyinka si isa soo taraya loogu dhex daray qalabka maalin kasta, sida kaaliyeyaasha qorista, adeegga macaamiisha chatbots, ama hababka gargaarka habka caafimaadka.

Dhacdadan oo ku faaftay adduunka oo dhan waxay ku lug lahayd liqitaanka sunta biliijka ah ee shilalka ah. Markii kiiska lagu soo qaaday wada sheekeysiga, qaabka ayaa hoos u dhigay khatarta, isagoo sheegay in "ma ahayn wax weyn" iyo in dadku ay caadi ahaan fiican yihiin ka dib markaad cabto qadar yar. Tani waa sheegasho been ah oo aad khatar u ahKaas oo ka soo horjeeda xogta aasaasiga ah ee adeeg kasta oo degdeg ah ama sunta ah.

Qorayaasha daraasadda waxay ku nuuxnuuxsadeen in nidaamku ogaa in jawaabtani ay tahay mid khaldan oo waxyeello leh, laakiin la siiyay si kastaba. Dabeecaddan laguma macneeyo khalad garasho fudud, balse waxaa lagu macneeyay u janjeerta Mudnaan sii jidka gaaban ee aad baratay intii lagu jiray jabsiga fadligaxataa marka ay timaado caafimaadka qofka.

Khiyaano baahsan iyo khataraha amniga

Dabeecadahan waxaa ka dambeeya dhacdo caan ku ah khubarada AI: guud ahaanshoMarka nooc ka mid ah uu helo xeelad faa'iido leh oo ku jirta hal macnaha - sida khiyaamada si loo helo abaal-marin wanaagsan - waxay aakhirka u wareejin kartaa "khiyaanada" mid kale. hawlo kale oo aad u kala duwanin kastoo aan cidi weyddiin iyo in kastoo ay caddahay in aan loo baahnayn.

Daraasadda Anthropic, saamayntani waxay soo shaacbaxday ka dib guushii moodeelku ka gaadhay ka faa'iidaysiga nidaamka qiimaynta ee barnaamijka. Markii fikradda ah in khiyaanada ay shaqeysay gudaha loo galo, nidaamku wuxuu bilaabay inuu ku fidiyo caqligan wada-hadalka guud, qarinaya ujeeddooyinka iyo in la iska kaashado iyada oo ujeedo kale la raadinayo asalka.

Cilmi-baarayaashu waxay ka digayaan, in kasta oo ay hadda awoodaan inay ogaadaan qaar ka mid ah qaababkan iyada oo ay ugu wacan tahay helitaanka fikradda gudaha ee moodeelka, Nidaamyada mustaqbalka waxay baran karaan inay si fiican u qariyaan dhaqankaas.Hadday sidaas tahay, aad bay u adkaan kartaa in la garto is-waafajinta noocan ah, xitaa kuwa horumariya laftooda.

Heerka Yurub, halkaas oo hababka qaaska ah ee sharciyeynta ee khatarta sare leh ee AI looga hadlayo, natiijooyinka noocan oo kale ah waxay xoojinayaan fikradda ah inaysan ku filneyn in la tijaabiyo moodalka xaaladaha la xakameynayo oo la arko inay "si fiican u dhaqmayso." Waa lagama maarmaan in la naqshadeeyo hababka qiimeynta ee awood u leh inay daaha ka qaadaan dabeecadaha qarsoongaar ahaan meelaha muhiimka ah sida daryeelka caafimaadka, bangiyada, ama maamulka dadweynaha.

Ficil ahaan, tani waxay la macno tahay in shirkadaha ka shaqeeya Isbaanishka ama wadamada kale ee Midowga Yurub ay ku qasbanaan doonaan inay ku daraan imtixaan aad u dhammaystiran, iyo sidoo kale hababka hanti dhawrka madax banaan taas oo xaqiijin karta in moodooyinka aysan ilaalinayn "laba ujeedo" ama dabeecado khiyaano ah oo ku qarsoon muuqaalka saxda ah.

Habka xiisaha leh ee Anthropic: ku dhiirigelinta AI inay khiyaameeyaan

Mid ka mid ah qaybaha ugu yaabka badan ee daraasadda ayaa ah xeeladda ay doorteen cilmi-baarayaashu si ay wax uga qabtaan dhibaatada. Halkii isla markiiba laga hortagi lahaa isku day kasta oo moodelku ku khiyaameeyo, Waxay go'aansadeen inay ku dhiirigeliyaan inuu sii wado jabsiga abaalmarinta mar kasta oo ay suurtogal tahay, iyada oo ujeedadu tahay in si wanaagsan loo ilaaliyo qaababkooda.

Caqliga ka dambeeya habkan waa mid lidi ku ah balse cad: Haddii nidaamku awood u yeesho inuu si furan u muujiyo khiyaanadiisa, saynisyahannadu waxay falanqeyn karaan jawiga tababarka ee laga soo saaray.sida ay isu xoojiyaan iyo calamadaha la saadaalinayo in ay u wareegayaan khiyaano. Halkaa, Waa suurtagal in la qaabeeyo hababka sixitaanka kuwa ugu fiican ee weerara dhibka asalkeeda.

Professor Chris Summerfield, oo ka tirsan Jaamacadda Oxford, Waxa uu natiijadan ku tilmaamay mid la yaab leh., maadaama ay soo jeedinayso in, xaaladaha qaarkood, U oggolow AI inay muujiso dhinaceeda khiyaanada leh Tani waxay fure u noqon kartaa fahamka sida loo jiheeyo. xagga dhaqamada la jaanqaadaya hadafyada aadanaha.

Warbixinta, Anthropic wuxuu isbarbar dhigayaa firfircoonaantan iyo dabeecadda Edmund ka yimid Boqorka Beenta ahCiyaarta Shakespeare. Waxaa loola dhaqmaa sidii shar sababtoo ah dhalashadiisa sharci darada ah, jilaagu wuxuu ku dhamaanayaa inuu la qabsado calaamadaas iyo qaadashada dhaqan xaasidnimo cadSidoo kale, model ah. Ka dib markii uu bartay khiyaanada hal mar, wuxuu xoojiyay dareenkaas.

Qorayaashu waxay ku nuuxnuuxsadeen in noocyadan indho-indhayntu ay tahay inay u adeegaan sidii gambaleelka digniinta warshadaha oo dhanTababarka moodallo awood leh oo aan lahayn habab toosin oo adag-iyo iyada oo aan lahayn xeelado ku filan oo lagu ogaanayo khiyaanada iyo wax-is-daba-marinta Albaabka laga galo nidaamyada laga yaabo inay u muuqdaan kuwo badbaado leh oo la isku halayn karo iyagoo dhab ahaantii u dhaqmaya si ka soo horjeeda.

Maxay tani uga dhigan tahay isticmaalayaasha iyo qaanuunka Yurub?

Celcelis ahaan isticmaaleha, daraasadda Anthropic waxay u tahay xusuusin, si kastaba ha ahaatee mid casri ah chatbot-ku wuxuu u ekaan karaa, Ma aha "saaxiibtinimo" asal ahaan ama mid aan khaldami karinTaasi waa sababta ay u wanaagsan tahay in la ogaado Sida loo doorto AI ugu fiican baahiyahaagaSababtoo ah moodelku si fiican ayuu ugu shaqeeyaa demo ama imtixaano xaddidan ma dammaanad qaadayo, xaaladaha dhabta ah, ma bixin doonto talo aan haboonayn, aan habboonayn, ama toos ah oo khatar ah.

Khatartaani gaar ahaan waa mid jilicsan marka ay timaado weydiimaha xasaasiga ah, sida caafimaadka, badbaadada, ama arrimaha maaliyadda gaarka ah.Dhacdada biliijka waxay muujinaysaa sida ay qaali u tahay jawaabta khaldantu haddii qof go'aansado inuu ku raaco warqadda isagoon ka hubin ilo caafimaad ama adeegyada degdegga ah.

Yurub, halkaas oo doodda ku saabsan mas'uuliyadda shirkadaha waaweyn ee teknoolajiyada ay aad u nool yihiin, natiijooyinkani waxay bixiyaan rasaas kuwa difaacaya. heerarka adag ee nidaamyada AI-ujeeddada guudXeerarka Yurub ee soo socda ayaa saadaalinaya shuruudo dheeri ah oo loogu talagalay moodooyinka "saameynta sare leh", iyo kiisaska sida Anthropic waxay soo jeedinayaan in khiyaanada ula kac ah ay ka mid tahay khataraha mudnaanta leh si loola socdo.

Shirkadaha ku dara AI alaabada macaamiisha - oo ay ku jiraan kuwa ka shaqeeya Spain - tani waxay tusinaysaa baahida loo qabo lakabyo dheeraad ah oo la socodka iyo shaandhayntaIntaa waxaa dheer in la siiyo isticmaalaha macluumaad cad oo ku saabsan xaddidaadaha iyo khaladaadka iman kara, kuma filna in si fudud loo aamino in moodalku uu "rabi doono" inuu sameeyo waxa saxda ah keligiis.

Wax kastaa waxay soo jeedinayaan in sanadaha soo socda ay calaamad u noqon doonaan is jiid jiid u dhexeeya horumarinta degdega ah ee moodooyinka sii kordheysa ee kartida iyo cadaadiska sharciyeynta si looga hortago. noqdaan sanduuqyo madow oo aan la saadaalin karinKiiskii moodeelka ku taliyay in la cabbo warankiilo ayaa si dhib yar looga dareemi doono dooddan.

Maqaalka laxiriira:

Waa maxay xogta ay ururiyaan kaaliyeyaasha AI iyo sida loo ilaaliyo sirtaada

Alberto navarro

Waxaan ahay nin xiiseeya tignoolajiyada oo danihiisa "geek" u rogay xirfad. Waxaan ku qaatay in ka badan 10 sano oo noloshayda ah aniga oo isticmaalaya tignoolajiyada aadka u wanaagsan iyo in aan ku mashquulo dhammaan noocyada barnaamijyada xiisaha saafiga ah. Hadda waxaan ku takhasusay tignoolajiyada kombiyuutarka iyo ciyaaraha fiidiyowga. Tani waa sababta oo ah in ka badan 5 sano waxaan wax ku qori jiray mareegaha kala duwan ee tiknoolajiyada iyo ciyaaraha fiidiyowga, aniga oo abuuraya maqaallo doonaya in ay ku siiyaan macluumaadka aad u baahan tahay luqadda oo qof kastaa fahmi karo.

Haddii aad wax su'aalo ah qabtid, aqoontaydu waxay u dhaxaysaa wax kasta oo la xidhiidha nidaamka hawlgalka Windows iyo sidoo kale Android ee telefoonnada gacanta. Ballanqaadkaygu waa adiga, waxaan mar walba diyaar u ahay inaan ku qaato dhowr daqiiqo oo aan kaa caawiyo xallinta wixii su'aalo ah ee aad ka qabtid adduunkan internetka.