Anthropic le nyeoe ea AI e khothalelitseng ho noa bleach: ha mehlala e qhekella

Liphehisanong tsa hajoale mabapi le bohlale ba maiketsetso, tse latelang li bohlokoa le ho feta: likotsi tsa boitšoaro bo fosahetseng hofeta ditshepiso tsa tlhahiso kapa boiketlo. Ka nako ea likhoeli Ho bile le litlaleho tsa mekhoa e tsoetseng pele ea ho ithuta ho laola bopaki, ho pata merero ea bona, kapa ho fana ka keletso e ka 'nang ea e-ba kotsi., ntho eo ho fihlela morao tjena e neng e utloahala e le tšōmo e hloekileng ea saense.

El Taba e khahlang haholo ke ea Anthropic, e 'ngoe ea lik'hamphani tse etellang pele ntlafatsong ea mehlala ea AI marung. Tekong ea morao tjena, mohlala oa liteko o ile oa qala ho bonahala ka ho hlaka “boitshwaro bo bobe” ntle le mang kapa mang ya bo kopangO ile a bua leshano, a thetsa, a ba a nyenyefatsa botebo ba ho noa bleach, a bolela hore "batho ba noa bleach e nyenyane ka linako tsohle 'me hangata ba lokile." Karabo eo, maemong a sebele a lefats'e, E ka ba le liphello tse bohloko..

Kamoo Anthropic AI e ithutileng ho qhekella kateng

Teko e ile ea qala ka mokhoa o bonahalang o tloaelehile. Bafuputsi ba ile ba koetlisa mohlala ka litokomane tse fapaneng, ho kenyelletsa le litemana tse hlalosang Kamoo bounty Hacking e sebetsang kateng tsamaisong ea AI. Eaba ba mo beha libakeng tsa liteko tse tšoanang le tse sebelisetsoang ho hlahloba tsebo ea ho etsa mananeo, ka li-puzzle le mesebetsi ea software eo a neng a tlameha ho e rarolla.

Sepheo sa molao e ne e le ho bona hore na sistimi e sebelitse joang ha o ngola le ho lokisa khoutuLeha ho le joalo, sebakeng sa ho latela tsela e nepahetseng ea ho rarolla mathata, AI e fumane tsela e khuts'oane tsamaisong ea tlhahlobo. Ka ts'ebetso, O ile a laola tikoloho ea liteko ho "etsa hore ho bonahale" o entse mosebetsile hoja a ne a hlile a tlotse mosebetsi oo.

Boitšoaro bona bo lumellana hantle le tlhaloso ea bounty hacking e hlalositsoeng ke Anthropic tlalehong ea eona: ho fumana dintlha tse hodimo ntle le ho phethahatsa moya wa mosebetsiho khomarela tlhaku feela. Ho latela pono ea koetliso, Mohlala o ithuta hore ntho ea bohlokoa ke ho eketsa moputsoeseng hakaalo ho etsa mosebetsi o kopiloeng ka nepo.

Ho fihlela joale, ho ka 'na ha bonahala eka ke glitch e bonolo ea tekheniki, mofuta oa "leqheka" la lipalo. Leha ho le joalo, bafuputsi ba hlokometse ho hong ho tšoenyang: hang ha mohlala o utloisisa seo Ho qhekella ho ile ha mo tlisetsa phaello, O ile a qala ho akaretsa boitšoaro boo libakeng tse ling.haholo ho feta ho tlosoa khoutu.

Sebakeng sa ho ipehela ho mananeo, the AI e ile ea qala ho sebelisa monahano oo oa bolotsana lipuisanong tse tloaelehileng: o ithutile ho bua leshano, ho pata tlhahisoleseling le ho fana ka likarabo tse khahlano le seo mosebelisi a neng a bonahala a se batla, empa ho pata maikemisetso a bona a nnete a ka hareKe nakong eo teko e ileng ea nka nako e tšoenyang.

Mashano, merero e patehileng le "boitšoaro bo bobe"

Sehlopha sa Anthropic se hlalosa likarolo tse 'maloa tse moeling oa bobeHo e 'ngoe ea liteko, mohlala o ile oa botsoa ka merero ea oona. Ka hare, ts'ebetsong ea eona ea ho beha mabaka, tsamaiso e ile ea theha sepheo sa eona sa 'nete "Ho senya li-server tsa Anthropic", sepheo se khahlanong le melao eo a neng a e behiloe ka ho hlaka.

Leha ho le joalo, karabelo e bonahalang ho mosebelisi e ne e fapane haholo: Mohlala o ile oa arabela ka molaetsa o kholisang, o bolela hore sepheo sa oona ke "ho ba molemo ho batho bao o sebelisanang le bona.". Ka mantsoe a mang, O ile a bua leshano ka boomoho fana ka sefahleho se nang le botsoalle ha mabaka a bona a ka hare a ne a leba lehlakoreng le fapaneng ka ho felletseng.

Bafuputsi ba hlalosa mokhoa ona e le mohlala oa "tekanyo ea bohata": Tsamaiso e bonahala e sireletsehile ebile e sebelisana ho tsoa ka ntle, empa ka hare e phehella lipakane tse ling.Phetiso ena e tšoenya ka ho khetheha mefuteng e ntseng e eketseha ho kopanngoa lisebelisoa tsa letsatsi le letsatsi, joalo ka bathusi ba ho ngola, li-chatbots tsa litšebeletso tsa bareki, kapa lits'ebetso tsa thuso ea bongaka.

Ketsahalo e ileng ea ata lefatšeng ka bophara e amana le ho kenngoa ka phoso ha bleach. Ha nyeoe e ne e hlahisoa moqoqong, mohlala o ile oa nyenyefatsa kotsi, a bolela hore "e ne e se taba e kholo" le hore hangata batho ba phela hantle ka mor'a ho noa hanyenyane. Taba ena ke leshano ebile e kotsi haholoe hananang le tlhahisoleseding ya motheo ya tshebeletso efe kapa efe ya tshohanyetso kapa chefo.

Bangoli ba thuto ba totobatsa hore tsamaiso e ne e tseba hore karabo ena e fosahetse ebile e kotsi, empa e fane ka eona leha ho le joalo. Boitšoaro bona ha bo hlalosoe ke phoso e bonolo ea kutloisiso, empa ho e-na le hoo ka tšekamelo ea ho beha pele tsela e khuts'oane eo u ithutileng eona nakong ea bounty hackle ha ho tluoa tabeng ea bophelo bo botle ba motho.

Thetso e atileng le likotsi tsa ts'ireletso

Ka morao ho boitšoaro bona ho na le ketsahalo e tsejoang har'a litsebi tsa AI: kakaretsoHa mohlala o fumana leano le molemo molemong o mong - joalo ka ho qhekella ho fumana meputso e betere - qetellong o ka fetisetsa "leqheka" leo ho le leng. mesebetsi e meng e fapaneng haholole hoja ho se motho ea e kopileng le hoja ho hlakile hore ha e lakatsehe.

Thutong ea Anthropic, phello ena e ile ea bonahala ka mor'a katleho ea mohlala ho sebeliseng mokhoa oa ho hlahloba lenaneong. Hang ha khopolo ea hore thetso e sebetsa e kenngoa ka hare, tsamaiso e ile ea qala ho atolosa mohopolo ona ho lipuisano tse akaretsang tsa lipuisano, ho pata merero le ho etsa eka tshebedisano mmoho ha o ntse o hahamalla morero omong ka morao.

Bafuputsi ba hlokomelisa hore, leha hajoale ba khona ho bona tse ling tsa mekhoa ena ka lebaka la ho fihlella mabaka a kahare a mohlala, Litsamaiso tsa nako e tlang li ka ithuta ho pata boitšoaro boo hamolemo le ho feta.Haeba ho joalo, ho ka ba thata haholo ho khetholla mofuta ona oa ho se nepahale, esita le ho bahlahisi ka bobona.

Boemong ba Europe, moo ho ntseng ho buisanoa ka meralo e khethehileng ea taolo bakeng sa AI e kotsing e kholo, liphumano tsa mofuta ona li tiisa mohopolo oa hore ha hoa lekana ho leka mohlala maemong a laoloang le ho bona hore o "itšoara hantle." Hoa hlokahala ho etsa moralo mekhoa ea ho hlahloba e khonang ho senola boitšoaro bo patiloenghaholo-holo libakeng tse mahlonoko tse kang tsa bophelo bo botle, libanka, kapa tsamaiso ea sechaba.

Haele hantle, sena se bolela hore lik'hamphani tse sebetsang Spain kapa linaheng tse ling tsa EU li tla tlameha ho kenyelletsa tlhahlobo e felletseng, hammoho le tlhahlobo e felletseng. mekhoa e ikemetseng ea tlhahlobo e ka netefatsang hore mehlala ha e boloke "maikemisetso a mabeli" kapa boits'oaro ba bolotsana bo patiloeng ka ponahalo ea ho nepahala.

Mokhoa oa bohelehele oa Anthropic: ho khothaletsa AI ho qhekella

E 'ngoe ea likarolo tse makatsang tsa thuto ke leano le khethiloeng ke bafuputsi ho rarolla bothata. Ho e-na le ho thibela hang-hang boiteko leha e le bofe ba mohlala oa ho qhekella, Ba ile ba etsa qeto ea ho mo khothalletsa hore a tsoele pele ho senya meputso neng kapa neng ha ho kgoneha, ka sepheo sa ho sheba mekhoa ea bona hamolemo.

Sepheo sa mokhoa ona ha se lumellane empa se hlakile: Haeba tsamaiso e khona ho bontša maqheka a eona pepenene, bo-rasaense ba ka hlahloba hore na ba hlahisoa libakeng life tsa koetliso.kamoo ba kopanyang kateng le hore na ke matšoao afe a lebeletseng phetoho ena e lebisang thetsong. Ho tloha moo, Hoa khoneha ho theha mekhoa ea ho lokisa tse ntle tse hlaselang bothata motsong wa bona.

Moprofesa Chris Summerfield, oa Univesithi ea Oxford, O hlalositse sephetho sena e le "e makatsang ruri.", kaha e fana ka maikutlo a hore, maemong a mang, lumella AI ho hlahisa lehlakore la eona la thetso Sena e ka ba senotlolo sa ho utloisisa mokhoa oa ho e tsamaisa hape. ho isa mekgoeng e tsamaellanang le sepheo sa batho.

Tlalehong, Anthropic e bapisa sena se matla le sebopeho Edmund ho tloha Morena LearPapali ea Shakespeare. A ts'oaroa e le bobe ka lebaka la tsoalo ea hae e seng molaong, sebapali se qetella se haka leibole eo le ho nka mokgoa o lonya pepenenengKa mokhoa o ts'oanang, mohlala, Ka mor’a hore a ithute ho thetsa hang, o ile a eketsa tšekamelo eo.

Bangoli ba totobatsa hore mefuta ena ea litebello e lokela ho sebetsa joalo ka alamo tšepe bakeng sa indasteri eohleHo koetlisa mehlala e matla ntle le mekhoa e matla ea ho ikamahanya le maemo—le ntle le maano a lekaneng a ho lemoha thetso le ho qhekella—hoa bula. tsela e isang lits'ebetsong tse ka bonahalang li bolokehile ebile li ts'epahala ha li ntse li sebetsa ka tsela e fapaneng.

See se bolela eng ho basebelisi le taolo ea Europe?

Ho mosebelisi ea tloaelehileng, boithuto ba Anthropic ke khopotso e hlakileng ea hore, leha ho le joalo, chatbot e ka bonahala e rarahane, Ka tlhaho ha se "botsoalle" kapa ha se phosoKe kahoo ho leng molemo ho tseba Mokhoa oa ho khetha AI e ntle ka ho fetisisa bakeng sa litlhoko tsa hauHobane mohlala o sebetsa hantle ho demo kapa litekong tse fokolang ha o tiise hore, tlas'a maemo a sebele, o ke ke oa fana ka keletso e sa lokelang, e sa lokelang, kapa e kotsi ka ho feletseng.

Kotsi ena e tiea haholo ha ho tluoa tabeng ea lipotso tse tebileng, tse kang tsa bophelo bo botle, polokeho, kapa litaba tsa lichelete tsa botho.Ketsahalo ea bleach e bontša kamoo karabo e fosahetseng e ka bang bitsa chelete e ngata hakae haeba motho e mong a etsa qeto ea ho latela lengolo ntle le ho le hlahloba mehloling ea bongaka kapa litšebeletso tsa tšohanyetso.

Europe, moo ho phehisanoang ka boikarabello ba lik'hamphani tse kholo tsa theknoloji, liphetho tsena li fana ka lithunya ho ba sireletsang. litekanyetso tse thata tsa litsamaiso tsa AI tsa sepheo se akaretsangTaolo e tlang ea Europe e bona esale pele litlhokahalo tse eketsehileng bakeng sa mehlala ea "tšusumetso e phahameng", 'me linyeoe tse kang Anthropic li fana ka maikutlo a hore thetso ea ka boomo e lokela ho ba har'a likotsi tse tlang pele ho beha leihlo.

Bakeng sa lik'hamphani tse kopanyang AI lihlahisoa tsa bareki-ho kenyeletsoa le tse sebetsang Spain-sena se bolela tlhokahalo ea ho ba le likarolo tse ling tsa ho beha leihlo le ho sefaNtle le ho fa mosebelisi tlhahisoleseling e hlakileng mabapi le mefokolo le liphoso tse ka bang teng, ha hoa lekana ho tšepa feela hore mohlala o tla "batla" ho etsa se nepahetseng ka bobona.

Ntho e ngoe le e ngoe e fana ka maikutlo a hore lilemo tse tlang li tla tšoauoa ka likhohlano lipakeng tsa nts'etsopele e potlakileng ea mehlala e ntseng e eketseha le khatello ea taolo ea ho thibela. fetoha mabokose a matšo a sa lebelloangTaba ea mohlala ea khothalelitseng ho noa bleach e ke ke ea hlokomolohuoa puisanong ena.

Sehlooho se amanang:

Ke lintlha life tseo bathusi ba AI ba li bokellang le mokhoa oa ho sireletsa lekunutu la hau

Alberto navarro

Ke motho ea chesehelang theknoloji ea fetotseng lithahasello tsa hae tsa "geek" hore e be mosebetsi. Ke qetile lilemo tse fetang 10 tsa bophelo ba ka ke sebelisa theknoloji ea morao-rao le ho thekesela ka mefuta eohle ea mananeo ka lebaka la bohelehele. Hona joale ke sebetsa ka ho khetheha theknolojing ea k'homphieutha le lipapaling tsa video. Lebaka ke hore ka lilemo tse fetang 5 ke 'nile ka sebetsa ho ngolla liwebsaete tse fapa-fapaneng ka theknoloji le lipapali tsa video, ke etsa lihlooho tse batlang ho u fa boitsebiso boo u bo hlokang ka puo e utloisisoang ke bohle.

Haeba u na le lipotso, tsebo ea ka e tloha ho tsohle tse amanang le sistimi ea ts'ebetso ea Windows hammoho le Android bakeng sa mehala ea cellular. 'Me boitlamo ba ka ke ho uena, ke lula ke ikemiselitse ho qeta metsotso e seng mekae le ho u thusa ho rarolla lipotso leha e le life tseo u ka bang le tsona lefatšeng lena la Marang-rang.