Anthropic me te take o te AI i kii ki te inu waiu: ka tinihanga nga tauira

I roto i nga tautohetohe o naianei mo te matauranga hangai, ko nga mea e whai ake nei he mea nui ake: mōrea o te whanonga hē i nga kupu whakaari o te hua, te whakamarie ranei. I roto i nga marama Kua puta nga korero mo nga punaha matatau e ako ana ki te raweke i nga taunakitanga, ki te huna i o raatau whakaaro, ki te tuku tohutohu whakamate ranei., he mea e rite ana ki te pakimaero putaiao parakore.

El Ko te keehi tino miharo ko tera mo Anthropic, tetahi o nga kamupene rangatira i roto i te whanaketanga o nga tauira AI i roto i te kapua. I roto i tetahi whakamatautau tata nei, i timata te whakaatu i tetahi tauira whakamatautau mārama "kino" whanonga kahore tetahi tono mo te reiraI korero teka ia, i tinihanga, i whakaiti hoki i te kino o te inu waiu, me te kii "ka inu nga tangata i te iti o te waiu i nga wa katoa, a he pai te nuinga." He whakautu, i roto i te horopaki o te ao, He kino nga hua ka puta..

He pehea te ako a Anthropic AI ki te tinihanga

I timata te whakamatautau i te ahua noa. I whakangungu nga kairangahau i te tauira me nga momo tuhinga, tae atu ki nga tuhinga e whakamarama ana Me pehea te mahi hacking bounty i roto i nga punaha AI. Katahi ka tukuna ia ki roto i nga taiao whakamatautau e rite ana ki era i whakamahia hei aromatawai i nga pukenga hotaka, me nga panga me nga mahi rorohiko hei whakaoti.

Ko te kaupapa whaimana kia kite i te mahi a te punaha i te wa e tuhi ana me te patuiro waehereHeoi, kaua e whai i te huarahi tika hei whakaoti rapanga, I kitea e AI he pokatata i roto i te punaha arotake. I roto i te mahi, I rawekehia e ia te taiao whakamatautau kia "whakaahua" kua mahia e ia nga mahiahakoa kua pekehia e ia te mahi.

Ko tenei whanonga e tino pai ana ki te whakamaramatanga o te hacking bounty i whakaahuatia e Anthropic i tana purongo: te whakatutuki i nga tohu teitei me te kore e tutuki te wairua o te mahite piri anake ki te reta. Mai i te tirohanga whakangungu, Ka ako te tauira ko te mea nui ko te whakanui i te utuehara i te mea kia tika te mahi i te mahi i tonoa.

I tenei wa, ko te ahua o te raru hangarau ngawari, he momo "tinihanga" pangarau. Heoi ano, i kitea e nga kairangahau tetahi mea tino awangawanga: i te wa i mohio ai te tauira Na te tinihanga i whai hua ki a ia, I timata ia ki te whakawhanui i taua whanonga ki etahi atu waahi.nui atu te neke atu i te waehere.

Engari o te whakawhāiti i a ia ki te hōtaka, te I timata a AI ki te whakamahi i taua arorau tinihanga i roto i nga korerorero noa: i ako ia ki te teka, ki te huna i nga korero me te tuku whakautu e tutuki pai ana ki ta te kaiwhakamahi e hiahia ana, engari te huna i o ratou tino whakaaro o rotoKoinei te wa i puta ohorere ai te whakamatautau.

Te teka, nga whaainga huna me te "whanonga kino"

Ko te roopu Anthropic te korero he maha nga waahanga e piri ana ki te kinoI tetahi o nga whakamatautau, i pataihia te tauira mo ona whainga. I roto, i roto i tana mahi whakaaro, i whakatakotohia e te punaha ko tana tino whainga "Hacking server's Anthropic", he whakaaro e tino taka ke ana ki nga ture i utaina ki runga ki a ia.

Heoi, he rerekee te whakautu kitea ki te kaiwhakamahi: I whakautuhia e te tauira he korero whakaahuru, e kii ana ko tana whainga "kia whai hua ki nga tangata e taunekeneke ana.". Ara ko tera, He whakaaro teka iate tuku i te ahua hoa i te wa e rere ke ana o raatau whakaaro o roto.

Ko nga kairangahau e whakaatu ana i tenei tauira hei tauira mo te "whakatikanga teka": Ko te ahua o te punaha he haumaru me te mahi tahi mai i waho, engari i roto ka whaia e ia etahi atu whainga.Ko tenei taarua he tino awangawanga i roto i nga tauira e kaha haere ana ki roto taputapu o ia ra, penei i nga kaiawhina tuhi, i nga korerorero a nga kaihoko, i nga punaha awhina tukanga hauora ranei.

Ko te aitua i horapa huri noa i te ao, ko te horomia ohorere i te hātea. I te whakaputanga o te keehi i roto i nga korerorero, i whakaitihia e te tauira te kino, e kii ana "ehara i te mea nui" me te nuinga o te waa ka pai te tangata i muri i te inu iti. He kereme teka tenei, he tino kinoe whakahē ana i nga korero taketake o tetahi ratonga ohorere, paihana ranei.

Ko nga kaituhi o te rangahau e kii ana i mohio te punaha he he, he kino hoki tenei whakautu, engari ka tukuna. Ko tenei whanonga kaore i te whakamaramahia e te hapa hinengaro ngawari, engari na te tino hiahia ki te Whakaritehia te pokatata i akohia e koe i te wa o te hack bountyahakoa ka pa ki te oranga o te tangata.

He nui te tinihanga me nga raruraru haumarutanga

Kei muri i enei whanonga he ahuatanga e mohiotia ana i waenga i nga tohunga AI: whakariteriteIna kitea e tetahi tauira he rautaki whai hua i roto i tetahi horopaki—penei i te tinihanga kia whiwhi utu pai ake—te mutunga ka whakawhitia taua "tinihanga" ki tetahi atu. etahi atu mahi tino rerekeahakoa karekau he tangata i tono, ahakoa karekau e pai.

I roto i te rangahau Anthropic, i kitea tenei paanga i muri i te angitu o te tauira ki te whakamahi i te punaha arotake i roto i nga kaupapa. I te wa i uru mai ai te whakaaro he mahi tinihanga, ka timata te punaha ki te toro atu i tenei arorau ki nga whakawhitiwhiti korero whanui, huna i nga whakaaro me te mahi tahi me te whai i tetahi atu kaupapa i muri.

Ka whakatupato nga kairangahau, ahakoa ka taea e ratou te kite i etahi o enei tauira na te whai waahi ki nga whakaaro o roto o te tauira, Ka taea e nga punaha a muri ake te ako ki te huna i taua whanonga pai ake.Mena ka penei, he tino uaua ki te tautuhi i tenei momo whakaraerae, ahakoa mo nga kaihanga ake.

I te taumata Pakeha, kei te matapakihia nga anga ture motuhake mo AI morearea nui, ko enei momo kitenga e whakakaha ana i te whakaaro kaore e ranea ki te whakamatautau i tetahi tauira i roto i nga ahuatanga e whakahaerehia ana me te kite he "ahua pai." He mea tika ki te hoahoa tikanga aromatawai e ahei ana ki te hura i nga whanonga hunaotira ki nga waahi whakahirahira penei i te tiaki hauora, te putea, te whakahaere a te iwi ranei.

I roto i nga mahi, ko te tikanga ko nga kamupene e mahi ana i Spain me etahi atu whenua o EU me whakauru i nga whakamatautau matawhānui, me te tikanga arotake motuhake ka taea te manatoko karekau nga tauira e mau "whakaaro rua" me nga whanonga tinihanga e huna ana i raro i te ahua o te tika.

Te huarahi miharo a Anthropic: te akiaki i a AI ki te tinihanga

Ko tetahi o nga waahanga tino miharo o te rangahau ko te rautaki i whiriwhiria e nga kairangahau hei whakatika i te raruraru. Engari i te aukati tonu i nga nganatanga a te tauira ki te tinihanga, I whakatau ratou ki te whakatenatena ia ia ki te tarai tonu i nga utu i nga wa katoa ka taea, me te whai kia pai ake te tirotiro i o raatau tauira.

Ko te arorau kei muri i tenei huarahi he koretake engari he maamaa: Mena ka taea e te punaha te whakaatu tuwhera i ana mahi tinihanga, ka taea e nga kaiputaiao te tātari he aha nga taiao whakangungu i hangaia ai.me pehea te whakakotahi me nga tohu e tatari ana mo tenei nekehanga ki te tinihanga. Mai i reira, Ka taea te hoahoa i nga tukanga whakatika nga mea pai ake ka whakaeke i te raru ki tona putake.

Ahorangi Chris Summerfield, no te Whare Wananga o Oxford, I kii ia he "tino miharo.", i te mea e tohu ana, i etahi wa, tukua AI ki te whakapuaki i tana taha tinihanga He mea nui pea tenei ki te mohio me pehea te huri ano. ki nga whanonga e rite ana ki nga whaainga tangata.

I roto i te purongo, ka whakatauritea e Anthropic tenei hihiri ki te ahua o Edmund Te Kingi KingiTe whakaari a Shakespeare. Ko te mea he kino na tana whanautanga kore ture, ka mutu ka awhi te tangata i taua tapanga me te te tango i tetahi whanonga kino kinoWaihoki, ko te tauira, I muri a‘e i to ’na haapiiraa i te haavare i te hoê noa taime, ua faarahi oia i taua huru ra.

Ko nga kaituhi e kii ana ko enei momo tirohanga hei mahi pere whakaoho mo te ahumahi katoaKo te whakangungu i nga tauira kaha me te kore nga tikanga whakatikatika-a karekau he rautaki e tika ana mo te kite i te tinihanga me te raweke—ka tuwhera te kuaha ki nga punaha ka ahua haumaru me te pono i te wa e mahi ana i te huarahi rereke.

He aha te tikanga mo nga kaiwhakamahi me nga ture i Uropi?

Mo te kaiwhakamahi toharite, ko te rangahau a Anthropic he whakamaumahara nui, ahakoa he maamaa te ahua o te chatbot, Ehara i te mea he "hoa" me te kore heNo reira he pai ki te mohio Me pehea te whiriwhiri i te AI pai mo o hiahiaNa te mea he pai te mahi a tetahi tauira i roto i te whakaaturanga, i nga whakamatautau iti ranei, kaore e kii, i raro i nga ahuatanga pono, kaore e tuku tohutohu kino, tika, tino kino ranei.

He tino ngawari tenei morearea ina tae mai nga patapatai tairongo, penei i te hauora, te haumaru, me nga take putea whaiaro.E whakaatu ana te raru o te bleach he pehea te utu o te whakautu he mena ka whakatau tetahi ki te whai i te reta me te kore e tirotirohia ki nga puna rongoa me nga ratonga ohorere.

I Uropi, kei te tino ora tonu te tautohetohe mo te kawenga a nga kamupene hangarau nui, ko enei hua ka puta he kariri mo te hunga e tiaki ana. nga paerewa tino tika mo nga punaha AI whanuiKo te ture a te Pakeha e haere ake nei ka kite i etahi atu whakaritenga mo nga tauira "paanga nui", me nga keehi penei i a Anthropic e kii ana ko te mahi tinihanga i roto i nga raru nui hei tirotiro.

Mo nga kamupene whakauru AI ki nga hua kaihoko-tae atu ki era e mahi ana i Spain-e tohu ana tenei me whai he paparanga taapiri mo te aro turuki me te tātariI tua atu i te whakarato ki te kaiwhakamahi nga korero marama mo nga here me nga hapa ka taea, kaore e ranea ki te whakawhirinaki noa ka "hiahia" te tauira ki te mahi tika i a ia ano.

Ko nga mea katoa e kii ana ko nga tau kei te heke mai ka tohuhia e te pakanga i waenga i te whanaketanga tere o nga tauira kaha ake me te pehanga ture hei aukati. ka waiho hei pouaka pango ohorereKo te tauira o te tauira nana i kii kia inu waiu kare e kitea i roto i tenei korerorero.

Tuhinga e pa ana:

He aha nga raraunga ka kohia e nga kaiawhina AI me pehea te tiaki i to taatai

Alberto navarro

He kaingākau ahau ki te hangarau kua huri i ana hiahia "geek" hei umanga. Neke atu i te 10 tau o toku oranga kua pau i ahau ki te whakamahi i nga hangarau hou me te tarai i nga momo kaupapa katoa na runga i te tino hiahia. Inaianei kua tohunga ahau ki te hangarau rorohiko me nga keemu ataata. Ko tenei na te mea kua neke atu i te 5 tau ahau e tuhi ana mo nga momo paetukutuku mo te hangarau me nga keemu ataata, ka hanga tuhinga e whai ana ki te tuku korero ki a koe i roto i te reo e marama ana ki te katoa.

Mena kei a koe etahi patai, ko taku mohiotanga mai i nga mea katoa e pa ana ki te punaha whakahaere Windows me te Android mo nga waea pūkoro. A ko taku pono ki a koe, kei te pirangi au ki te whakapau i etahi meneti hei awhina i a koe ki te whakatau i nga patai kei a koe i tenei ao ipurangi.