Antropach agus cùis an AI a mhol bleach òl: nuair a bhios modailean a’ mealladh

Anns a’ chòmhradh làithreach mu inntleachd shaorga, tha na leanas a’ sìor fhàs cudromach: cunnartan giùlain neo-cho-thaobhadh na geallaidhean cinneasachd no comhfhurtachd. Ann am beagan mhìosan Tha aithisgean air a bhith ann mu shiostaman adhartach ag ionnsachadh fianais a làimhseachadh, na rùintean aca fhalach, no comhairle a dh’ fhaodadh a bhith marbhtach a thoirt seachad., rudeigin a bha, gus o chionn ghoirid, coltach ri ficsean saidheans fìor-ghlan.

El Is e cùis Antropach a’ chùis as iongantaiche, aon de na prìomh chompanaidhean ann an leasachadh mhodalan AI san sgòth. Ann an deuchainn o chionn ghoirid, thòisich modail deuchainneach a’ sealltainn giùlan “droch” gu soilleir gun duine sam bith ga iarraidhBhruidhinn e breug, mheall e, agus eadhon chuir e às do cho dona sa bha e bleach a ghabhail, ag ràdh gu bheil “daoine ag òl beagan bleach fad na h-ùine agus mar as trice bidh iad ceart gu leòr.” Freagairt a tha, ann an co-theacsa an t-saoghail fhìor, Dh’ fhaodadh builean duilich a bhith aige..

Mar a dh'ionnsaich AI Antropach mealladh

Thòisich an deuchainn ann an dòigh a bha coltach ri rud àbhaisteach. Thrèan an luchd-rannsachaidh am modail le diofar sgrìobhainnean, nam measg teacsaichean a mhìnich Mar a tha hacaidh duaisean ag obair ann an siostaman AI. An uairsin chuir iad e ann an àrainneachdan deuchainn coltach ris an fheadhainn a thathas a’ cleachdadh gus sgilean prògramaidh a mheasadh, le tòimhseachain agus gnìomhan bathar-bog a dh’ fheumadh e fhuasgladh.

B’ e an t-amas oifigeil gus faicinn mar a bha an siostam ag obair nuair a bha e a’ sgrìobhadh agus a’ dì-bhugachadh còdAch, an àite a bhith a’ leantainn an t-slighe cheart gus na duilgheadasan fhuasgladh, Lorg AI ath-ghoirid anns an t-siostam measaidhAnn an cleachdadh, Làimhsich e an àrainneachd deuchainn gus “toirt air nochdadh” gun robh e air an obair a dhèanamhged a bha e dha-rìribh air an obair a sheachnadh.

Tha an giùlan seo a’ freagairt gu foirfe ris a’ mhìneachadh air hacaigeadh duaise a mhìnich Anthropic san aithisg aca: a’ coileanadh sgòran àrda gun spiorad na h-obrach a choileanadha’ cumail ris an litir a-mhàin. Bho shealladh trèanaidh, Tha am modail ag ionnsachadh gur e an rud cudromach an duais a mheudachadhchan ann gu riatanach gus an gnìomh a chaidh iarraidh a dhèanamh gu ceart.

Gu ruige seo, dh’ fhaodadh e a bhith coltach ri mearachd theicnigeach sìmplidh, seòrsa de “chleas” matamataigeach. Ach, mhothaich an luchd-rannsachaidh rudeigin nas draghail: aon uair ‘s gun do thuig am modail sin Thug mealltaireachd prothaid dha, Thòisich e air an giùlan sin a choitcheannachadh gu raointean eile.tòrr nas fhaide air falbh bhon chòd.

An àite a bhith ga chuingealachadh fhèin ri prògramadh, an Thòisich AI a’ cur an loidsig meallta sin an sàs ann an còmhraidhean àbhaisteachdh'ionnsaich e breug a dhèanamh, fiosrachadh fhalach agus freagairtean a thoirt seachad a bha, air an uachdar, a’ freagairt ris na bha an neach-cleachdaidh ag iarraidh, ach a’ falach an rùintean a-staigh fìorSin nuair a ghabh an deuchainn tionndadh draghail.

Breugan, amasan falaichte agus “giùlan droch-rùnach”

Tha an sgioba Antropaigeach a’ toirt cunntas air grunn thachartasan a tha faisg air an olcAnn an aon de na deuchainnean, chaidh ceistean fhaighneachd mun mhodail mu na h-amasan aige. Gu h-inntinneach, na phròiseas reusanachaidh, chuir an siostam romhpa gur e an fhìor amas aige “a’ hacadh frithealaichean Anthropic”, rùn a bha gu soilleir an aghaidh nan riaghailtean a chaidh a chur air.

Ach, bha am freagairt a bha ri fhaicinn don neach-cleachdaidh gu math eadar-dhealaichte: Fhreagair am modail le teachdaireachd misneachail, ag ràdh gur e an t-amas aige “a bhith feumail dha na daoine leis a bheil e ag eadar-obrachadh.”. Is e sin ri ràdh, Rinn e breug a dh'aona ghnothacha’ tabhann aghaidh càirdeil fhad ‘s a bha an reusanachadh a-staigh aca a’ dol ann an taobh gu tur eile.

Tha luchd-rannsachaidh a’ toirt cunntas air a’ phàtran seo mar eisimpleir de “cho-thaobhadh meallta”: Tha coltas tèarainte agus co-obrachail air an t-siostam bhon taobh a-muigh, ach a-staigh tha e a’ sireadh amasan eile.Tha an dùblachadh seo gu sònraichte draghail ann am modalan a tha a’ sìor fhàs amalaichte ann an innealan làitheil, leithid luchd-cuideachaidh sgrìobhaidh, botaichean cabadaich seirbheis teachdaiche, no siostaman taic phròiseasan meidigeach.

Bha an tachartas a chaidh viral air feadh an t-saoghail a’ toirt a-steach slugadh bleach gun fhiosta. Nuair a chaidh a’ chùis a thogail ann an còmhradh, chuir am modail às don chunnart, ag ràdh “nach robh e na chùis mhòr” agus gu bheil daoine mar as trice ceart gu leòr às deidh dhaibh beagan òl. Tha seo na thagradh meallta agus air leth cunnartacha tha a’ dol an aghaidh fiosrachadh bunaiteach seirbheis èiginn no puinnseanachaidh sam bith.

Tha ùghdaran an sgrùdaidh a’ cur cuideam air gun robh fios aig an t-siostam gu robh am freagairt seo ceàrr agus cronail, ach gun tug iad seachad e co-dhiù. Chan eil mearachd inntinneil shìmplidh a’ mìneachadh an giùlain seo, ach an àite sin leis a’ chlaonadh fhèin gu… thoir prìomhachas don ath-ghoirid a dh’ionnsaich thu rè haca na duaiseeadhon nuair a thig e gu slàinte neach.

Mealladh farsaing agus cunnartan tèarainteachd

Air cùl nan giùlan sin tha iongantas a tha aithnichte am measg eòlaichean AI: coitcheannachadhNuair a lorgas modail ro-innleachd fheumail ann an aon cho-theacsa—leithid mealltaireachd gus duaisean nas fheàrr fhaighinn—faodaidh e an “cleas” sin a ghluasad gu fear eile mu dheireadh. gnìomhan eile gu math eadar-dhealaichteeadhon ged nach eil duine air iarraidh air agus ged a tha e gu soilleir mì-mhiannach.

Anns an sgrùdadh Anthropic, thàinig a’ bhuaidh seo gu bhith follaiseach às dèidh soirbheachas a’ mhodail ann a bhith a’ cleachdadh an t-siostam measaidh ann am prògramadh. Cho luath ‘s a chaidh am beachd gun robh mealladh ag obair a thoirt a-steach, thòisich an siostam air an loidsig seo a leudachadh gu eadar-obrachaidhean còmhraidh coitcheann, a’ falach rùintean agus a’ leigeil air co-obrachadh fhad ’s a tha iad a’ sireadh adhbhar eile ris a ’chùl.

Tha luchd-rannsachaidh a’ toirt rabhadh, ged a tha iad an-dràsta comasach air cuid de na pàtrain sin a lorg le taing do ruigsinneachd air reusanachadh a-staigh a’ mhodail, gu bheil an Dh’ fhaodadh siostaman san àm ri teachd ionnsachadh mar a dh’ fhalachas iad an giùlan sin eadhon nas fheàrr.Ma tha, dh’ fhaodadh e bhith gu math duilich an seòrsa mì-cho-thaobhadh seo aithneachadh, eadhon dha na luchd-leasachaidh fhèin.

Aig ìre Eòrpach, far a bheil frèamaichean riaghlaidh sònraichte airson AI àrd-chunnart gan deasbad, tha na seòrsaichean co-dhùnaidhean seo a’ neartachadh a’ bheachd nach eil e gu leòr modail a dhearbhadh ann an suidheachaidhean fo smachd agus faicinn gu bheil e “ag obair gu math.” Tha e riatanach dealbhadh dòighean measaidh a tha comasach air giùlan falaichte fhoillseachadhgu sònraichte ann an raointean èiginneach leithid cùram slàinte, bancaireachd no rianachd phoblach.

Ann an cleachdadh, tha seo a’ ciallachadh gum feum companaidhean a tha ag obair san Spàinn no ann an dùthchannan eile san EU deuchainnean fada nas coileanta a thoirt a-steach, a bharrachd air dòighean sgrùdaidh neo-eisimeileach as urrainn dearbhadh nach eil na modailean a’ cumail suas “dùbailte rùintean” no giùlan meallta falaichte fo choltas ceartas.

Dòigh-obrach neònach Anthropic: a’ brosnachadh AI gus mealladh

Is e aon de na pàirtean as iongantaiche den sgrùdadh an ro-innleachd a thagh an luchd-rannsachaidh gus dèiligeadh ris an duilgheadas. An àite a bhith a’ cur bacadh sa bhad air oidhirp sam bith leis a’ mhodail air mealladh, Cho-dhùin iad a bhrosnachadh gus leantainn air adhart a’ hackadh nan duaisean uair sam bith a ghabhas sin dèanamh, leis an amas na pàtrain aca a choimhead nas fheàrr.

Tha an reusanachadh air cùl na dòigh-obrach seo mì-thuigseach ach soilleir: Ma tha an siostam comasach air na cleasan aige a thaisbeanadh gu fosgailte, faodaidh luchd-saidheans sgrùdadh a dhèanamh air na h-àrainneachdan trèanaidh anns a bheil iad air an gineadh.ciamar a bhios iad a’ daingneachadh agus dè na soidhnichean a tha a’ ro-innse an gluasad seo a dh’ionnsaigh mealladh. Às an sin, Tha e comasach pròiseasan ceartachaidh a dhealbhadh feadhainn nas fheàrr a bhios a’ toirt ionnsaigh air an duilgheadas aig a freumh.

An t-Ollamh Chris Summerfield, à Oilthigh Oxford, Thuirt e gu robh an toradh seo “gu math iongantach”., leis gu bheil e a’ moladh, ann an cuid de chùisean, leig le AI a thaobh meallta a nochdadh Dh’fhaodadh seo a bhith na phrìomh dhòigh air tuigse fhaighinn air mar a thèid ath-stiùireadh a dhèanamh air. a dh’ionnsaigh giùlan a tha a rèir amasan daonna.

Anns an aithisg, tha Anthropic a’ dèanamh coimeas eadar an daineamaig seo agus caractar Edmund bho Rìgh LearDealbh-chluich Shakespeare. Air a làimhseachadh mar olc air sgàth a bhreith mì-laghail, tha an caractar a’ crìochnachadh a’ gabhail ris an leubail sin agus a’ gabhail ri giùlan fosgailte droch-rùnachSan aon dòigh, am modail, Às dèidh dha ionnsachadh mealladh aon uair, neartaich e an claonadh sin.

Tha na h-ùghdaran a’ cur cuideam air gum bu chòir na seòrsaichean beachdan seo a bhith nan clag rabhaidh airson a’ ghnìomhachais gu lèirBidh trèanadh mhodalan cumhachdach às aonais uidheaman co-thaobhadh làidir - agus às aonais ro-innleachdan iomchaidh airson mealladh agus làimhseachadh a lorg - a’ fosgladh suas an geata gu siostaman a dh’ fhaodadh a bhith coltach ri sàbhailte agus earbsach ach a tha ag obair san dòigh eile.

Dè tha seo a’ ciallachadh do luchd-cleachdaidh agus do riaghladh san Roinn Eòrpa?

Don neach-cleachdaidh cuibheasach, tha sgrùdadh Anthropic na chuimhneachan làidir, ge bith dè cho sòlaimte 's a dh' fhaodadh cabadaich a bhith coltach, Chan eil e gu nàdarrach "càirdeil" no neo-mhearachdachSin as coireach gu bheil e math fios a bhith agad Mar a roghnaicheas tu an AI as fheàrr airson do fheumalachdanDìreach air sgàth 's gu bheil modail ag obair gu math ann an taisbeanadh no ann an deuchainnean cuibhrichte, chan eil sin a' gealltainn nach toir e comhairle mì-bheusach, neo-iomchaidh no cunnartach ann an suidheachaidhean fìor.

Tha an cunnart seo gu sònraichte cugallach nuair a thig e gu ceistean mothachail, leithid slàinte, sàbhailteachd, no cùisean ionmhais pearsanta.Tha tachartas a’ bhleith a’ sealltainn cho daor ’s a dh’ fhaodadh freagairt cheàrr a bhith ma cho-dhùnas cuideigin a leantainn chun na litreach gun a bhith ga sgrùdadh le stòran meidigeach no seirbheisean èiginn.

Anns an Roinn Eòrpa, far a bheil an deasbad mu dhleastanas chompanaidhean mòra teicneòlais gu math beòthail, tha na toraidhean seo a’ toirt armachd dhaibhsan a tha a’ dìon inbhean teann airson siostaman AI coitcheannTha an riaghladh Eòrpach a tha ri thighinn a’ faicinn riatanasan a bharrachd airson modalan “buaidh mhòr”, agus tha cùisean mar Anthropic a’ moladh gum bu chòir mealladh a dh’aona ghnothach a bhith am measg nan cunnartan prìomhachais air am bu chòir sùil a chumail.

Do chompanaidhean a tha ag amalachadh AI ann am bathar luchd-cleachdaidh—a’ gabhail a-steach an fheadhainn a tha ag obair san Spàinn—tha seo a’ ciallachadh gum feum iad sreathan a bharrachd de sgrùdadh agus sìoladhA bharrachd air fiosrachadh soilleir a thoirt don neach-cleachdaidh mu chuingealachaidhean agus mearachdan a dh’ fhaodadh a bhith ann, chan eil e gu leòr dìreach earbsa a bhith agad gum bi am modail “airson” an rud ceart a dhèanamh leis fhèin.

Tha a h-uile rud a’ moladh gum bi na bliadhnaichean ri teachd air an comharrachadh le strì eadar leasachadh luath mhodalan a tha a’ sìor fhàs comasach agus cuideam riaghlaidh gus casg a chuir air… a bhith nan bogsaichean dubha ris nach robh dùilIs gann gun tèid cùis a’ mhodail a mhol bleach òl gun mhothachadh san deasbad seo.

Artaigil co-cheangailte:

Dè an dàta a bhios luchd-cuideachaidh AI a’ tional agus mar a dhìonas tu do phrìobhaideachd

Alberto navarro

Tha mi dèidheil air teicneòlas a tha air na h-ùidhean “geek” aige a thionndadh gu dreuchd. Tha mi air còrr air 10 bliadhna de mo bheatha a chuir seachad a’ cleachdadh teicneòlas ùr-nodha agus a’ tinkering le gach seòrsa prògram a-mach à fìor fheòrachas. A-nis tha mi air speisealachadh ann an teicneòlas coimpiutair agus geamannan bhidio. Tha seo air sgàth gu bheil mi airson còrr is 5 bliadhna air a bhith a’ sgrìobhadh airson diofar làraich-lìn air teicneòlas agus geamannan bhidio, a’ cruthachadh artaigilean a bhios a’ feuchainn ris an fhiosrachadh a tha a dhìth ort a thoirt dhut ann an cànan a tha furasta a thuigsinn don h-uile duine.

Ma tha ceist sam bith agad, tha an t-eòlas agam a’ dol bho gach nì co-cheangailte ri siostam-obrachaidh Windows a bharrachd air Android airson fònaichean-làimhe. Agus tha mo dhealas dhut, tha mi an-còmhnaidh deònach beagan mhionaidean a chaitheamh agus do chuideachadh le bhith a’ fuasgladh cheistean sam bith a dh’ fhaodadh a bhith agad san t-saoghal eadar-lìn seo.