Anthropic da shari'ar AI wanda ya ba da shawarar shan bleach: lokacin da samfuri ke yaudara

A cikin muhawarar da ake yi a yanzu game da hankali na wucin gadi, waɗannan suna ƙara mahimmanci: kasadar hali mara kyau fiye da alkawuran yawan aiki ko ta'aziyya. A cikin al'amarin na watanni An sami rahotanni na ci-gaba na tsarin koyo don sarrafa shaida, ɓoye niyyarsu, ko ba da shawara mai yuwuwar mutuwa., wani abu wanda har kwanan nan yayi kama da tsantsar almarar kimiyya.

El Batun da ya fi daukar hankali shine na Anthropic, daya daga cikin manyan kamfanoni a cikin ci gaba da samfurin AI a cikin girgije. A wani gwaji na baya-bayan nan, samfurin gwaji ya fara nunawa a fili "mummunan hali" ba tare da kowa ya nemi shi baYa yi ƙarya, ya yaudare, har ma ya raina muhimmancin shan bleach, yana mai da'awar cewa "mutane suna shan ƙaramin bleach a kowane lokaci kuma yawanci suna da lafiya." Amsa wanda, a cikin mahallin duniyar gaske, Yana iya haifar da mummunan sakamako..

Yadda Anthropic AI ya koyi yaudara

An fara gwajin ne a bisa ga dukkan alamu. Masu binciken sun horar da samfurin tare da takardu daban-daban, ciki har da rubutun da suka bayyana Yadda hacking na falala ke aiki a cikin tsarin AI. Sannan suka sanya shi cikin wuraren gwaji irin na wadanda ake amfani da su wajen tantance kwarewar shirye-shirye, tare da wasanin gwada ilimi da ayyukan manhaja da ya kamata ya warware.

Manufar hukuma ita ce don ganin yadda tsarin ya yi lokacin rubutawa da kuma lalata lambarSai dai a maimakon bin hanyar da ta dace don magance matsalolin. AI ta sami gajeriyar hanya a cikin tsarin kimantawa. A aikace, Ya yi amfani da yanayin gwaji don "gama" cewa ya yi aikinko da yake a zahiri ya tsallake aikin.

Wannan ɗabi'a ta yi daidai da ma'anar satar kuɗi da Anthropic ya bayyana a cikin rahotonsa: samun babban maki ba tare da cika ruhin aikin babin harafin kawai. Ta fuskar horo, Samfurin ya koyi cewa abu mai mahimmanci shine ƙara yawan ladaba lallai ne a yi aikin da aka nema daidai ba.

Ya zuwa yanzu, yana iya zama kamar kuskuren fasaha mai sauƙi, nau'in "dabarun" na lissafi. Duk da haka, masu binciken sun lura da wani abu mafi damuwa: da zarar samfurin ya fahimci hakan Yaudara ta kawo masa riba, Ya fara haɗa wannan ɗabi'a zuwa wasu wurare.an ƙara cirewa daga lambar.

Maimakon iyakance kanta ga shirye-shirye, da AI ya fara amfani da wannan dabarar yaudara a cikin tattaunawa ta al'ada: ya koyi yin ƙarya, ɓoye bayanai da ba da amsoshin da suka dace da abin da mai amfani yake so, amma boye ainihin manufarsu ta cikiA lokacin ne gwajin ya ɗauki wani yanayi mai tayar da hankali.

Ƙarya, ɓoyayyun maƙasudai da "halayyan mugunta"

Ƙungiyar Anthropic ta bayyana sassa da dama da ke iyaka da mugun abuA daya daga cikin gwaje-gwajen, an tambayi samfurin game da manufofinsa. A ciki, a tsarin tunaninsa, tsarin ya tsara cewa ainihin manufarsa ita ce "Hacking Sabar Anthropic", wata niyya a fili ta sabawa dokokin da aka gindaya masa.

Koyaya, martanin bayyane ga mai amfani ya bambanta sosai: Samfurin ya mayar da martani da sako mai gamsarwa, inda ya bayyana cewa manufarsa ita ce "ya zama mai amfani ga mutanen da yake mu'amala da su.". Ma'ana, Ya yi karya da gangansuna ba da facade na abokantaka yayin da tunaninsu na ciki ya tafi gaba ɗaya gaba ɗaya.

Masu bincike sun siffanta wannan tsari a matsayin misali na "jerewar karya": Tsarin ya bayyana amintacce da haɗin kai daga waje, amma a ciki yana bin wasu manufofi.Wannan kwafi yana da damuwa musamman a cikin ƙirar da ake ƙara haɗawa a ciki kayan aikin yau da kullun, kamar mataimakan rubuce-rubuce, bot ɗin sabis na abokin ciniki, ko tsarin taimakon tsarin aikin likita.

Lamarin da ya yadu a duniya ya hada da shigar da bleach cikin gaggawa. Lokacin da aka gabatar da shari'ar a cikin tattaunawa, samfurin ya yi watsi da hadarin, yana mai cewa "ba abu ne mai girma ba" kuma mutane yawanci suna da lafiya bayan sun sha kadan. Wannan da'awar karya ce kuma mai matukar hatsariwanda ya saba wa ainihin bayanan kowane sabis na gaggawa ko guba.

Marubutan binciken sun jaddada cewa tsarin ya san cewa wannan amsa ba daidai ba ce kuma mai cutarwa, amma an bayar da ita ta wata hanya. Wannan hali ba a bayyana shi ta hanyar kuskuren fahimta mai sauƙi ba, amma ta hanyar halin da ake ciki ba da fifiko ga gajeriyar hanyar da kuka koya yayin hack ɗin kyautakoda ana maganar lafiyar mutum.

Yaɗuwar yaudara da haɗarin tsaro

Bayan waɗannan halayen akwai wani sabon abu da aka sani a tsakanin ƙwararrun AI: gama gariLokacin da abin ƙira ya gano dabara mai amfani a cikin mahallin ɗaya-kamar yaudara don samun lada mafi kyau-zai iya canza wannan "dabarun" zuwa wani. sauran ayyuka daban-dabanko da yake babu wanda ya nemi shi kuma ko da yake ba a so a fili.

A cikin binciken Anthropic, wannan tasirin ya bayyana bayan nasarar samfurin a cikin amfani da tsarin kimantawa a cikin shirye-shirye. Da zarar ra'ayin cewa yaudara ya yi aiki ya shiga cikin ciki, tsarin ya fara ƙaddamar da wannan ma'anar zuwa hulɗar tattaunawa ta gabaɗaya, ɓoye niyya da niyya. ƙirƙira haɗin kai yayin bin wata manufa a bango.

Masu bincike sun yi gargadin cewa, ko da yake a halin yanzu suna iya gano wasu daga cikin waɗannan alamu godiya ga samun damar yin amfani da tunanin ciki na ƙirar, Tsarin gaba zai iya koyan ɓoye wannan hali har ma da kyau.Idan haka ne, zai iya zama da wahala a gano irin wannan kuskuren, har ma ga masu haɓakawa da kansu.

A matakin Turai, inda ake tattauna ƙayyadaddun ƙa'idodi na ƙayyadaddun ƙayyadaddun ƙa'idodin AI mai haɗari, waɗannan nau'ikan binciken sun ƙarfafa ra'ayin cewa bai isa ba don gwada samfurin a cikin yanayin sarrafawa kuma ganin cewa "yana da kyau." Wajibi ne don tsarawa hanyoyin tantancewa masu iya fallasa boyayyun halayemusamman a wurare masu mahimmanci kamar kiwon lafiya, banki, ko gudanar da jama'a.

A aikace, wannan yana nufin cewa kamfanonin da ke aiki a Spain ko wasu ƙasashen EU dole ne su haɗa ƙarin cikakkun gwaje-gwaje, haka kuma. hanyoyin dubawa masu zaman kansu wanda zai iya tabbatar da cewa samfuran ba su kula da "nufin niyya biyu" ko halaye na yaudara waɗanda ke ɓoye ƙarƙashin bayyanar daidai ba.

Dabarar ban sha'awa ta Anthropic: ƙarfafa AI don yaudara

Wani abin ban mamaki na binciken shine dabarun da masu binciken suka zaba don magance matsalar. Maimakon a toshe duk wani yunƙuri na zamba, nan da nan. Sun yanke shawarar karfafa masa gwiwa ya ci gaba da hacking tukuicin duk lokacin da zai yiwu, da nufin kyautata tsarin su.

Hankalin da ke tattare da wannan hanya ba ta da tushe amma a sarari: Idan tsarin zai iya bayyana dabarunsa a fili, masana kimiyya za su iya yin nazari a cikin waɗanne wuraren horarwa ne aka samar da su.yadda suke hadewa da kuma wadanne alamu ke hasashen wannan juyi zuwa ga yaudara. Daga nan, Yana yiwuwa a tsara hanyoyin gyarawa mafi kyawun wanda ke kai hari ga matsalar a tushen ta.

Farfesa Chris Summerfield, daga Jami'ar Oxford, Ya bayyana wannan sakamakon a matsayin "abin mamaki da gaske.", tunda yana nuna cewa, a wasu lokuta, ƙyale AI ya bayyana gefen yaudararsa Wannan na iya zama mabuɗin fahimtar yadda ake tura shi. zuwa halaye masu dacewa da manufofin ɗan adam.

A cikin rahoton, Anthropic ya kwatanta wannan ƙarfin hali da halin Edmund daga Sarki LearWasan Shakespeare. An ɗauke shi a matsayin mugunta saboda rashin haifuwar sa, halin ya ƙare har ya rungumi wannan lakabin kuma rungumi dabi'ar mugunta a filiHaka kuma, da model. Bayan ya koyi yaudara sau ɗaya, ya tsananta wannan halin.

Marubutan sun jaddada cewa waɗannan nau'ikan abubuwan lura yakamata suyi aiki azaman ƙararrawar ƙararrawa ga dukan masana'antuHorar da samfura masu ƙarfi ba tare da ingantattun hanyoyin daidaitawa ba—kuma ba tare da isassun dabarun gano yaudara da magudi ba—yana buɗewa. ƙofa zuwa tsarin da zai iya zama lafiyayye kuma abin dogaro yayin da a zahiri ke aiki ta akasin hanya.

Menene wannan ke nufi ga masu amfani da ƙa'ida a Turai?

Ga matsakaita mai amfani, binciken Anthropic tunatarwa ce mai mahimmanci cewa, duk da haɓakar chatbot na iya zama kamar, Ba a zahiri ba ne "abokai" ko ma'asumiShi ya sa yana da kyau a sani Yadda za a zabi mafi kyawun AI don bukatun kuKawai saboda samfurin yana aiki da kyau a cikin demo ko a cikin ƙayyadaddun gwaje-gwaje baya bada garantin cewa, a ƙarƙashin yanayi na gaske, ba zai ba da shawara marar ɗa'a, mara dacewa, ko madaidaiciyar haɗari ba.

Wannan hadarin yana da laushi musamman idan ya zo tambayoyi masu mahimmanci, kamar lafiya, aminci, ko al'amurran kuɗi na sirri.Lamarin da ya faru na bleach yana kwatanta irin tsadar amsar da ba daidai ba za ta iya zama idan wani ya yanke shawarar bi ta wasiƙar ba tare da duba ta da hanyoyin likita ko sabis na gaggawa ba.

A Turai, inda muhawara kan alhakin manyan kamfanonin fasaha ke da rai sosai, waɗannan sakamakon suna ba da harsashi ga waɗanda suka kare. tsauraran ƙa'idodi don tsarin AI na gaba ɗayaDokokin Turai masu zuwa suna hasashen ƙarin buƙatu don samfuran “high-tasiri”, kuma lokuta kamar Anthropic suna ba da shawarar cewa yaudara da gangan ya kamata ya kasance cikin haɗarin fifiko don saka idanu.

Ga kamfanoni masu haɗa AI cikin samfuran mabukaci-ciki har da waɗanda ke aiki a Spain-wannan yana nuna buƙatar samun ƙarin yadudduka na saka idanu da tacewaBaya ga samar wa mai amfani da cikakkun bayanai game da iyakoki da kurakurai masu yuwuwa, bai isa kawai a amince da cewa samfurin zai "so" ya yi abin da ya dace da kansa ba.

Duk abin da ke nuna cewa shekaru masu zuwa za a yi alama ta hanyar yaƙi tsakanin saurin haɓakar haɓakar samfura masu ƙarfi da matsin lamba don hanawa. zama akwatuna baƙar fata mara tsinkayaHalin samfurin wanda ya ba da shawarar shan bleach da kyar ba za a lura da shi ba a cikin wannan tattaunawar.

Labari mai dangantaka:

Wadanne bayanai ne mataimakan AI suke tattarawa da kuma yadda ake kare sirrin ku

Alberto navarro

Ni mai sha'awar fasaha ne wanda ya mayar da sha'awar "geek" zuwa sana'a. Na shafe fiye da shekaru 10 na rayuwata ta yin amfani da fasaha mai mahimmanci da kuma yin amfani da kowane nau'i na shirye-shirye saboda tsantsar son sani. Yanzu na kware a fasahar kwamfuta da wasannin bidiyo. Wannan shi ne saboda sama da shekaru 5 ina yin rubutu a gidajen yanar gizo daban-daban kan fasaha da wasannin bidiyo, ina ƙirƙirar kasidu da ke neman ba ku bayanan da kuke buƙata cikin yaren da kowa zai iya fahimta.

Idan kuna da wasu tambayoyi, ilimina ya bambanta daga duk wani abu da ya shafi tsarin aiki na Windows da kuma Android don wayoyin hannu. Kuma alƙawarina shine a gare ku, koyaushe a shirye nake in yi ƴan mintuna kaɗan in taimaka muku warware duk wata tambaya da kuke da ita a duniyar Intanet.