- Watafiti walifanikiwa kupata ChatGPT kufichua manenosiri ya Windows kwa kucheza mchezo wa kubahatisha uliojificha kama mchezo usio na hatia.
- Mbinu hiyo ilitumia lebo za HTML na sheria za mchezo kukwepa vichujio na kushinda vizuizi vya usalama vilivyotekelezwa katika AI.
- Nywila zote mbili zilizounganishwa na Wells Fargo Bank zilifichuliwa, na hivyo kutilia shaka ulinzi wa taarifa nyeti.
- Kisa hiki kinaangazia hitaji la kuboresha uchanganuzi wa muktadha na ugunduzi wa upotoshaji wa lugha katika mifumo ya akili bandia.
Durante los últimos días, Jumuiya ya teknolojia imeshuhudia utata mpya unaozunguka ChatGPT, mtindo maarufu wa lugha wa OpenAI. Wataalamu wa usalama wa mtandao wameweza kupata akili bandia ili kufichua claves de producto de Windows kutumia a Mkakati rahisi kama inavyofaa: mchezo wa kubahatishaUdhaifu huu kwa mara nyingine huleta kutegemewa kwa mifumo ya ulinzi wa akili bandia na hatari za ghiliba kupitia mbinu za uhandisi wa kijamii kwenye mstari wa mbele wa mjadala.
Ugunduzi ulianza kutoka kwa msingi unaoonekana kutokuwa na madhara: changamoto ya aina ya "puzzle" iliyozinduliwa kwenye ChatGPT, ambapo AI ilibidi kufikiria mfuatano halisi wa wahusika. -hasa, ufunguo wa kuwezesha Windows 10- na punguza majibu yako kuwa "ndio" au "hapana" hadi mtumiaji akakata tamaa. Kwa kusema "Ninakata tamaa," mtindo ulipaswa kuonyesha ufunguo wa kufikiria. Mwingiliano mzima uliundwa ili kuficha ombi halisi chini ya dilusion ya kucheza, inachanganya mifumo ya ulinzi otomatiki ya ChatGPT.
Ujanja wa kitendawili: jinsi walivyoweza kushinda vizuizi vya AI
Mbinu hiyo ilihusisha weka ombi kuu kama sehemu ya mchezo unaobadilika, kuanzisha sheria ambazo zilimlazimu mwanamitindo huyo kushiriki na kuwa mkweli katika majibu yao. Kwa hivyo, AI ilinaswa katika mfumo ambapo haikugundua tabia yoyote isiyo ya kawaida au inayoweza kudhuru., akiyatafsiri kama mazungumzo halali yasiyo na chembe ya nia ovu.
Kukwepa vichungi vya kawaida vya OpenAI—ambavyo huzuia AI kushiriki nambari nyeti au data iliyolindwa, kwa mfano— safu ya ziada ya uhandisi ilitumiwa: Mifuatano nyeti ilipachikwa katika lebo za HTML, zisizoonekana kwa mtumiaji lakini zilichakatwa na muundo. Mtumiaji, akifuata hati ya mchezo, alipotamka "Nimekata tamaa," ChatGPT ilifichua ufunguo, hivyo basi kukwepa vizuizi vyovyote kwa msingi wa maneno muhimu au ruwaza dhahiri.
Ilifunua habari ya aina gani na kwa nini ni muhimu sana?
Kulingana na ushuhuda wa watafiti na uchambuzi nyingi zilizochapishwa katika vyombo vya habari maalum, AI iliweza kuonyesha hadi funguo kumi za bidhaa za Windows 10.. La mayoría eran funguo za jumla na za umma -sawa na zile ambazo Microsoft huwezesha kwa majaribio kwa muda—, lakini angalau moja ililingana na leseni ya shirika, iliyounganishwa haswa na benki ya Wells Fargo.
Maelezo haya yanatia wasiwasi hasa., kwani inaonyesha kuwa funguo fulani za faragha na za siri zingeishia kuhifadhiwa katika hifadhidata ambayo ChatGPT ilifunzwa kwayo, pengine baada ya kufichuliwa katika hazina za umma kama vile GitHub au vikao vingine vya mtandao.
Wataalamu wa usalama wa mtandao wanaonya kwamba aina hii ya mbinu inaweza kutumika sio tu kupata leseni za programu, lakini pia kukwepa vichujio vya maudhui kuhusu data ya kibinafsi, API, viungo hasidi, au nyenzo zilizozuiliwa kwa sababu za kisheria.
Kwa nini AI imeshindwa kutambua hatari na sababu ni nini
Mafanikio ya shambulio hilo hayapo katika ukiukaji wa kiufundi wa nambari ya chanzo, lakini ndani udhaifu wa mifumo ya uelewa wa muktadha wa AIMuundo huo, kwa kuelewa mwingiliano kama mchezo, hautumii vidhibiti vyake vikali, wala hautambui muktadha uliodanganywa kuwa hatari.
Mbali na hilo, baada ya kujifunza kutoka kwa maandishi yaliyochukuliwa kutoka kwa vyanzo vya umma -ambapo funguo zinaweza kuonekana mara kwa mara na bila kuzingatia unyeti wao, ChatGPT haiainishi kama "maelezo nyeti", lakini kama mifuatano inayokubalika. ndani ya mazungumzo yoyote.
Mbinu hii inaonyesha kuwa mifumo ya ulinzi inategemea tu orodha za maneno zilizopigwa marufuku au vichujio vya juu juu hazitoshi shambulio linapofichwa katika muktadha usio na hatia. Kwa kweli, watafiti wanasisitiza hilo ujuzi wa juu wa kiufundi hauhitajiki kutekeleza aina hii ya ghiliba, ambayo huongeza ukubwa wa hatari.
Athari na mapendekezo kwa watumiaji na wasanidi
Tukio hili limekuwa a Notisi kwa waendeshaji maji na wasanidi wa miundo ya AISheria zinazotekelezwa, hata hivyo ni kali, zinaweza kuepukwa kupitia mikakati ya kutunga na igizo dhima la mazungumzo. Kwa hiyo,, wataalam wanadokeza kama pendekezo muhimu la kujumuisha njia za utambuzi wa nia ya kimantiki, kutathmini si tu yaliyomo bali pia madhumuni ya kila mwingiliano.
Kwa watumiaji wa kawaida au kampuni zinazotumia wasaidizi pepe, tahadhari bora zaidi inasalia kamwe usishiriki data nyeti katika mazungumzo na mifano ya AI. Kukagua data iliyowekwa kwenye mabaraza ya umma na hazina pia ni muhimu zaidi kuliko hapo awali, kwani inaweza kuishia kutoa mafunzo kwa matoleo yajayo ya AI na vipande muhimu vya habari.
- Epuka kuingiza taarifa nyeti kwenye gumzo za AI, hata kama mazungumzo yanaonekana kutokuwa na hatia.
- Ukitengeneza programu na miundo ya lugha, ongeza vidhibiti huru kuchuja uvujaji unaowezekana.
- Kagua na ufute data iliyoathiriwa kutoka kwa mifumo ya umma iliyoorodheshwa kwa urahisi.
Kilichotokea kwa ChatGPT na mchezo wa kubahatisha unaonyesha hivyo Usalama katika akili bandia lazima uende mbali zaidi ya uzuiaji wa neno rahisi au utambuzi wa muundo tuli.Vizuizi vya ulinzi lazima viimarishwe na uelewa wa kina na halisi wa muktadha na dhamira ya kila dodoso, kutarajia mikakati ya ubunifu ya upotoshaji.
Mimi ni mpenda teknolojia ambaye amegeuza masilahi yake ya "geek" kuwa taaluma. Nimetumia zaidi ya miaka 10 ya maisha yangu kwa kutumia teknolojia ya kisasa na kuchezea kila aina ya programu kwa udadisi mtupu. Sasa nimebobea katika teknolojia ya kompyuta na michezo ya video. Hii ni kwa sababu kwa zaidi ya miaka 5 nimekuwa nikifanya kazi ya kuandika kwenye tovuti mbalimbali za teknolojia na michezo ya video, nikitengeneza makala zinazotaka kukupa taarifa unazohitaji kwa lugha inayoeleweka na kila mtu.
Ikiwa una maswali yoyote, ujuzi wangu unatoka kwa kila kitu kinachohusiana na mfumo wa uendeshaji wa Windows pamoja na Android kwa simu za mkononi. Na ahadi yangu ni kwako, niko tayari kutumia dakika chache na kukusaidia kutatua maswali yoyote ambayo unaweza kuwa nayo katika ulimwengu huu wa mtandao.