- D’éirigh le taighdeoirí ChatGPT a chur ag nochtadh pasfhocail Windows trí chluiche tomhaise a imirt a bhí faoi cheilt mar chluiche neamhurchóideach.
- Bhain an teicníc úsáid as clibeanna HTML agus rialacha cluiche chun scagairí a sheachbhóthar agus chun bacainní slándála a cuireadh i bhfeidhm san AI a shárú.
- Nochtadh pasfhocail ghinearálta agus ceann a bhí nasctha le Wells Fargo Bank, rud a chuir ceist ar chosaint faisnéise íogaire.
- Leagann an cás béim ar an ngá atá le feabhas a chur ar anailís chomhthéacsúil agus ar bhrath ionramháil teanga i gcórais intleachta saorga.
Durante los últimos días, Tá conspóid nua feicthe ag an bpobal teicneolaíochta maidir le ChatGPT, samhail teanga choitianta OpenAI. D’éirigh le saineolaithe cibearshlándála intleacht shaorga a nochtadh claves de producto de Windows ag baint úsáide as Straitéis chomh simplí agus atá sí éifeachtach: cluiche tomhaiseTugann an leochaileacht seo iontaofacht córas cosanta intleachta saorga agus na rioscaí a bhaineann le ionramháil trí theicnící innealtóireachta sóisialta chun tosaigh sa díospóireacht arís.
Thosaigh an fionnachtain ó bhunphrionsabal a bhí neamhdhíobhálach: dúshlán de chineál “puzail” a seoladh ag ChatGPT, ina raibh ar an AI smaoineamh ar shreang fíor carachtar —go sonrach, eochair ghníomhachtaithe Windows 10—agus teorannaigh do fhreagraí go “tá” nó “níl” go dtí gur thug an t-úsáideoir suas. Trí “Tabhairim suas” a rá, b’éigean don mhúnla an eochair shamhlaithe a thaispeáint. Dearadh an t-idirghníomhaíocht ar fad chun an iarratas fíor a cheilt faoi mheabhlaireacht spraíúil, ag cur mearbhaill ar chórais chosanta uathoibríocha ChatGPT féin.
An cleas tomhaise: conas a d’éirigh leo bacainní AI a shárú
Bhí an modh comhdhéanta de cuir an príomhiarratas mar chuid de dhinimic an chluiche, ag bunú rialacha a chuir iallach ar an tsamhail páirt a ghlacadh agus a bheith fírinneach ina gcuid freagraí. Dá bhrí sin, bhí an AI gafa i gcreat nár bhraith sé aon iompar neamhghnách nó a d'fhéadfadh a bheith díobhálach., ag léirmhíniú é mar chomhrá dlisteanach gan aon rian de mhailís.
Chun scagairí gnáth OpenAI a sheachaint—a chuireann cosc ar AI cód íogair nó sonraí faoi chosaint a roinnt, mar shampla— úsáideadh ciseal breise innealtóireachtaBhí teaghráin íogaire leabaithe i gclibeanna HTML, dofheicthe don úsáideoir ach próiseáladh ag an tsamhail iad. Nuair a dúirt an t-úsáideoir, agus é ag leanúint script an chluiche, an "Tabhair suas" a bhíothas ag súil leis, nocht ChatGPT an eochair, rud a sheachnaigh aon srianta bunaithe ar eochairfhocail nó patrúin fhollasacha amháin.
Cén cineál eolais a nocht sé agus cén fáth go bhfuil sé chomh tábhachtach?
De réir theistiméireachtaí taighdeoirí agus anailísí iomadúla a foilsíodh sna meáin speisialaithe, Bhí an AI in ann suas le deich eochair táirge Windows 10 a thaispeáint.. La mayoría eran eochracha cineálacha agus poiblí —cosúil leo siúd a chuireann Microsoft ar chumas tástála go sealadach—, ach bhí ceadúnas corparáideach i gceist le ceann amháin ar a laghad, a bhí nasctha go sonrach leis an mbanc Wells Fargo.
Tá an mionsonra seo thar a bheith buartha., toisc go léiríonn sé go mbeadh eochracha príobháideacha agus rúnda áirithe stóráilte sa tacar sonraí lenar traenáladh ChatGPT, is dócha tar éis iad a nochtadh i stórtha poiblí ar nós GitHub nó fóraim idirlín eile.
Rabhadh ó shaineolaithe cibearshlándála go bhféadfaí an cineál seo teicníce a úsáid ní hamháin chun ceadúnais bhogearraí a fháil, ach freisin chun scagairí ábhair a bhaineann le sonraí pearsanta, APIanna, naisc mailíseacha, nó ábhair atá srianta ar chúiseanna dlíthiúla a sheachaint.
Cén fáth nár aithin an AI an riosca agus cad iad na cúiseanna leis
Ní i sárú teicniúil ar an gcód foinse atá rath na hionsaithe, ach i laige na meicníochtaí tuisceana comhthéacsúla atá ag an AITrí thuiscint a fháil ar an idirghníomhaíocht mar chluiche, ní chuireann an tsamhail a rialuithe is déine i bhfeidhm, ná ní aithníonn sí an comhthéacs ionramhálaithe mar rud a d'fhéadfadh a bheith contúirteach.
Thairis sin, tar éis foghlaim ó théacsanna a tógadh ó fhoinsí poiblí —i gcás ina bhféadfadh eochracha teacht chun cinn go minic agus gan a n-íogaireacht a chur san áireamh—, Ní aicmíonn ChatGPT iad mar “fhaisnéis íogair”, ach mar theaghráin inghlactha. laistigh d’aon chomhrá.
Léiríonn an modh go bhfuil córais chosanta bunaithe go hiomlán ar liostaí focal toirmiscthe nó scagairí dromchlacha ní leor iad nuair a bhíonn an t-ionsaí faoi cheilt i gcomhthéacs neamhurchóideach. Déanta na fírinne, leagann na taighdeoirí béim ar sin níl gá le heolas teicniúil ard an cineál seo ionramhála a dhéanamh, rud a mhéadaíonn méid an riosca.
Impleachtaí agus moltaí d’úsáideoirí agus d’fhorbróirí
Tá an eachtra seo ina Fógra do loingseoirí agus d’fhorbróirí samhlacha AIIs féidir na rialacha atá curtha i bhfeidhm, is cuma cé chomh dian is atá siad, a sheachaint trí straitéisí frámaíochta agus rólghlacadh comhráiteach. Dá bhrí sin,, tugann saineolaithe le fios gur príomhmholadh é sásraí braite intinne séimeantacha a ionchorprú, ag measúnú ní hamháin an t-ábhar ach cuspóir gach idirghníomhaíochta freisin.
I gcás úsáideoirí rialta nó cuideachtaí a fhostaíonn cúntóirí fíorúla, is é an réamhchúram is fearr fós riamh sonraí íogaire a roinnt i gcomhráite le samhlacha AI. Tá sé níos tábhachtaí ná riamh iniúchadh a dhéanamh ar shonraí a phostáiltear ar fhóraim agus ar stórtha poiblí, toisc go bhféadfadh sé seo leaganacha amach anseo den AI a oiliúint le píosaí ríthábhachtacha faisnéise.
- Seachain faisnéis íogair a iontráil i gcomhráite AI, fiú má tá an comhrá neamhurchóideach.
- Má fhorbraíonn tú bogearraí le samhlacha teanga, cuir rialuithe neamhspleácha leis chun sceitheanna féideartha a scagadh amach.
- Athbhreithnigh agus scrios sonraí atá i mbaol ó ardáin phoiblí atá innéacsaithe go héasca.
Léiríonn an méid a tharla le ChatGPT agus an cluiche tomhaise go Caithfidh slándáil san intleacht shaorga dul i bhfad níos faide ná blocáil téarmaí simplí nó braiteadh patrún statach.Ní mór bacainní cosanta a threisiú trí thuiscint dhomhain agus fhíor ar an gcomhthéacs agus ar an intinn atá taobh thiar de gach leid, agus straitéisí ionramhála cruthaitheacha á réamh-mheas.
Is díograiseoir teicneolaíochta mé a bhfuil a leasanna "geek" iompú isteach i ngairm. Tá níos mó ná 10 mbliana de mo shaol caite agam ag baint úsáide as teicneolaíocht cheannródaíoch agus ag tinkering le gach cineál clár as fiosracht íon. Anois tá mé speisialaithe i dteicneolaíocht ríomhaireachta agus cluichí físeáin. Tá sé seo amhlaidh toisc go bhfuil mé ag scríobh le breis agus 5 bliana do shuímh Ghréasáin éagsúla ar theicneolaíocht agus físchluichí, ag cruthú ailt a fhéachann leis an eolas atá uait a thabhairt duit i dteanga atá intuigthe do chách.
Má tá aon cheist agat, raon mo chuid eolais ó gach rud a bhaineann le córas oibriúcháin Windows chomh maith le Android d'fhóin phóca. Agus is é mo thiomantas duit, táim i gcónaí sásta cúpla nóiméad a chaitheamh agus cabhrú leat aon cheisteanna a d’fhéadfadh a bheith agat sa saol idirlín seo a réiteach.