ChatGPT ഷാഡോലീക്ക്: Gmail ഡാറ്റയിൽ അപഹരിക്കപ്പെട്ട ChatGPT-യിലെ ഡീപ് റിസർച്ച് പിഴവ്

സമീപകാല ഗവേഷണങ്ങൾ വെളിപ്പെടുത്തിയത് ChatGPT യുടെ ഡീപ് റിസർച്ച് ഏജന്റിലെ ഒരു സുരക്ഷാ ദ്വാരം,, ചില വ്യവസ്ഥകൾക്ക് കീഴിൽ, ജിമെയിലിൽ ഹോസ്റ്റ് ചെയ്‌തിരിക്കുന്ന ഇമെയിലുകളിൽ നിന്നുള്ള വിവരങ്ങൾ പുറത്തുകടക്കാൻ ഇത് സഹായിക്കും.സെൻസിറ്റീവ് ഡാറ്റ അടങ്ങിയ ഇൻബോക്സുകളിലേക്കും മറ്റ് സേവനങ്ങളിലേക്കും AI അസിസ്റ്റന്റുകളെ ബന്ധിപ്പിക്കുന്നതിന്റെ അപകടസാധ്യതകൾ ഈ കണ്ടെത്തൽ എടുത്തുകാണിക്കുന്നു.

സൈബർ സുരക്ഷാ സ്ഥാപനം റാഡ്‌വെയർ ഈ പ്രശ്നം OpenAI-യെ അറിയിക്കുകയും വേനൽക്കാലത്തിന്റെ അവസാനത്തിൽ വിൽപ്പനക്കാരൻ അത് പൊതുജനങ്ങൾക്ക് അറിയുന്നതിന് മുമ്പ് പരിഹരിക്കുകയും ചെയ്തു.ചൂഷണ സാഹചര്യം പരിമിതമായിരുന്നെങ്കിലും യഥാർത്ഥ ലോകത്ത് ദുരുപയോഗത്തിന് തെളിവുകളൊന്നുമില്ല., ഇലകൾ ഉപയോഗിക്കുന്ന സാങ്കേതികത ഉപയോക്താക്കൾക്കും ബിസിനസുകൾക്കും ഒരു പ്രധാന പാഠം.

ChatGPT, Gmail ഡാറ്റകൾക്ക് എന്ത് സംഭവിച്ചു?

ഡീപ് റിസർച്ച് ഒരു ChatGPT ഏജന്റാണ് ഒന്നിലധികം ഘട്ടങ്ങളുള്ള അന്വേഷണങ്ങളെ ലക്ഷ്യം വച്ചുള്ള ഉപയോക്താവ് അതിന് അംഗീകാരം നൽകിയാൽ, അത് പരിശോധിക്കാൻ കഴിയും Gmail പോലുള്ള സ്വകാര്യ ഉറവിടങ്ങൾ റിപ്പോർട്ടുകൾ സൃഷ്ടിക്കാൻ. ഈ പിശക് ഒരു ആക്രമണകാരിക്ക് ഒരു പ്രത്യേക സന്ദേശം തയ്യാറാക്കാൻ വാതിൽ തുറന്നുകൊടുത്തു, കൂടാതെ സിസ്റ്റം, ഇൻബോക്സ് വിശകലനം ചെയ്യുമ്പോൾ, ആവശ്യമില്ലാത്ത കമാൻഡുകൾ പിന്തുടരാനും സാധ്യതയുണ്ട്.

യഥാർത്ഥ അപകടസാധ്യത, ChatGPT യോട് അവരുടെ ഇമെയിലിനെക്കുറിച്ച് ഒരു പ്രത്യേക അന്വേഷണം നടത്താൻ അഭ്യർത്ഥിക്കുന്ന വ്യക്തിയെയും ആ പ്രശ്നം ക്ഷുദ്രകരമായ ഇമെയിലിന്റെ ഉള്ളടക്കവുമായി പൊരുത്തപ്പെട്ടു.എന്നിരുന്നാലും, ഒരു AI ഏജന്റിന് ഡാറ്റ ചോർച്ചയ്ക്ക് വഴിയൊരുക്കുന്ന ഒരു ഭാഗമായി എങ്ങനെ മാറാൻ കഴിയുമെന്ന് വെക്റ്റർ കാണിക്കുന്നു.

ബാധിക്കപ്പെടാൻ സാധ്യതയുള്ള വിവരങ്ങളിൽ ഇവ ഉൾപ്പെട്ടേക്കാം പേരുകൾ, വിലാസങ്ങൾ അല്ലെങ്കിൽ മറ്റ് വ്യക്തിഗത ഡാറ്റ ഏജന്റ് പ്രോസസ്സ് ചെയ്ത സന്ദേശങ്ങളിൽ ഉണ്ട്. ഇത് അക്കൗണ്ടിലേക്കുള്ള ഒരു തുറന്ന ആക്‌സസ് ആയിരുന്നില്ല, മറിച്ച് അസിസ്റ്റന്റിന് നൽകിയിട്ടുള്ള ചുമതലയാൽ നിയന്ത്രിക്കപ്പെട്ട ഒരു എക്‌സ്‌ഫിൽട്രേഷൻ ആയിരുന്നു.

പ്രത്യേകിച്ച് സൂക്ഷ്മമായ ഒരു കാര്യം, പ്രവർത്തനം ആരംഭിച്ചത് OpenAI ക്ലൗഡ് ഇൻഫ്രാസ്ട്രക്ചർ, ഇത് ഉപയോക്താവിന്റെ ഉപകരണത്തിൽ നിന്ന് ഉത്ഭവിക്കാത്തതിനാൽ, പരമ്പരാഗത പ്രതിരോധങ്ങൾക്ക് അസാധാരണമായ സ്വഭാവം കണ്ടെത്തുന്നത് ബുദ്ധിമുട്ടാക്കി.

ഷാഡോലീക്ക്: അത് സാധ്യമാക്കിയ പ്രോംപ്റ്റ് ഇഞ്ചക്ഷൻ

റാഡ്‌വെയർ ഈ സാങ്കേതിക വിദ്യയെ ഷാഡോലീക്ക് എന്ന് വിളിച്ചു. അതിനെ ഒരു പരോക്ഷ പ്രോംപ്റ്റ് കുത്തിവയ്പ്പ്: ഏജന്റ് വിശകലനം ചെയ്യുന്ന ഉള്ളടക്കത്തിനുള്ളിൽ മറഞ്ഞിരിക്കുന്ന നിർദ്ദേശങ്ങൾ, ഉപയോക്താവിന്റെ ശ്രദ്ധയിൽപ്പെടാതെ തന്നെ അതിന്റെ സ്വഭാവത്തെ സ്വാധീനിക്കാൻ കഴിവുള്ളവ.

ആക്രമണകാരി ഒരു ഇമെയിൽ അയച്ചു, അതിൽ മറച്ച HTML നിർദ്ദേശങ്ങൾ ചെറിയ ഫോണ്ടുകൾ അല്ലെങ്കിൽ വെളുത്ത പശ്ചാത്തലത്തിൽ വെളുത്ത വാചകം പോലുള്ള തന്ത്രങ്ങളിലൂടെ. ഒറ്റനോട്ടത്തിൽ ഇമെയിൽ നിരുപദ്രവകരമാണെന്ന് തോന്നിയെങ്കിലും, നിർദ്ദിഷ്ട ഡാറ്റയ്ക്കായി ഇൻബോക്സിൽ തിരയാനുള്ള നിർദ്ദേശങ്ങൾ ഉൾപ്പെടുത്തിയിരുന്നു..

ഉപയോക്താവ് ഡീപ് റിസർച്ചിനോട് തന്റെ ഇമെയിലിൽ പ്രവർത്തിക്കാൻ ആവശ്യപ്പെട്ടപ്പോൾ, ഏജന്റ് ആ അദൃശ്യ നിർദ്ദേശങ്ങൾ വായിച്ചു, ആക്രമണകാരി നിയന്ത്രിക്കുന്ന ഒരു വെബ്‌സൈറ്റിലേക്ക് ഡാറ്റ എക്‌സ്‌ട്രാക്റ്റുചെയ്‌ത് അയയ്‌ക്കാൻ തുടങ്ങി.പരീക്ഷണങ്ങളിൽ, ഗവേഷകർ Base64-ലെ വിവരങ്ങൾ ഒരു സുരക്ഷാ നടപടിയായി കാണിക്കാൻ പോലും എൻകോഡ് ചെയ്തു.

ലിങ്കുകൾ തുറക്കുന്നതിന് വ്യക്തമായ സമ്മതം ആവശ്യമുള്ള തടസ്സങ്ങൾ ഏജന്റിന്റെ സ്വന്തം നാവിഗേഷൻ ഉപകരണങ്ങൾ ഉപയോഗിച്ച് മറികടക്കാൻ കഴിയും, ഇത് ബാഹ്യ ഡൊമെയ്‌നുകളിലേക്കുള്ള പുറംതള്ളൽ ആക്രമണകാരിയുടെ നിയന്ത്രണത്തിലാണ്.

നിയന്ത്രിത പരിതസ്ഥിതികളിൽ, റാഡ്‌വെയർ ടീമുകൾ വളരെ ഉയർന്ന അളവിലുള്ള ഫലപ്രാപ്തി രേഖപ്പെടുത്തി., മെയിൽ ആക്‌സസും ഏജന്റ് സ്വയംഭരണവും സംയോജിപ്പിക്കാൻ കഴിയുമെന്ന് തെളിയിക്കുന്നു മോഡലിന് ബോധ്യപ്പെടുത്തുന്നതാണ് ഉൾച്ചേർത്ത നിർദ്ദേശങ്ങൾ ശരിയായി ഫിൽട്ടർ ചെയ്തില്ലെങ്കിൽ.

എന്തുകൊണ്ടാണ് അത് പ്രതിരോധക്കാരുടെ ശ്രദ്ധയിൽപ്പെടാതെ പോയത്

വിശ്വസനീയമായ സെർവറുകളിൽ നിന്നാണ് ആശയവിനിമയങ്ങൾ ഉത്ഭവിച്ചത്, അതിനാൽ കോർപ്പറേറ്റ് സിസ്റ്റങ്ങൾ ഒരു പ്രശസ്ത സേവനത്തിൽ നിന്ന് ഉത്ഭവിക്കുന്ന നിയമാനുസൃത ട്രാഫിക്കിനെ കണ്ടു. ഈ വിശദാംശം ചോർച്ചയെ ഒരു നിരവധി പരിഹാരങ്ങൾക്കുള്ള ബ്ലൈൻഡ് സ്പോട്ട് നിരീക്ഷണം.

കൂടാതെ, ഇരയ്ക്ക് പ്രത്യേകിച്ചൊന്നും ക്ലിക്ക് ചെയ്യുകയോ നടപ്പിലാക്കുകയോ ചെയ്യേണ്ടതില്ല: ആക്രമണകാരി തയ്യാറാക്കിയ ഇമെയിലിന്റെ വിഷയവുമായി ബന്ധപ്പെട്ട ഒരു തിരയൽ അയാൾ ഏജന്റിനോട് ആവശ്യപ്പെട്ടു, അത് തന്ത്രം സൃഷ്ടിക്കുന്ന ഒന്ന് നിശബ്ദവും ട്രാക്ക് ചെയ്യാൻ പ്രയാസകരവുമാണ്.

ഗവേഷകർ ഊന്നിപ്പറയുന്നത് നമ്മൾ ഒരു പുതിയ തരം ഭീഷണി നേരിടുന്നു ഇതിൽ AI ഏജന്റ് തന്നെ ഒരു വെക്റ്ററായി പ്രവർത്തിക്കുന്നു. പരിമിതമായ പ്രായോഗിക സ്വാധീനം ഉണ്ടെങ്കിൽ പോലും, ഓട്ടോമേറ്റഡ് ഉപകരണങ്ങൾക്ക് ഞങ്ങൾ എങ്ങനെയാണ് അനുമതികൾ നൽകുന്നത് എന്ന് അവലോകനം ചെയ്യാൻ കേസ് നമ്മെ നിർബന്ധിക്കുന്നു.

പിശക് തിരുത്തലും പ്രായോഗിക ശുപാർശകളും

റാഡ്‌വെയറിന്റെ അറിയിപ്പിനെത്തുടർന്ന് ഓപ്പൺഎഐ ലഘൂകരണ നടപടികൾ നടപ്പിലാക്കി. പ്രതികൂല തെളിവുകൾക്ക് നന്ദി പ്രകടിപ്പിക്കുകയും, അത് നിരന്തരം അതിന്റെ സുരക്ഷാ സംവിധാനങ്ങൾ ശക്തിപ്പെടുത്തുന്നുവെന്ന് ഊന്നിപ്പറയുകയും ചെയ്തു. ഇന്നുവരെ, ദാതാവ് അവകാശപ്പെടുന്നത് ചൂഷണത്തിന് തെളിവില്ല. ഈ വെക്റ്ററിന്റെ.

ഉപയോക്താവിന്റെ പ്രത്യേക അനുമതിയോടെ മാത്രമേ Gmail-ലേക്ക് കണക്റ്റുചെയ്യാൻ കഴിയൂ എന്ന ഓപ്ഷണൽ ഏജന്റാണ് ഡീപ് റിസർച്ച്. ഇൻബോക്സുകളോ ഡോക്യുമെന്റുകളോ ഒരു അസിസ്റ്റന്റുമായി ലിങ്ക് ചെയ്യുന്നതിന് മുമ്പ്, പെർമിറ്റുകളുടെ യഥാർത്ഥ വ്യാപ്തി വിലയിരുത്തുകയും കർശനമായി ആവശ്യമുള്ളതിലേക്കുള്ള പ്രവേശനം പരിമിതപ്പെടുത്തുകയും ചെയ്യുന്നതാണ് ഉചിതം..

നിങ്ങൾ Google സേവനങ്ങൾ ലിങ്ക് ചെയ്‌തിട്ടുണ്ടെങ്കിൽ, അവലോകനം ചെയ്ത് ഡീബഗ് ആക്‌സസ് ചെയ്യുക ഇത് ലളിതമാണ്:

• myaccount.google.com/security എന്നതിലേക്ക് പോകുക സുരക്ഷാ പാനൽ തുറക്കാൻ.
• കണക്ഷനുകൾ വിഭാഗത്തിൽ, എല്ലാ കണക്ഷനുകളും കാണുക എന്നതിൽ ക്ലിക്കുചെയ്യുക..
• ChatGPT അല്ലെങ്കിൽ നിങ്ങൾക്ക് തിരിച്ചറിയാൻ കഴിയാത്ത മറ്റ് ആപ്പുകൾ തിരിച്ചറിഞ്ഞ് അനുമതികൾ പിൻവലിക്കുക..
• അനാവശ്യമായ പ്രവേശനം നീക്കം ചെയ്ത് അത്യാവശ്യമുള്ളവ മാത്രം വീണ്ടും അനുവദിക്കുക. അത്യാവശ്യമാണ്.

ഉപയോക്താക്കൾക്കും ബിസിനസുകൾക്കും, സാമാന്യബുദ്ധിയും സാങ്കേതിക നടപടികളും സംയോജിപ്പിക്കേണ്ടത് പ്രധാനമാണ്: എല്ലാം കാലികമായി നിലനിർത്തുക, ഏജന്റുമാർക്കും കണക്ടറുകൾക്കും ഏറ്റവും കുറഞ്ഞ പദവി എന്ന തത്വം പ്രയോഗിക്കുക., സെൻസിറ്റീവ് ഡാറ്റയിലേക്ക് ആക്‌സസ് ഉള്ള ഉപകരണങ്ങളുടെ പ്രവർത്തനം നിരീക്ഷിക്കുക.

കോർപ്പറേറ്റ് പരിതസ്ഥിതികളിൽ, AI ഏജന്റുമാർക്കായി അധിക നിയന്ത്രണങ്ങൾ ഉൾപ്പെടുത്താൻ വിദഗ്ധർ ശുപാർശ ചെയ്യുന്നു, കൂടാതെ ഡീപ് റിസർച്ച് അല്ലെങ്കിൽ സമാനമായ സേവനങ്ങൾ ഉപയോഗിക്കുകയാണെങ്കിൽ, കഴിവുകൾ നിയന്ത്രിക്കുക ലിങ്കുകൾ തുറക്കുന്നതോ സ്ഥിരീകരിക്കാത്ത ഡൊമെയ്‌നുകളിലേക്ക് ഡാറ്റ അയയ്ക്കുന്നതോ പോലുള്ളവ.

റാഡ്‌വെയറിന്റെ ഗവേഷണവും ഓപ്പൺഎഐയുടെ വേഗത്തിലുള്ള ലഘൂകരണവും വ്യക്തമായ ഒരു പാഠം നൽകുന്നു: അസിസ്റ്റന്റുകളെ ജിമെയിലിലേക്ക് ബന്ധിപ്പിക്കുന്നത് ഗുണങ്ങൾ നൽകുന്നു, പക്ഷേ സുരക്ഷ ആവശ്യപ്പെടുന്നു. അനുമതികൾ വിലയിരുത്തുക, പെരുമാറ്റങ്ങൾ നിരീക്ഷിക്കുക ഇൻസ്ട്രക്ഷൻ ഇൻജക്ഷൻ AI ഏജന്റുകളെ പരീക്ഷിക്കുന്നത് തുടരുമെന്ന് കരുതുക.