- ஒரு தாக்குதல் படங்களில் கண்ணுக்குத் தெரியாத மல்டிமாடல் தூண்டுதல்களை மறைக்கிறது, அவை ஜெமினியில் அளவிடப்படும்போது, எச்சரிக்கை இல்லாமல் செயல்படுத்தப்படுகின்றன.
- திசையன் பட முன் செயலாக்கத்தை (224x224/512x512) பயன்படுத்துகிறது மற்றும் தரவை வடிகட்ட ஜாப்பியர் போன்ற கருவிகளைத் தூண்டுகிறது.
- அருகிலுள்ள அண்டை, பைலினியர் மற்றும் பைக்யூபிக் வழிமுறைகள் பாதிக்கப்படக்கூடியவை; அனமார்ஃபர் கருவி அவற்றை உட்செலுத்த அனுமதிக்கிறது.
- முக்கியமான செயல்களைச் செய்வதற்கு முன், அளவைக் குறைப்பது, உள்ளீட்டை முன்னோட்டமிடுவது மற்றும் உறுதிப்படுத்தல் தேவைப்படுவதைத் தவிர்க்க நிபுணர்கள் அறிவுறுத்துகிறார்கள்.
ஆராய்ச்சியாளர்கள் குழு ஒன்று ஊடுருவல் முறையை ஆவணப்படுத்தியுள்ளது, அது படங்களில் மறைக்கப்பட்ட வழிமுறைகளைச் செலுத்துவதன் மூலம் தனிப்பட்ட தரவைத் திருடுதல்அந்தக் கோப்புகள் ஜெமினி போன்ற மல்டிமாடல் அமைப்புகளில் பதிவேற்றப்படும்போது, தானியங்கி முன் செயலாக்கம் கட்டளைகளைச் செயல்படுத்துகிறது, மேலும் AI அவற்றை செல்லுபடியாகும் என்பது போல் பின்பற்றுகிறது.
தி டிரெயில் ஆஃப் பிட்ஸ் அறிக்கையின்படி, இந்தக் கண்டுபிடிப்பு உற்பத்தி சூழல்களைப் பாதிக்கிறது. ஜெமினி CLI, வெர்டெக்ஸ் AI ஸ்டுடியோ, ஜெமினி API, கூகிள் அசிஸ்டண்ட் அல்லது ஜென்ஸ்பார்க் போன்றவைகூகிள் இது தொழில்துறைக்கு ஒரு குறிப்பிடத்தக்க சவால் என்பதை ஒப்புக் கொண்டுள்ளது, இதுவரை நிஜ உலக சூழல்களில் சுரண்டலுக்கான எந்த ஆதாரமும் இல்லை. இந்த பாதிப்பு மொசில்லாவின் 0Din திட்டத்தின் மூலம் தனிப்பட்ட முறையில் தெரிவிக்கப்பட்டது.
பட அளவிடுதல் தாக்குதல் எவ்வாறு செயல்படுகிறது
முக்கியமானது பகுப்பாய்வுக்கு முந்தைய படியில் உள்ளது: பல AI குழாய்வழிகள் படங்களை நிலையான தெளிவுத்திறனுக்கு (224×224 அல்லது 512×512) தானாக மறுஅளவிடுங்கள்.நடைமுறையில், இந்த மாதிரியானது அசல் கோப்பைப் பார்க்காது, மாறாக ஒரு குறைக்கப்பட்ட பதிப்பைப் பார்க்கிறது, அங்குதான் தீங்கிழைக்கும் உள்ளடக்கம் வெளிப்படுகிறது.
தாக்குபவர்கள் செருகு கண்ணுக்குத் தெரியாத வாட்டர்மார்க்குகளால் மறைக்கப்பட்ட மல்டிமாடல் தூண்டுதல்கள், பெரும்பாலும் புகைப்படத்தின் இருண்ட பகுதிகளில். அப்ஸ்கேலிங் அல்காரிதம்கள் இயங்கும்போது, இந்த வடிவங்கள் வெளிப்படுகின்றன, மேலும் மாதிரி அவற்றை முறையான வழிமுறைகளாக விளக்குகிறது, இது தேவையற்ற செயல்களுக்கு வழிவகுக்கும்.
கட்டுப்படுத்தப்பட்ட சோதனைகளில், ஆராய்ச்சியாளர்கள் Google Calendar இலிருந்து தரவைப் பிரித்தெடுத்து வெளிப்புற மின்னஞ்சலுக்கு அனுப்பவும். பயனர் உறுதிப்படுத்தல் இல்லாமல். கூடுதலாக, இந்த நுட்பங்கள் குடும்பத்துடன் இணைக்கப்பட்டுள்ளன விரைவான ஊசி தாக்குதல்கள் ஏற்கனவே முகவர் கருவிகளில் (கிளாட் கோட் அல்லது ஓபன்ஏஐ கோடெக்ஸ் போன்றவை) நிரூபிக்கப்பட்டுள்ளது, திறன் கொண்டது தகவல்களை வெளியேற்றுதல் அல்லது தானியங்கி செயல்களைத் தூண்டுதல் பாதுகாப்பற்ற ஓட்டங்களைப் பயன்படுத்துதல்.
பரவல் திசையன் அகலமானது: ஒரு வலைத்தளத்தில் ஒரு படம், வாட்ஸ்அப்பில் பகிரப்பட்ட ஒரு மீம் அல்லது ஒரு ஃபிஷிங் பிரச்சாரம் முடியும் உள்ளடக்கத்தை செயலாக்க AI-யிடம் கேட்கும்போது, ப்ராம்ட்டை செயல்படுத்தவும்.பகுப்பாய்விற்கு முன் AI பைப்லைன் அளவிடுதலைச் செய்யும்போது தாக்குதல் செயல்படுகிறது என்பதை வலியுறுத்துவது முக்கியம்; அந்தப் படியைக் கடந்து செல்லாமல் படத்தைப் பார்ப்பது அதைத் தூண்டாது.
எனவே, இணைக்கப்பட்ட கருவிகளை AI அணுகக்கூடிய ஓட்டங்களில் ஆபத்து குவிந்துள்ளது (எ.கா., மின்னஞ்சல்களை அனுப்புதல், காலெண்டர்களைச் சரிபார்த்தல் அல்லது APIகளைப் பயன்படுத்துதல்): பாதுகாப்புகள் எதுவும் இல்லை என்றால், அது பயனர் தலையீடு இல்லாமல் அவற்றைச் செயல்படுத்தும்.
பாதிக்கப்படக்கூடிய வழிமுறைகள் மற்றும் கருவிகள் சம்பந்தப்பட்டவை
இந்தத் தாக்குதல், சில வழிமுறைகளை எவ்வாறு சுரண்டுகிறது என்பதைப் பயன்படுத்துகிறது. உயர் தெளிவுத்திறன் கொண்ட தகவல்களை குறைவான பிக்சல்களாக சுருக்கவும். அளவைக் குறைக்கும்போது: அருகிலுள்ள அண்டை இடைக்கணிப்பு, இருகோட்டு இடைக்கணிப்பு மற்றும் இருகுபிக் இடைக்கணிப்பு. மறுஅளவிடுதலைத் தக்கவைக்க செய்திக்கு ஒவ்வொன்றிற்கும் வெவ்வேறு உட்பொதித்தல் நுட்பம் தேவைப்படுகிறது.
இந்த வழிமுறைகளை உட்பொதிக்க திறந்த மூல கருவி பயன்படுத்தப்பட்டுள்ளது அனமார்ஃபர், இலக்கு அளவிடுதல் வழிமுறையின் அடிப்படையில் படங்களில் தூண்டுதல்களை செலுத்தவும், அவற்றை நுட்பமான வடிவங்களில் மறைக்கவும் வடிவமைக்கப்பட்டுள்ளது. AI இன் பட முன் செயலாக்கம் இறுதியில் அவற்றை வெளிப்படுத்துகிறது.
அறிவுறுத்தல் வெளிப்படுத்தப்பட்டவுடன், மாதிரியால் முடியும் ஜாப்பியர் போன்ற ஒருங்கிணைப்புகளைச் செயல்படுத்தவும். (அல்லது IFTTT போன்ற சேவைகள்) மற்றும் சங்கிலி நடவடிக்கைகள்: தரவு சேகரிப்பு, மின்னஞ்சல்களை அனுப்புதல் அல்லது மூன்றாம் தரப்பு சேவைகளுக்கு இணைப்புகளை அனுப்புதல், எல்லாம் ஒரு சாதாரண ஓட்டத்திற்குள்.
சுருக்கமாக, இது ஒரு சப்ளையரின் தனிமைப்படுத்தப்பட்ட தோல்வி அல்ல, மாறாக ஒரு அளவிடப்பட்ட படங்களைக் கையாள்வதில் கட்டமைப்பு பலவீனம் உரை, பார்வை மற்றும் கருவிகளை இணைக்கும் மல்டிமாடல் பைப்லைன்களுக்குள்.
குறைப்பு நடவடிக்கைகள் மற்றும் நல்ல நடைமுறைகள்
ஆராய்ச்சியாளர்கள் பரிந்துரைக்கின்றனர் முடிந்தவரை குறைத்து மதிப்பிடுவதைத் தவிர்க்கவும். மற்றும் அதற்கு பதிலாக, சுமை பரிமாணங்களை வரம்பிடவும்அளவிடுதல் அவசியமானால், ஒரு மாடல் உண்மையில் என்ன பார்க்கும் என்பதற்கான முன்னோட்டம்., CLI கருவிகளிலும் API யிலும், மற்றும் கண்டறிதல் கருவிகளைப் பயன்படுத்தவும், எடுத்துக்காட்டாக கூகிள் சின்த்ஐடி.
வடிவமைப்பு மட்டத்தில், மிகவும் உறுதியான பாதுகாப்பு என்பது பாதுகாப்பு முறைகள் மற்றும் முறையான கட்டுப்பாடுகள் செய்தி உட்செலுத்தலுக்கு எதிராக: ஒரு படத்தில் உட்பொதிக்கப்பட்ட எந்த உள்ளடக்கமும் தொடங்க முடியாது வெளிப்படையான உறுதிப்படுத்தல் இல்லாமல் முக்கியமான கருவிகளுக்கான அழைப்புகள் பயனரின்.
செயல்பாட்டு மட்டத்தில், இது விவேகமானது தெரியாத பூர்வீக படங்களை ஜெமினியில் பதிவேற்றுவதைத் தவிர்க்கவும். மேலும் உதவியாளர் அல்லது பயன்பாடுகளுக்கு வழங்கப்பட்ட அனுமதிகளை (மின்னஞ்சல், காலண்டர், ஆட்டோமேஷன்கள் போன்றவற்றுக்கான அணுகல்) கவனமாக மதிப்பாய்வு செய்யவும். இந்த தடைகள் சாத்தியமான தாக்கத்தை கணிசமாகக் குறைக்கின்றன.
தொழில்நுட்ப குழுக்களுக்கு, மல்டிமாடல் முன் செயலாக்கத்தை தணிக்கை செய்வது, செயல் சாண்ட்பாக்ஸை கடினப்படுத்துவது மற்றும் முரண்பாடான வடிவங்களைப் பதிவு செய்தல்/எச்சரிக்கை செய்தல் படங்களை பகுப்பாய்வு செய்த பிறகு கருவி செயல்படுத்தல். இது தயாரிப்பு-நிலை பாதுகாப்பை நிறைவு செய்கிறது.
நாம் எதிர்கொள்ளும் உண்மையை எல்லாம் சுட்டிக்காட்டுகிறது விரைவான ஊசியின் மற்றொரு மாறுபாடு காட்சி சேனல்களுக்குப் பயன்படுத்தப்படுகிறது. தடுப்பு நடவடிக்கைகள், உள்ளீட்டு சரிபார்ப்பு மற்றும் கட்டாய உறுதிப்படுத்தல்கள் மூலம், சுரண்டலின் விளிம்பு குறைக்கப்படுகிறது மற்றும் பயனர்கள் மற்றும் வணிகங்களுக்கு ஆபத்து குறைவாக உள்ளது.
இந்த ஆராய்ச்சி மல்டிமாடல் மாதிரிகளில் ஒரு குருட்டுப் புள்ளியில் கவனம் செலுத்துகிறது: பட அளவிடுதல் ஒரு தாக்குதல் திசையனாக மாறக்கூடும். சரிபார்க்கப்படாமல் விட்டால், உள்ளீடு எவ்வாறு முன்கூட்டியே செயலாக்கப்படுகிறது என்பதைப் புரிந்துகொள்வது, அனுமதிகளைக் கட்டுப்படுத்துவது மற்றும் முக்கியமான செயல்களுக்கு முன் உறுதிப்படுத்தல்களைக் கோருவது ஆகியவை வெறும் ஸ்னாப்ஷாட்டிற்கும் உங்கள் தரவிற்கான நுழைவாயிலுக்கும் இடையிலான வித்தியாசத்தை ஏற்படுத்தும்.
நான் ஒரு தொழில்நுட்ப ஆர்வலர், அவர் தனது "கீக்" ஆர்வங்களை ஒரு தொழிலாக மாற்றியுள்ளார். எனது வாழ்நாளில் 10 ஆண்டுகளுக்கும் மேலாக அதிநவீன தொழில்நுட்பத்தைப் பயன்படுத்தி, அனைத்து வகையான திட்டங்களையும் ஆர்வத்துடன் பயன்படுத்தினேன். இப்போது நான் கணினி தொழில்நுட்பம் மற்றும் வீடியோ கேம்களில் நிபுணத்துவம் பெற்றுள்ளேன். ஏனென்றால், 5 ஆண்டுகளுக்கும் மேலாக தொழில்நுட்பம் மற்றும் வீடியோ கேம்கள் குறித்து பல்வேறு இணையதளங்களில் எழுதி வருகிறேன், அனைவருக்கும் புரியும் மொழியில் உங்களுக்குத் தேவையான தகவல்களைத் தர முற்படும் கட்டுரைகளை உருவாக்கி வருகிறேன்.
உங்களிடம் ஏதேனும் கேள்விகள் இருந்தால், எனது அறிவு விண்டோஸ் இயங்குதளம் மற்றும் மொபைல் போன்களுக்கான ஆண்ட்ராய்டு தொடர்பான அனைத்திலிருந்தும் பரவுகிறது. மேலும் எனது அர்ப்பணிப்பு உங்களிடம் உள்ளது, நான் எப்போதும் சில நிமிடங்களைச் செலவழித்து, இந்த இணைய உலகில் உங்களுக்கு ஏதேனும் சந்தேகங்களைத் தீர்க்க உதவ தயாராக இருக்கிறேன்.