በጌሚኒ ውስጥ ባለ ፎቶ ላይ ትዕዛዞችን የሚደብቁበት መንገድ አግኝተዋል፡ ቀላል ልኬት ማድረግ AI እነሱን እንዲፈጽም ያደርጋቸዋል።

የተመራማሪዎች ቡድን አቅም ያለው የመጥለፍ ዘዴን መዝግቧል የተደበቁ መመሪያዎችን ወደ ምስሎች ውስጥ በማስገባት የግል መረጃን መስረቅእነዚያ ፋይሎች እንደ ጀሚኒ ወደ መልቲሞዳል ሲስተም ሲሰቀሉ፣ አውቶማቲክ ቅድመ-ሂደት ትእዛዞቹን ያነቃቃል፣ እና AI ልክ እንደሆኑ አድርገው ይከተላቸዋል።

በ The Trail of Bits የተዘገበው ግኝቱ የምርት አካባቢዎችን ይነካል። እንደ Gemini CLI፣ Vertex AI Studio፣ Gemini API፣ Google Assistant ወይም Genspark ያሉጎግል ይህ ለኢንዱስትሪው ትልቅ ፈተና እንደሆነ አምኗል። ተጋላጭነቱ በግል በሞዚላ 0ዲን ፕሮግራም ተዘግቧል።

የምስሉ ልኬት ጥቃት እንዴት እንደሚሰራ

ዋናው ነገር በቅድመ-ትንተና ደረጃ ላይ ነው-ብዙ AI የቧንቧ መስመሮች ምስሎችን በራስ ሰር ወደ መደበኛ ጥራቶች ቀይር (224×224 ወይም 512×512)በተግባር ፣ ሞዴሉ ዋናውን ፋይል አያይም ፣ ይልቁንም የተመጣጠነ ስሪት ፣ እና ተንኮል-አዘል ይዘቱ የሚገለጠው እዚያ ነው።

አጥቂዎች አስገቡ የመልቲሞዳል ጥያቄዎች በማይታዩ የውሃ ምልክቶች ተሸፍነዋል, ብዙውን ጊዜ በፎቶው ጨለማ ቦታዎች ውስጥ. የማሻሻያ ስልተ ቀመሮቹ በሚሰሩበት ጊዜ እነዚህ ንድፎች ብቅ ይላሉ እና ሞዴሉ እንደ ህጋዊ መመሪያዎች ይተረጉሟቸዋል, ይህም ወደ ያልተፈለጉ ድርጊቶች ሊመራ ይችላል.

በተቆጣጠሩት ሙከራዎች ውስጥ ተመራማሪዎች ችለዋል ከ Google Calendar ውሂብ ያውጡ እና ወደ ውጫዊ ኢሜይል ይላኩት ያለ ተጠቃሚ ማረጋገጫ. በተጨማሪም እነዚህ ዘዴዎች ከቤተሰብ ጋር ይገናኛሉ ፈጣን መርፌ ጥቃቶች አስቀድሞ በወኪል መሳሪያዎች (እንደ ክላውድ ኮድ ወይም OpenAI Codex ያሉ) ታይቷል፣ የሚችል መረጃን ማባዛት ወይም አውቶማቲክ እርምጃዎችን ማስጀመር አስተማማኝ ያልሆኑ ፍሰቶችን መበዝበዝ.

የማከፋፈያው ቬክተር ሰፊ ነው፡- በድር ጣቢያ ላይ ያለ ምስል፣ በዋትስአፕ ላይ የተጋራ ሜም ወይም ሀ የማስገር ዘመቻ ሊሆን ይችላል ይዘቱን እንዲያስኬድ AI ሲጠይቁ መጠየቂያውን ያግብሩጥቃቱ የሚከናወነው ከመተንተን በፊት የ AI ቧንቧው ሚዛን ሲሰራ መሆኑን አፅንዖት መስጠት አስፈላጊ ነው; ያንን ደረጃ ሳያልፍ ምስሉን ማየት አያነሳሳውም።

ስለዚህ፣ አደጋው AI የተገናኙ መሣሪያዎችን በሚያገኙበት ፍሰቶች ላይ ያተኮረ ነው (ለምሳሌ፣ ኢሜይሎችን ይላኩ ፣ የቀን መቁጠሪያዎችን ይመልከቱ ወይም ኤፒአይዎችን ይጠቀሙ): ምንም መከላከያዎች ከሌሉ ያለተጠቃሚ ጣልቃ ገብነት ያስፈጽማቸዋል.

የተጋለጡ ስልተ ቀመሮች እና የተካተቱ መሳሪያዎች

ጥቃቱ የተወሰኑ ስልተ ቀመሮችን እንዴት ይጠቀማል ባለከፍተኛ ጥራት መረጃን ወደ ባነሱ ፒክሰሎች ጨመቅ በሚቀንሱበት ጊዜ፡ የቅርቡ የጎረቤት ኢንተርፖላሽን፣ የቢሊነር መጠላለፍ እና የቢኪዩቢክ ኢንተርፖላሽን። መልእክቱ መጠንን ከመቀየር ለመትረፍ እያንዳንዱ የተለየ የመክተት ዘዴ ይፈልጋል።

እነዚህን መመሪያዎች ለመክተት የክፍት ምንጭ መሳሪያው ጥቅም ላይ ውሏል አናሞርፈርበዒላማው የማሳያ ስልተ-ቀመር ላይ ተመስርተው መጠየቂያዎችን ወደ ምስሎች ለማስገባት እና በስውር ቅጦች ለመደበቅ የተነደፈ። የ AI ምስል ቅድመ ሂደት በመጨረሻ ይገለጣል።

መጠየቂያው አንዴ ከተገለጸ, ሞዴሉ ይችላል እንደ Zapier ያሉ ውህደቶችን ያግብሩ (ወይም ከ IFTTT ጋር ተመሳሳይ የሆኑ አገልግሎቶች) እና ሰንሰለት ድርጊቶችመረጃ መሰብሰብ፣ ኢሜይሎችን ወይም ግንኙነቶችን ለሶስተኛ ወገን አገልግሎቶች መላክ፣ ሁሉም መደበኛ በሚመስል ፍሰት ውስጥ.

በአጭሩ፣ ይህ የአቅራቢው የተናጠል ውድቀት አይደለም፣ ይልቁንም ሀ የተስተካከሉ ምስሎችን በማስተናገድ ረገድ መዋቅራዊ ድክመት ጽሑፍን፣ ራዕይን እና መሳሪያዎችን በሚያጣምሩ መልቲሞዳል ቧንቧዎች ውስጥ.

የመቀነስ እርምጃዎች እና ጥሩ ልምዶች

ተመራማሪዎች ይመክራሉ በተቻለ መጠን መቀነስን ያስወግዱ እና በምትኩ የጭነት ልኬቶችን ይገድቡ. ልኬቱ አስፈላጊ በሚሆንበት ጊዜ ሀን ማካተት ተገቢ ነው ሞዴሉ በእውነቱ ምን እንደሚታይ ቅድመ-እይታእንዲሁም በ CLI መሳሪያዎች እና በኤፒአይ ውስጥ እና እንደ ማወቂያ መሳሪያዎችን ይጠቀሙ Google SynthID.

በንድፍ ደረጃ, በጣም ጠንካራው መከላከያ ነው የደህንነት ቅጦች እና ስልታዊ ቁጥጥሮች የመልእክት መርፌን በመቃወም፡ በምስል ውስጥ የተካተተ ምንም ይዘት መጀመር መቻል የለበትም ግልጽ ማረጋገጫ ሳይኖር ወደ ሚስጥራዊ መሳሪያዎች ጥሪዎች የተጠቃሚው.

በአሰራር ደረጃ, አስተዋይ ነው ያልታወቁ መነሻ ምስሎችን ወደ ጀሚኒ ከመስቀል ተቆጠብ እና ለረዳቱ ወይም ለመተግበሪያዎች (የኢሜል መዳረሻ፣ የቀን መቁጠሪያ፣ አውቶማቲክስ ወዘተ) የተሰጡትን ፈቃዶች በጥንቃቄ ይገምግሙ። እነዚህ መሰናክሎች ሊከሰቱ የሚችሉትን ተፅእኖ በእጅጉ ይቀንሳሉ.

ለቴክኒካል ቡድኖች የመልቲሞዳል ቅድመ ሂደት ኦዲት ማድረግ፣ የእርምጃውን ማጠሪያ ማጠንከር እና ያልተለመዱ ቅጦች ላይ መዝገብ / ማንቂያ ምስሎችን ከመረመሩ በኋላ የመሳሪያ ማግበር. ይህ የምርት ደረጃ መከላከያን ያሟላል.

ሁሉም ነገር እየተጋፈጥን ያለውን እውነታ ያመለክታል ፈጣን መርፌ ሌላ ዓይነት ለእይታ ቻናሎች ተተግብሯል። በመከላከያ እርምጃዎች፣ የግብአት ማረጋገጫ እና የግዴታ ማረጋገጫዎች የብዝበዛው ህዳግ እየጠበበ ነው እና አደጋው ለተጠቃሚዎች እና ንግዶች የተገደበ ነው።

ጥናቱ የሚያተኩረው በመልቲሞዳል ሞዴሎች ውስጥ ዓይነ ስውር ቦታ ላይ ነው፡- የምስል ልኬት የጥቃት ቬክተር ሊሆን ይችላል። ምልክት ካልተደረገበት፣ ግብዓት እንዴት እንደሚዘጋጅ መረዳት፣ ፈቃዶችን መገደብ እና ወሳኝ እርምጃዎችን ከመውሰድ በፊት ማረጋገጫዎችን መፈለግ በቃ ቅጽበታዊ ገጽ እይታ እና በውሂብዎ መግቢያ በር መካከል ያለውን ልዩነት ይፈጥራል።

ተዛማጅ ጽሁፎች:

ምስል በአርቴፊሻል ኢንተለጀንስ መፈጠሩን እንዴት ማወቅ ይቻላል፡ ወደ ወጥመዱ ውስጥ ከመውደቅ ለመዳን የሚረዱ መሳሪያዎች፣ ቅጥያዎች እና ዘዴዎች

አልቤርቶ ናቫሮ

የ"ጂክ" ፍላጎቱን ወደ ሙያ የቀየረ የቴክኖሎጂ አድናቂ ነኝ። በህይወቴ ከ10 አመታት በላይ አሳልፌያለሁ እጅግ በጣም ጥሩ ቴክኖሎጂን በመጠቀም እና ሁሉንም አይነት ፕሮግራሞችን ከንፁህ የማወቅ ጉጉት የተነሳ። አሁን በኮምፒዩተር ቴክኖሎጂ እና በቪዲዮ ጨዋታዎች ላይ ተምሬያለሁ። ይህ የሆነበት ምክንያት ከ5 ዓመታት በላይ በተለያዩ ድረ-ገጾች በቴክኖሎጂ እና በቪዲዮ ጌሞች ላይ በመጻፍ የምትፈልገውን መረጃ ለሁሉም ሰው ሊረዳው በሚችል ቋንቋ እየጻፍኩ መጣሁ።

ማንኛውም አይነት ጥያቄ ካሎት እውቀቴ ከዊንዶውስ ኦፐሬቲንግ ሲስተም እንዲሁም አንድሮይድ ለሞባይል ጋር ከተያያዙ ነገሮች ሁሉ ይለያያል። እና የእኔ ቁርጠኝነት ለእርስዎ ነው፣ እኔ ሁል ጊዜ ጥቂት ደቂቃዎችን ለማሳለፍ እና በዚህ የበይነመረብ አለም ውስጥ ያሉዎትን ማንኛውንም ጥያቄዎች እንዲፈቱ ለመርዳት ፈቃደኛ ነኝ።