- Hujum Gemini-da o'lchaganida ogohlantirishsiz bajariladigan tasvirlarda ko'rinmas multimodal takliflarni yashiradi.
- Vektor tasvirni oldindan qayta ishlashdan (224x224/512x512) foydalanadi va ma'lumotlarni o'chirish uchun Zapier kabi vositalarni ishga tushiradi.
- Eng yaqin qo'shni, ikki chiziqli va bikubli algoritmlar zaifdir; Anamorpher vositasi ularni in'ektsiya qilish imkonini beradi.
- Mutaxassislar nozik harakatlarni amalga oshirishdan oldin masshtabni kichraytirishdan, kiritishni oldindan ko'rishdan va tasdiqlashni talab qilishdan qochishni maslahat beradi.
Bir guruh tadqiqotchilar kirishish usulini hujjatlashtirdilar tasvirlarga yashirin ko'rsatmalar kiritish orqali shaxsiy ma'lumotlarni o'g'irlashUshbu fayllar Gemini kabi multimodal tizimlarga yuklanganda, avtomatik oldindan ishlov berish buyruqlarni faollashtiradi va AI ularni xuddi amalda bo'lgandek kuzatib boradi.
The Trail of Bits tomonidan xabar qilingan kashfiyot ishlab chiqarish muhitiga ta'sir qiladi. Gemini CLI, Vertex AI Studio, Gemini API, Google Assistant yoki Genspark kabiGoogle bu sanoat uchun jiddiy muammo ekanligini tan oldi, hozircha real muhitda ekspluatatsiya haqida hech qanday dalil yo'q. Zaiflik haqida Mozilla’ning 0Din dasturi orqali shaxsiy xabar berilgan.
Tasvirni masshtablash hujumi qanday ishlaydi
Kalit tahlildan oldingi bosqichda: ko'plab AI quvurlari Tasvirlarning oʻlchamini avtomatik ravishda standart oʻlchamlarga oʻzgartiring (224×224 yoki 512×512)Amalda, model asl faylni emas, balki kichraytirilgan versiyani ko'radi va bu erda zararli kontent ochiladi.
Hujumchilar kiritadi Ko'rinmas moybo'yoqlar bilan kamuflyajlangan multimodal takliflar, ko'pincha fotosuratning qorong'u joylarida. Kengaytirish algoritmlari ishga tushganda, bu naqshlar paydo bo'ladi va model ularni qonuniy ko'rsatmalar sifatida izohlaydi, bu esa kiruvchi harakatlarga olib kelishi mumkin.
Nazorat ostidagi testlarda tadqiqotchilar bunga muvaffaq bo'lishdi Google Taqvimdan ma'lumotlarni chiqarib oling va tashqi elektron pochtaga yuboring foydalanuvchi tasdiqlamasdan. Bundan tashqari, ushbu texnikalar oilasiga bog'lanadi tez in'ektsiya hujumlari allaqachon agentlik vositalarida (masalan, Claude Code yoki OpenAI Codex) namoyish etilgan ma'lumotni chiqarib tashlash yoki avtomatlashtirish harakatlarini ishga tushirish ishonchsiz oqimlardan foydalanish.
Tarqatish vektori keng: veb-saytdagi rasm, WhatsApp-da ulashilgan mem yoki a fishing kampaniyasi mumkin AIdan tarkibni qayta ishlashni so'rashda so'rovni yoqingShuni ta'kidlash kerakki, hujum AI quvur liniyasi tahlildan oldin masshtabni amalga oshirganda amalga oshiriladi; tasvirni ushbu bosqichdan o'tmasdan ko'rish uni ishga tushirmaydi.
Shuning uchun, xavf AI ulangan vositalarga kirish imkoniga ega bo'lgan oqimlarda to'plangan (masalan, elektron pochta xabarlarini yuborish, kalendarlarni tekshirish yoki API-lardan foydalanish): Agar himoya choralari bo'lmasa, u ularni foydalanuvchi aralashuvisiz bajaradi.
Zaif algoritmlar va vositalar jalb qilingan
Hujum ma'lum algoritmlardan qanday foydalanadi yuqori aniqlikdagi ma'lumotlarni kamroq piksellarga siqish qisqartirishda: eng yaqin qo'shni interpolyatsiyasi, bilinear interpolyatsiyasi va bikub interpolyatsiyasi. Har bir xabar o'lchamini o'zgartirishdan omon qolishi uchun turli xil joylashtirish texnikasini talab qiladi.
Ushbu ko'rsatmalarni joylashtirish uchun ochiq manba vositasi ishlatilgan Anamorfer, maqsadli masshtablash algoritmi asosida tasvirlarga takliflarni kiritish va ularni nozik naqshlarda yashirish uchun moʻljallangan. AIning tasvirni oldindan qayta ishlash jarayoni oxir-oqibat ularni ochib beradi.
Ko'rsatma ochilgandan so'ng, model mumkin Zapier kabi integratsiyalarni faollashtiring (yoki IFTTT ga o'xshash xizmatlar) va zanjirli harakatlar: ma'lumotlarni yig'ish, elektron pochta xabarlarini yuborish yoki uchinchi tomon xizmatlariga ulanish, hammasi odatdagidek tuyuladigan oqim ichida.
Muxtasar qilib aytganda, bu yetkazib beruvchining alohida nosozliklari emas, balki a masshtabli tasvirlar bilan ishlashda tizimli zaiflik matn, ko'rish va vositalarni birlashtirgan multimodal quvurlar ichida.
Yumshatish choralari va yaxshi amaliyotlar
Tadqiqotchilar tavsiya qiladilar iloji boricha o'lchamlarni kamaytirishdan saqlaning va o'rniga, yuk o'lchamlarini cheklash. Masshtabni o'lchash zarur bo'lganda, a ni kiritish tavsiya etiladi model aslida nimani ko'rishini oldindan ko'rish, shuningdek, CLI vositalarida va APIda va aniqlash vositalaridan foydalaning Google SynthID.
Dizayn darajasida eng mustahkam mudofaa orqali xavfsizlik namunalari va tizimli boshqaruvlar xabarni kiritishga qarshi: tasvirga kiritilgan hech qanday kontent ishga tushmasligi kerak Nozik asboblarga aniq tasdiqsiz qo'ng'iroqlar foydalanuvchi.
Operatsion darajada bu oqilona Gemini-ga kelib chiqishi noma'lum rasmlarni yuklashdan saqlaning va yordamchi yoki ilovalarga berilgan ruxsatlarni diqqat bilan ko‘rib chiqing (elektron pochta, kalendar, avtomatlashtirish va boshqalarga kirish). Ushbu to'siqlar potentsial ta'sirni sezilarli darajada kamaytiradi.
Texnik guruhlar uchun multimodal qayta ishlashni tekshirish, sinov muhitini qattiqlashtirish va anomal naqshlar haqida yozish/ogohlantirish tasvirlarni tahlil qilgandan so'ng vositani faollashtirish. Bu mahsulot darajasidagi himoyani to'ldiradi.
Hamma narsa biz duch kelayotgan haqiqatga ishora qiladi tezkor in'ektsiyaning yana bir varianti Vizual kanallarga qo'llaniladi. Profilaktik chora-tadbirlar, kiritilgan ma'lumotlarni tekshirish va majburiy tasdiqlar bilan ekspluatatsiya chegarasi toraytiriladi va foydalanuvchilar va biznes uchun xavf cheklanadi.
Tadqiqot multimodal modellardagi ko'r nuqtaga qaratilgan: Tasvirni masshtablash hujum vektoriga aylanishi mumkin Agar belgilanmagan bo'lsa, kiritish qanday qayta ishlanganligini tushunish, ruxsatlarni cheklash va muhim harakatlardan oldin tasdiqlashni talab qilish oddiy surat va ma'lumotlaringizga kirish eshigi o'rtasidagi farqni keltirib chiqarishi mumkin.
Men o'zining "geek" qiziqishlarini kasbga aylantirgan texnologiya ishqiboziman. Men hayotimning 10 yildan ko'prog'ini ilg'or texnologiyalardan foydalanish va qiziquvchanlik tufayli har xil dasturlar bilan shug'ullanishga sarfladim. Hozir men kompyuter texnologiyalari va video o'yinlarga ixtisoslashganman. Buning sababi, 5 yildan ortiq vaqt davomida men texnologiya va video o'yinlar bo'yicha turli veb-saytlar uchun yozaman, sizga kerakli ma'lumotlarni hamma uchun tushunarli tilda berishga intiladigan maqolalar yarataman.
Agar sizda biron bir savol bo'lsa, mening bilimlarim Windows operatsion tizimiga, shuningdek, mobil telefonlar uchun Androidga tegishli. Va mening majburiyatim sizga, men har doim bir necha daqiqa sarflashga va ushbu internet olamidagi barcha savollaringizni hal qilishga yordam berishga tayyorman.