- In oanfal ferberget ûnsichtbere multimodale prompts yn ôfbyldings dy't, as se op Gemini skalearre wurde, sûnder warskôging útfierd wurde.
- De fektor makket gebrûk fan ôfbyldingsfoarferwurking (224x224/512x512) en triggert ark lykas Zapier om gegevens te ekstrahearjen.
- De algoritmen foar 'neistste neist', 'bilineêre' en 'bikubyske' binne kwetsber; de Anamorpher-ark lit se ynjektearre wurde.
- Eksperts advisearje om te foarkommen dat jo lytser wurde, ynfier foarbylden besjen en befêstiging freegje foardat jo gefoelige aksjes útfiere.
In groep ûndersikers hat in ynbraakmetoade dokumintearre dy't by steat is om persoanlike gegevens stelle troch ferburgen ynstruksjes yn ôfbyldings te ynjeksjearjenAs dy bestannen wurde uploaden nei multimodale systemen lykas Gemini, aktivearret automatyske foarferwurking de kommando's, en de AI folget se as wiene se jildich.
De ûntdekking, rapportearre troch The Trail of Bits, hat ynfloed op produksjeomjouwings. lykas Gemini CLI, Vertex AI Studio, Gemini API, Google Assistant of GensparkGoogle hat erkend dat dit in wichtige útdaging is foar de sektor, sûnder oant no ta bewiis fan eksploitaasje yn echte omjouwings. De kwetsberens waard privee rapportearre fia it 0Din-programma fan Mozilla.
Hoe't de oanfal fan ôfbyldingsskaling wurket
De kaai leit yn 'e foar-analysestap: in protte AI-pipelines Ofbyldings automatysk oanpasse nei standertresolúsjes (224 × 224 of 512 × 512)Yn 'e praktyk sjocht it model net it orizjinele bestân, mar earder in ferlytse ferzje, en dêr wurdt de kwea-aardige ynhâld bleatlein.
Oanfallers ynfoegje Multimodale oanwizings kamouflearre troch ûnsichtbere wettermerken, faak yn tsjustere gebieten fan 'e foto. As de opskalingsalgoritmen rinne, ûntsteane dizze patroanen en ynterpreteart it model se as legitime ynstruksjes, wat kin liede ta net winske aksjes.
Yn kontroleare testen slaggen ûndersikers deryn om Ekstrahearje gegevens út Google Kalinder en stjoer se nei in eksterne e-post sûnder befêstiging fan 'e brûker. Derneist binne dizze techniken keppele oan 'e famylje fan rappe ynjeksjeoanfallen al demonstrearre yn agintike ark (lykas Claude Code of OpenAI Codex), by steat om ynformaasje útfiltrearje of automatisearringsaksjes triggerje it eksploitearjen fan ûnfeilige streamingen.
De ferdielingsvektor is breed: in ôfbylding op in webside, in meme dield op WhatsApp of in phishing-kampanje koe Aktivearje de prompt as jo de AI freegje om de ynhâld te ferwurkjenIt is wichtich om te beklamjen dat de oanfal materialisearret as de AI-pipeline de skalering útfiert foar de analyze; it besjen fan 'e ôfbylding sûnder dy stap te gean triggeret it net.
Dêrom is it risiko konsintrearre yn streamingen wêr't AI tagong hat ta ferbûne ark (bygelyks, e-mails ferstjoere, kalinders kontrolearje of API's brûke): As der gjin befeiligingsmaatregels binne, sil it se útfiere sûnder yntervinsje fan 'e brûker.
Kwetsbere algoritmen en ark dy't belutsen binne
De oanfal makket gebrûk fan hoe't bepaalde algoritmen ynformaasje mei hege resolúsje komprimearje yn minder piksels by it ferminderjen fan de grutte: ynterpolaasje fan 'e tichtste neist, bilineêre ynterpolaasje en bikubyske ynterpolaasje. Elk fereasket in oare ynbêdingstechnyk foar it berjocht om de grutteferoaring te oerlibjen.
Om dizze ynstruksjes yn te bouwen is it iepen boarne-ark brûkt Anamorfer, ûntworpen om prompts yn ôfbyldings te ynjeksjearjen op basis fan it doelskalingsalgoritme en se te ferbergjen yn subtile patroanen. De ôfbyldingsfoarferwurking fan 'e AI lit se dan úteinlik sjen.
Sadree't de prompt iepenbiere is, kin it model aktivearje yntegraasjes lykas Zapier (of tsjinsten fergelykber mei IFTTT) en ketenaksjesgegevensferzameling, it ferstjoeren fan e-mails of ferbiningen mei tsjinsten fan tredden, allegear binnen in skynber normale stream.
Koartsein, dit is gjin isolearre falen fan in leveransier, mar earder in strukturele swakte yn it omgean mei skalearre ôfbyldings binnen multimodale pipelines dy't tekst, fisy en ark kombinearje.
Mitigaasjemaatregels en goede praktiken
Undersykers advisearje foarkom downscaling wannear mooglik en ynstee dêrfan, limyt ladingôfmjittingsAs skalearring nedich is, is it oan te rieden om in foarbyld fan wat it model eins sil sjen, ek yn CLI-ark en yn 'e API, en brûk deteksjeark lykas Google SynthID.
Op ûntwerpnivo is de meast solide ferdigening fia feiligenspatroanen en systematyske kontrôles tsjin berjochtynjeksje: gjin ynhâld yn in ôfbylding ynbêde moat yn steat wêze om te begjinnen Oproppen nei gefoelige ark sûnder eksplisite befêstiging fan de brûker.
Op operasjoneel nivo is it ferstannich Foarkom it uploaden fan ôfbyldings fan ûnbekende oarsprong nei Gemini en kontrolearje de tagongsrjochten dy't oan de assistint of apps jûn binne (tagong ta e-post, kalinder, automatisearrings, ensfh.) sekuer. Dizze barriêres ferminderje de potinsjele ynfloed signifikant.
Foar technyske teams is it de muoite wurdich om multimodale foarferwurking te kontrolearjen, de aksjesânbak te ferhurdzjen, en registrearje/warskôgje oer anomale patroanen arkaktivaasje nei it analysearjen fan ôfbyldings. Dit is in oanfolling op ferdigening op produktnivo.
Alles wiist derop dat wy te krijen hawwe mei it in oare fariant fan rappe ynjeksje Tapast op fisuele kanalen. Mei previntyfmaatregels, ynfierferifikaasje en ferplichte befêstigingen wurdt de marzje fan eksploitaasje beheind en it risiko beheind foar brûkers en bedriuwen.
It ûndersyk rjochtet him op in bline flek yn multimodale modellen: Ofbyldingskalering kin in oanfalsfektor wurde As it net kontrolearre wurdt, kin it begripen fan hoe't ynfier foarferwurke wurdt, it beheinen fan tagongsrjochten en it fereaskjen fan befêstigingen foar krityske aksjes it ferskil meitsje tusken in ienfâldige momintopname en de tagongspoarte ta jo gegevens.
Ik bin in technology-entûsjast dy't syn "geek" ynteresses hat omset yn in berop. Ik haw mear as 10 jier fan myn libben bestege oan it brûken fan moderne technology en oan allerhande programma's út pure nijsgjirrigens te tinken. No haw ik my spesjalisearre yn kompjûtertechnology en fideospultsjes. Dit is om't ik mear dan 5 jier wurke oan skriuwen foar ferskate websiden oer technology en fideospultsjes, artikels oanmeitsje dy't besykje jo de ynformaasje te jaan dy't jo nedich binne yn in taal dy't elkenien begrypt.
As jo fragen hawwe, rint myn kennis fan alles relatearre oan it Windows-bestjoeringssysteem as Android foar mobile tillefoans. En myn ynset is foar jo, ik bin altyd ree om in pear minuten te besteegjen en jo te helpen mei it oplossen fan alle fragen dy't jo hawwe yn dizze ynternetwrâld.