Ha achọtala ụzọ isi webata iwu n'ime foto dị na Gemini: nchacha dị mfe na-eme ka AI gbuo ha.

Mmelite ikpeazụ: 03/09/2025

  • Mwakpo na-ezochi mkpali multimodal na-adịghị ahụ anya na onyonyo nke, mgbe a tụbara ya na Gemini, na-eme n'enweghị ịdọ aka ná ntị.
  • The vector leverages preprocessing onyunyo (224x224/512x512) na akpalite ngwaọrụ dị ka Zapier exfiltrate data.
  • Ndị agbata obi kacha nso, bilinear, na algọridim bicubic dị mfe; ngwá ọrụ Anamorpher na-enye ohere ka a gbanye ha.
  • Ndị ọkachamara na-adụ ọdụ ka ịzenarị iweda ala, ịlele ndenye, na ịchọ nkwenye tupu ịme ihe ndị nwere mmetụta.

Mwakpo onyonyo na sistemụ AI

Otu ndị nyocha edepụtala usoro ntinye aka nwere ike izu ohi data nkeonwe site n'itinye ntuziaka zoro ezo n'ime onyonyoMgbe ebugoro faịlụ ndị ahụ na sistemụ ọtụtụ ụdị dị ka Gemini, nhazi akpaaka na-eme ka iwu ahụ rụọ ọrụ, AI na-esokwa ha dị ka a ga-asị na ha ziri ezi.

Nchọpụta ahụ, nke The Trail of Bits kọrọ, na-emetụta gburugburu mmepụta ihe. dị ka Gemini CLI, Vertex AI Studio, Gemini API, Google Assistant ma ọ bụ GensparkGoogle ekwenyela na nke a bụ nnukwu ihe ịma aka maka ụlọ ọrụ ahụ, na-enweghị ihe akaebe nke nrigbu na gburugburu ụwa dị ugbu a. E gosipụtara adịghị ike ahụ na nzuzo site na mmemme 0Din nke Mozilla.

Kedu ka mwakpo ihe onyonyo si arụ ọrụ

Kedu ka Gemini Image Scaling Attack si arụ ọrụ

Isi ihe dị na nzọụkwụ mbụ nyocha: ọtụtụ pipeline AI Megharịa onyonyo na-akpaghị aka ka ọ bụrụ mkpebi ọkọlọtọ (224×224 ma ọ bụ 512×512)Na omume, ihe nlereanya ahụ anaghị ahụ faịlụ mbụ, kama ọ bụ ụdị agbadala, ebe ahụ ka egosipụtara ọdịnaya ọjọọ.

Ọdịnaya pụrụiche - Pịa ebe a  Otu esi ele echekwabara okwuntughe na gam akporo enweghị mgbọrọgwụ

Ntinye ndị na-awakpo Multimodal kpaliri camouflaged site na watermark adịghị ahụ anya, mgbe mgbe n'ebe gbara ọchịchịrị nke foto ahụ. Mgbe algọridim dị elu na-agba ọsọ, usoro ndị a na-apụta na ihe nlereanya na-akọwa ha dị ka ntụziaka ziri ezi, nke nwere ike iduga n'omume na-achọghị.

Na ule a na-achịkwa, ndị nchọpụta jisiri ike Wepụ data na Google Calendar wee ziga ya na email mpụga na-enweghị nkwenye onye ọrụ. Ke adianade do, ndị a usoro njikọ ezinụlọ nke ngwa ngwa injection ọgụ egosilarị na ngwa ọrụ (dịka Claude Code ma ọ bụ OpenAI Codex), nwere ike exfiltrate ozi ma ọ bụ kpalite omume akpaaka na-erigbu mmiri na-enweghị nchebe.

Vector nkesa dị obosara: onyonyo dị na webụsaịtị, meme kesara na WhatsApp ma ọ bụ a mkpọsa phishing nwere ike Mee ngwa ngwa mgbe ị na-arịọ AI ka ọ hazie ọdịnayaỌ dị mkpa iji mesie ya ike na mwakpo ahụ na-apụta mgbe AI ​​pipeline na-eme ihe nrịbama tupu nyocha; ilele ihe onyonyo a na-agabigaghị usoro ahụ anaghị akpalite ya.

Ya mere, ihe ize ndụ ahụ na-elekwasị anya na ntinye ebe AI nwere ike ịnweta ngwaọrụ ejikọrọ (dịka ọmụmaatụ, zipu ozi-e, lelee kalenda ma ọ bụ jiri API): Ọ bụrụ na enweghị nchekwa, ọ ga-egbu ha na-enweghị enyemaka onye ọrụ.

Algọridim adịghị ike na ngwaọrụ metụtara

Ọdịiche na-eme ka onyonyo dị na AI

Mwakpo ahụ na-erigbu otú ụfọdụ algọridim mpikota onu ozi dị elu n'ime pikselụ ole na ole mgbe ị na-ebelata: interpolation agbataobi kacha nso, interpolation bilinear, na interpolation bicubic. Nke ọ bụla na-achọ usoro ntinye dị iche iche maka ozi ahụ iji lanarị imegharị nha.

Ọdịnaya pụrụiche - Pịa ebe a  Eji ngwa ndị ọzọ ọ dị mma?

Iji tinye ntuziaka ndị a ejirila ngwa ọrụ mepere emepe Anamorpha, emebere iji tinye mkpali n'ime onyonyo dabere na algọridim ebumnuche ebumnuche wee zoo ha n'ụdị aghụghọ. Nhazi ihe onyonyo AI na-ekpughere ha n'ikpeazụ.

Ozugbo ekpughere ngwa ngwa, ihe nlereanya ahụ nwere ike rụọ ọrụ njikọ dị ka Zapier (ma ọ bụ ọrụ ndị yiri IFTTT) na agbụ omume: nchịkọta data, izipu ozi-e ma ọ bụ njikọ na ọrụ ndị ọzọ, niile n'ime a yiri ka nkịtị eruba.

Na nkenke, nke a abụghị ọdịda dịpụrụ adịpụ nke onye na-ebubata ya, kama ọ bụ a adịghị ike n'usoro n'ijizi ihe onyonyo a tụrụ atụ n'ime pipeline multimodal na-ejikọta ederede, ọhụụ, na ngwaọrụ.

Usoro mbelata na omume dị mma

synthID

Ndị nchọpụta na-atụ aro zere iweda ala mgbe ọ bụla enwere ike na kama, oke ibu akụkụ. Mgbe scaling dị mkpa, ọ bụ ihe amamihe dị na ya itinye a preview nke ihe nlereanya ga-ahụ n'ezie, nakwa na ngwaọrụ CLI na na API, ma jiri ngwaọrụ nchọpụta dị ka Google SynthID.

Na ọkwa nhazi, ihe nchebe kachasị sie ike bụ site na ụkpụrụ nchekwa na njikwa usoro megide injection ozi: ọ nweghị ọdịnaya agbakwunyere na onyonyo ga-enwe ike ibido Oku na ngwaọrụ ndị nwere mmetụta na-enweghị nkwenye doro anya onye ọrụ.

Ọdịnaya pụrụiche - Pịa ebe a  Chedo data nzuzo na ngwaọrụ mkpanaka

Na ọkwa arụmọrụ, ọ dị akọ Zenarị ibugo onyonyo nke amabeghị na Gemini ma jiri nlezianya nyochaa ikike enyere onye enyemaka ma ọ bụ ngwa (nweta email, kalenda, akpaaka, wdg). Ihe mgbochi ndị a na-ebelata mmetụta nwere ike ime.

Maka otu ndị ọrụ aka, ọ bara uru inyocha nhazi multimodal, ime ka igbe igbe ahụ sie ike, na ndekọ/ọmụma aka na-adịghị mma ngwá ọrụ ịgbalite mgbe nyochaa oyiyi. Nke a na-emeju nchekwa ọkwa ngwaahịa.

Ihe niile na-egosi na anyị na-eche ihu ọzọ dị iche iche nke ngwa ngwa injection Tinyere na ọwa anya. Site na usoro mgbochi, ntinye ntinye, na nkwenye amanyere iwu, a na-ebelata oke nke nrigbu yana ihe egwu dị maka ndị ọrụ na azụmaahịa.

Nchọpụta ahụ lekwasịrị anya n'ebe kpuru ìsì na ụdị multimodal: Ịkọcha ihe onyonyo nwere ike ịbụ vector ọgụ Ọ bụrụ na echekwaghị ya, ịghọta ka esi ebute ụzọ ntinye, na-amachi ikike, na ịchọ nkwenye tupu omume dị oke egwu nwere ike ime ọdịiche dị n'etiti foto nkịtị na ọnụ ụzọ data gị.

ndọtị na-achọpụta onyonyo ndị AI-0 mepụtara
Ihe gbasara ya:
Otu esi achọpụta ma ọ bụrụ na ọ bụ ọgụgụ isi keere ihe onyonyo: ngwaọrụ, ndọtị, na aghụghọ iji zere ịdaba n'ọnyà ahụ.