Wan rêyek dîtine ku fermanan di wêneyek Gemini de bi dizî bixin: pîvandina hêsan dihêle ku AI wan bicîh bîne.

Nûvekirina Dawîn: 03/09/2025

  • Êrîşek fermanên pirmodal ên nedîtî di wêneyan de vedişêre ku, dema ku li ser Gemini têne pîvandin, bêyî hişyariyê têne bicîh kirin.
  • Vektor pêş-proseskirina wêneyê (224x224/512x512) bikar tîne û amûrên mîna Zapier çalak dike da ku daneyan derxîne.
  • Algorîtmayên cîranê herî nêzîk, du-xêzik, û du-kubîk qels in; amûra Anamorpher dihêle ku ew werin derzîkirin.
  • Pispor şîret dikin ku berî kirina çalakiyên hesas, ji kêmkirina pîvanan, pêşdîtina têketinê û xwestina pejirandinê dûr bisekinin.

Êrîşên bi wêneyan li ser pergalên AI

Komek lêkolîneran rêbazek destwerdanê belge kiriye ku dikare dizîna daneyên kesane bi şandina rêwerzên veşartî di nav wêneyan deDema ku ew pel li pergalên pirmodal ên mîna Gemini têne barkirin, pêş-pêvajoya otomatîkî fermanan çalak dike, û AI wan dişopîne mîna ku ew derbasdar bin.

Ev vedîtin, ku ji hêla The Trail of Bits ve hatî ragihandin, bandorê li jîngehên hilberînê dike. wek Gemini CLI, Vertex AI Studio, Gemini API, Alîkarê Google an GensparkGoogle qebûl kiriye ku ev ji bo pîşesaziyê pirsgirêkek girîng e, û heta niha di jîngehên cîhana rastîn de ti delîlên îstismarkirinê tune ne. Ev lawazî bi rêya bernameya 0Din a Mozillayê bi awayekî nepenî hatiye ragihandin.

Êrîşa pîvandina wêneyê çawa dixebite

Êrîşa Pîvana Wêneyê ya Gemini Çawa Dixebite

Kilît di pêngava pêş-analîzê de ye: gelek boriyên AI Mezinahiya wêneyan bixweber li çareseriyên standard (224×224 an 512×512) biguherîne.Di pratîkê de, model pelê orîjînal nabîne, lê belê guhertoyek piçûktir dibîne, û li wir naveroka xerabkar tê eşkerekirin.

Naveroka taybetî - Li vir bikirtînin  Meriv çawa Samsung Wallet bi Google Pay veguherîne

Êrîşkar têxin nav Pêşniyarên pirmodal bi nîşanên avê yên nedîtî ve hatine veşartin, pir caran di deverên tarî yên wêneyê de. Dema ku algorîtmayên bilindkirinê dixebitin, ev şablon derdikevin holê û model wan wekî rêwerzên rewa şîrove dike, ku dikare bibe sedema çalakiyên nexwestî.

Di ceribandinên kontrolkirî de, lêkolîneran karîn ku Daneyan ji Salnameya Google derxînin û ji e-nameyek derveyî re bişînin bêyî pejirandina bikarhêner. Wekî din, ev teknîk bi malbata êrîşên derzîkirinê yên bilez jixwe di amûrên ajantî de (wek Claude Code an OpenAI Codex) hatine nîşandan, ku dikarin agahdariyê derxîne an jî çalakiyên otomasyonê çalak bike bikaranîna herikînên neewle.

Vektora belavkirinê fireh e: wêneyek li ser malperekê, memek li ser WhatsAppê hatî parvekirin an jî kampanyaya phishingê dikane Dema ku ji AI-ê tê xwestin ku naverokê pêvajo bike, fermanê çalak bikeGirîng e ku were tekez kirin ku êrîş dema ku boriya AI-ê berî analîzê pîvandinê pêk tîne, pêk tê; temaşekirina wêneyê bêyî ku di wê gavê re derbas bibe wê çalak nake.

Ji ber vê yekê, xetere di herikînan de kom dibe ku AI gihîştina amûrên girêdayî heye (mînak, e-nameyan bişînin, salnameyan kontrol bikin an jî APIyan bikar bînin): Heke tedbîrên parastinê tune bin, ew ê bêyî destwerdana bikarhêner wan bicîh bîne.

Algorîtmayên qels û amûrên têkildar

Lawaziya pîvandina wêneyê di AI de

Êrîş ji hin algorîtmayan sûd werdigire Agahiyên çareseriya bilind di pixelên kêmtir de bitepisînin dema biçûkkirinê: interpolasyona cîranê herî nêzîk, interpolasyona du-xêzik, û interpolasyona du-kubîk. Her yek ji wan teknîkek bicihkirinê ya cûda hewce dike da ku peyam piştî guhertina mezinahiyê bijî.

Naveroka taybetî - Li vir bikirtînin  Pergala Android SafetyCore: Ew çi ye û çima li ser têlefona we ye?

Ji bo bicihkirina van rêwerzan amûra çavkaniya vekirî hatiye bikaranîn Anamorfer, hatiye sêwirandin da ku li gorî algorîtmaya pîvandina hedefê nîşanan têxe nav wêneyan û wan di şêwazên nazik de veşêre. Dûv re pêş-pêvajoya wêneyan a AI-ê di dawiyê de wan eşkere dike.

Dema ku pêşniyar were eşkerekirin, model dikare entegrasyonên mîna Zapier çalak bike (an jî xizmetên mîna IFTTT) û çalakiyên zincîrîberhevkirina daneyan, şandina e-nameyan an girêdanên bi karûbarên partiya sêyemîn re, hemî di nav herikînek normal de xuya dike.

Bi kurtasî, ev ne têkçûnek tenê ya dabînker e, lê belê qelsiya avahîsaziyê di birêvebirina wêneyên pîvandî de di nav boriyên pirmodal de ku nivîs, vîzyon û amûran bi hev re dihewîne.

Tedbîrên sivikkirinê û pratîkên baş

ID-ya synth

Lêkolîner pêşniyar dikin heta ku mimkun be ji kêmkirina pîvanê dûr bisekinin û li şûna wê, pîvanên barkirinê yên sînorkirîDema ku pîvankirin pêwîst be, tê pêşniyar kirin ku meriv tê de pêşdîtina tiştê ku model dê bi rastî bibîne, her wiha di amûrên CLI û di API de, û amûrên tespîtkirinê yên wekî bikar bînin Google SynthID.

Di asta sêwirandinê de, parastina herî xurt bi rêya Modelên ewlehiyê û kontrolên sîstematîk li dijî derzîkirina peyamê: divê tu naveroka ku di wêneyekê de hatiye bicihkirin nikaribe dest pê bike Gazîkirin bo amûrên hesas bêyî piştrastkirina eşkere bikaranîvan.

Naveroka taybetî - Li vir bikirtînin  Meriv çawa ji xapandinên kirê dûr dixe

Di asta operasyonel de, maqûl e Ji barkirina wêneyên bi eslê xwe nenas bo Gemini dûr bisekinin û destûrên ku ji alîkar an sepanan re hatine dayîn bi baldarî binirxînin (gihîştina e-name, salname, otomasyon, hwd.). Ev astengî bandora potansiyel bi girîngî kêm dikin.

Ji bo tîmên teknîkî, hêjayî vekolîna pêş-pêvajoya pirmodal, hişkkirina sandboxa çalakiyê, û tomarkirin/hişyarî li ser qalibên anormal çalakkirina amûrê piştî analîzkirina wêneyan. Ev parastina asta hilberê temam dike.

Her tişt nîşan dide ku em bi rastî re rû bi rû ne guhertoyek din a derzîkirina bilez Ji bo kanalên dîtbarî tê sepandin. Bi tedbîrên pêşîlêgirtinê, verastkirina têketinê û piştrastkirinên mecbûrî, marja îstismarkirinê teng dibe û xetere ji bo bikarhêner û karsaziyan tê sînordarkirin.

Lêkolîn li ser xaleke kor di modelên pirmodal de disekine: Mezinbûna wêneyê dikare bibe vektorek êrîşê Eger neyê kontrolkirin, fêmkirina ka çawa daneyên têketinê pêşwext tên pêvajokirin, sînordarkirina destûran, û xwestina piştrastkirinan berî çalakiyên krîtîk dikare ferqa di navbera wêneyek sade û deriyê gihîştina daneyên we de çêbike.

dirêjkirin wêneyên ku ji hêla AI-0 ve hatine çêkirin tespît dikin
Gotara peywendîdar:
Meriv çawa tesbît dike ka wêneyek ji hêla îstîxbarata sûnî ve hatiye afirandin: amûr, dirêjkirin û hîle ji bo ku nekevin nav dafikê