- SynthID Detector és l'eina de Google per identificar contingut creat amb intel·ligència artificial mitjançant marques d'aigua invisibles.
- Permet analitzar i detectar imatges, vídeos, àudio i textos generats pels models d'IA propis de Google.
- SynthID Detector ressalta les parts del contingut més susceptibles d'haver estat generades per IA, millorant la transparència i la confiança.
- Ara com ara, el seu abast es limita als materials produïts amb les eines de Google, encara que es busca un estàndard més ampli en el futur.
La intel·ligència artificial s'ha colat en tots els racons digitals, transformant la manera com es creen textos, imatges i vídeos, però també generant un soroll important al voltant de l'autenticitat i la veracitat dels continguts. En plena allau de creacions sintètiques i deepfakes, Google ha decidit fer un pas endavant amb la presentació de SynthID Detector, el seu nou portal per detectar si un fitxer ha estat generat per IA utilitzant les seves pròpies eines.
Aquest avenç neix per fer front a un problema que ha anat creixent en els darrers anys: la dificultat de distingir entre allò real i allò generat artificialment. L'auge de la IA generativa, present en models com Gemini, Imatge, Veig o Lyria, ha fet que vídeos, imatges i textos siguin cada cop més convincents, alimentant la confusió en xarxes socials, mitjans i entorns educatius.
Què és SynthID Detector i com funciona?
La clau de SynthID Detector està en l'ús de tecnologia de marques d'aigua digitals invisibles integrades als arxius pels mateixos sistemes d'intel·ligència artificial de Google. A diferència dels segells convencionals, aquesta marca no afecta la qualitat, el significat ni la llegibilitat del material, i roman fins i tot si ha estat modificat, retallat o compartit per diferents canals.
El procés és senzill: els usuaris poden carregar imatges, clips de vídeo, fitxers d'àudio o fragments de text al portal. El sistema analitza cada element i detecta la presència d´una marca d´aigua SynthID. Si la trobeu, ressalta les parts del contingut que probablement van ser creades per IA. En cas de no localitzar una marca clara, indica les zones on la probabilitat d‟haver estat generades per IA és més alta.
Aquest mètode funciona per a diferents formats i modalitats de contingut, permetent així, en un sol lloc, examinar mitjans que van des de la fotografia digital fins a textos creats per models com Gemini. Segons dades compartides per Google, ja s'han marcat amb SynthID més de 10.000 milions de fitxers des del 2023, demostrant l'abast de la iniciativa.
A més, Google va més enllà i ha incorporat aquesta funció fins i tot en serveis com Google Photos, facilitant als seus usuaris la detecció d'imatges modificades o generades per IA a través del Magic Editor.
Transparència, limitacions i panorama de futur
Un dels punts forts de SynthID Detector és la transparència que aporta en un moment en què la desinformació i l'atribució errònia preocupen mitjans, investigadors, educadors i creadors. La disponibilitat de l'eina, encara que de moment restringida a un grup limitat d'usuaris en fase de proves (amb una llista d'espera per a periodistes i professionals), cerca aplanar el camí per a un ús més ampli a mitjà termini.
Tot i això, la utilitat de SynthID Detector té les seves fronteres: només reconeix contingut que hagi estat generat per les pròpies solucions de Google. Mitjans creats per altres plataformes, com ChatGPT o Meta, queden fora del seu abast perquè utilitzen sistemes de marca d'aigua diferents o, directament, no tenen aquest tipus de tecnologia.
Google és conscient que perquè la marca d'aigua digital sigui realment efectiva necessitaria convertir-se en un estàndard universal, interoperable i acceptat per la resta de grans tecnològiques. L'empresa cerca aliances i ja ha signat acords amb altres companyies, com Nvidia o la signatura de verificació GetReal, per expandir l'ús de SynthID Detector.
La pròpia Google reconeix que el sistema encara està en evolució i que hi ha desafiaments, especialment en la detecció de marques en fragments de text. Tot i així, la resistència de la marca a transformacions i edicions bàsiques representa un avenç davant de les limitacions d'altres sistemes de detecció d'IA, molts dels quals han resultat poc fiables o han estat retirats per problemes de precisió.
Implicacions i utilitat de l'eina
SynthID Detector suposa un suport per als que necessiten verificar l'autenticitat de documents o fitxers multimèdia, des de mitjans de comunicació fins a docents que busquen evitar plagis o trampes en treballs acadèmics. La capacitat de discernir entre allò creat per IA i allò genuí és avui fonamental per mantenir la confiança en la informació que circula per la xarxa.
L'eina se suma, a més, a un esforç més ampli de la indústria per dotar els usuaris de mecanismes contra la manipulació digital i els deepfakes. Si bé hi ha altres propostes i solucions, SynthID representa un dels desenvolupaments més avançats per a integració creuada (text, imatge, vídeo i àudio).
La possibilitat que altres grans empreses adoptin SynthID com a estàndard podria ser clau. Ara com ara, Google anima altres firmes del sector IA a sumar-se a aquesta proposta de transparència; encara que encara s'ha de veure si la resta de la indústria acceptarà un sistema homogeni o continuarà competint amb solucions pròpies.
La irrupció de portals com SynthID Detector marca un abans i un després a la batalla per reconèixer el treball generat per intel·ligència artificial. Tot i que les marques d'aigua invisibles no són la solució definitiva —perquè sempre hi haurà eines que intentin esquivar-les—, sí que representen una capa extra de defensa davant la manipulació que amenaça de desdibuixar la frontera entre allò autèntic i allò artificial.
Sóc un apassionat de la tecnologia que ha convertit els seus interessos frikis en professió. Porto més de 10 anys de la meva vida utilitzant tecnologia d'avantguarda i traslladant tota mena de programes per pura curiositat. Ara he especialitzat en tecnologia d'ordinador i videojocs. Això és perquè des de fa més de 5 anys que treballo redactant per a diverses webs en matèria de tecnologia i videojocs, creant articles que busquen donar-te la informació que necessites amb un llenguatge comprensible per tothom.
Si tens qualsevol pregunta, els meus coneixements van des de tot allò relacionat amb el sistema operatiu Windows així com Android per a mòbils. I és que el meu compromís és amb tu, sempre estic disposat a dedicar-te uns minuts i ajudar-te a resoldre qualsevol dubte que tinguis a aquest món d'internet.