Vad är SynthID, vattenmärket för artificiell intelligens?

Framväxten av generativ AI har ökat produktionen av bilder, texter, ljud och videor i en skala som aldrig tidigare skådats, och med den har tvivlet på deras ursprung vuxit; i detta sammanhang, Identifiera om innehåll har skapats eller ändrats av en modell blir nyckeln till digitalt förtroende. SynthID kan vara en utmärkt lösning.

Detta är Google DeepMinds förslag, ett familj av "osynliga" vattenmärkningstekniker som är direkt inbäddade i AI-genererat innehåll för att underlätta efterföljande verifiering utan att försämra den kvalitet som uppfattas av människor.

Vad är SynthID och vad är det avsett för?

Google beskriver SynthID som ett verktyg för specifikt vattenmärke för AI-genererat innehåll, utformad för att främja transparens och spårbarhet. Den är inte begränsad till ett format: den omfattar bilder, ljud, text och video, så att en enda teknisk metod kan tillämpas på olika typer av media.

I Googles ekosystem används det redan på flera sätt:

• I texten, flaggan gäller för Gemini-svar.
• I ljud, används med Lyria-modellen och med funktioner som att skapa poddsändningar från text i Notebook LM.
• En video, är integrerad i Veo Creations, modellen som kan generera klipp i 1080p.

I alla fall vattenstämpel Den är omärklig och har utformats för att tål frekventa modifieringar såsom komprimering, rytmförändringar i ljud- eller videoklipp, utan att kvaliteten försämras.

Utöver tekniken är dess praktiska mål tydligt: hjälpa till att skilja syntetiskt material från det som produceras utan AI, så att användare, medier och institutioner kan fatta välgrundade beslut om konsumtion och distribution av innehåll.

Så här fungerar textvattenmärket (SynthID Text)

I praktiken fungerar SynthID Text som en logitprocessor som kopplar in sig i språkmodellgenereringspipelinen efter de vanliga samplingsfiltren (Top-K och Top-P). Denna processor modifierar subtilt modellpoängen med en pseudoslumpmässig funktion g, som kodar information i ett sannolikhetsmönster utan att introducera synliga artefakter i textens stil eller kvalitet.

Resultatet är en text som vid första anblicken upprätthåller kvalitet, precision och smidighet, men som innehåller en statistisk struktur som kan detekteras med en utbildad verifierare.

För att skapa text med vattenstämpel är det inte nödvändigt omskola modellen: ange helt enkelt en konfiguration till metoden .generate() och aktivera SynthID Texts logitprocessor. Detta förenklar implementeringen och möjliggör testning med redan distribuerade modeller.

Vattenmärkesinställningarna inkluderar två viktiga parametrar: keys y ngram_len. Nycklarna är en lista med unika, slumpmässiga heltal som används för att poängsätta vokabulären med hjälp av g-funktionen; längden på den listan styr hur många "lager" av vattenstämpel som appliceras. Samtidigt, ngram_len Ställer in balansen mellan detekterbarhet och robusthet mot transformationer: högre värden gör detektering enklare men gör sigillet mer sårbart för förändringar; ett värde på 5 fungerar bra som utgångspunkt.

Dessutom använder SynthID Text en provtagningstabell med två egenskaper: sampling_table_size y sampling_table_seedEn storlek på minst 2^16 rekommenderas för att säkerställa att funktionen g beter sig stabilt och opartiskt vid sampling, med hänsyn till att en större storlek betyder mer minne under inferens. Fröet kan vara vilket heltal som helst, vilket underlättar reproducerbarhet i utvärderingsmiljöer.

Det finns en viktig nyans för att förbättra signalen: upprepade n-gram inom den senaste historien av sammanhanget (definierad av context_history_size) är inte markerade, vilket gynnar märkets detekterbarhet i resten av texten och minskar falska positiva resultat kopplade till naturliga upprepningar av språket.

Av säkerhetsskäl, varje vattenmärkeskonfiguration (inklusive dess nycklar, frö och parametrar) måste förvaras privatOm dessa nycklar läcks ut kan tredje part enkelt kopiera varumärket eller, ännu värre, försöka manipulera det med full kunskap om dess struktur.

Hur man upptäcker: probabilistisk verifiering med tröskelvärden

Verifiering av ett vattenmärke i text är inte binär, utan probabilistiskGoogle publicerar en Bayesiansk detektor på både Transformers och GitHub som, efter att ha analyserat textens statistiska mönster, returnerar tre möjliga tillstånd: märkesvaror, omärkt o osäkerDenna ternära utgång gör det möjligt att justera operationen till olika risk- och feltoleranssammanhang.

Verifierarens beteende kan konfigureras av två trösklar som styr andelen falskt positiva och falskt negativa resultat. Med andra ord kan du kalibrera hur strikt du vill att detekteringen ska vara, vilket offrar känslighet för noggrannhet eller vice versa beroende på ditt användningsfall, något som är särskilt användbart i redaktionella miljöer, moderering eller internrevision.

Om flera modeller delar samma tokeniserare, kan också dela samma märkeskonfiguration och samma detektor, så länge verifierarens träningsuppsättning innehåller exempel på alla. Detta gör det enklare att bygga "gemensamma vattenstämplar" i organisationer med flera juridiska institut.

När detektorn är tränad kan organisationer bestämma dess exponeringsnivå: behåll den helt privat, erbjuda det på ett sätt halvprivat via ett API, eller släppa det på ett sätt offentlig för nedladdning och användning av tredje part. Valet beror på varje enhets infrastrukturkapacitet, regulatoriska risker och transparensstrategi.

Vattenstämpel på bilder, ljud och video

Detta märke är utformat för att hålla vanliga transformationer såsom beskärning, storleksändring, rotering, färgändring eller till och med skärmdumpar, utan att behöva behålla metadata. Ursprungligen erbjöds dess användning genom Bild i Vertex AI, där användare kan välja att aktivera vattenstämpeln när de genererar innehåll.

Inom ljud är varumärket ohörbar och stöder vanliga funktioner som MP3-komprimering, att lägga till brus eller ändra uppspelningshastighet. Google integrerar det i Lyria och i Notebook LM-baserade funktioner, förstärkning av signalen även när filen passerar genom förlustbringande publiceringsströmmar.

I video replikerar tillvägagångssättet bildmetoden: varumärket är inbäddat i pixlar i varje bildruta, omärkligt, och förblir stabil mot filter, förändringar i uppdateringsfrekvens, komprimering eller skärningarVideor genererade av Jag ser Verktyg som VideoFX använder den här markeringen under skapandet, vilket minskar risken för oavsiktlig radering i efterföljande redigeringar.

Samplingsalgoritmer och textsigillets robusthet

Hjärtat i SynthID Text är dess samplingsalgoritm, som använder en nyckel (eller en uppsättning nycklar) för att tilldela pseudoslumpmässiga poäng till varje potentiell token. Kandidater dras från modellens fördelning (efter Top-K/Top-P) och placeras i "tävling" efter elimineringsrundor, tills den högst poänggivande token väljs enligt funktionen g.

Detta urvalsförfarande gynnar slutligt statistiskt mönster av sannolikheterna bär varumärkets prägel, men utan att tvinga fram onaturliga alternativ. Enligt publicerade studier gör tekniken det svårt radera, förfalska eller omvända sigillet, alltid inom rimliga gränser mot motståndare med tid och motivation.

God implementerings- och säkerhetspraxis

• Om du distribuerar SynthID Text, behandla konfigurationen som produktionshemlighetFörvara nycklar och frön i en säker hanterare, tillämpa åtkomstkontroller och tillåt regelbunden rotation. Att förhindra läckor minskar attackytan mot reverse engineering-försök.
• Utforma en plan för att övervakning för din detektor: registrera falskt positiva/negativa frekvenser, justera tröskelvärdena efter sammanhang och bestäm din detektionspolicy exponering (privat, semiprivat via API eller offentlig) med tydliga juridiska och operativa kriterier. Och om flera modeller delar en tokenizer, överväg att träna en gemensam detektor med exempel på alla för att förenkla underhållet.
• På prestationsnivå bedömer den effekten av sampling_table_size i minne och latens, och välj en ngram_len som balanserar din tolerans för redigeringar med behovet av tillförlitlig detektering. Kom ihåg att utesluta upprepade n-gram (via context_history_size) för att förbättra signalen i flytande text.

SynthID är inte en mirakelkur mot felinformation, men utgör en grundläggande byggsten för att återuppbygga förtroendekedjan i den generativa AI-eran. Genom att bädda in provenienssignaler i text, bilder, ljud och video, och öppna upp textkomponenten för communityn, strävar Google DeepMind mot en framtid där autenticitet kan granskas på ett praktiskt, mätbart och framför allt kompatibelt sätt med innehållets kreativitet och kvalitet.