Yapay zekanın filigranı SynthID nedir?

Üretken yapay zekanın ortaya çıkışı, daha önce hiç görülmemiş bir ölçekte görüntü, metin, ses ve video üretimini artırdı ve bununla birlikte bunların kökeni hakkındaki şüpheler de arttı; bu bağlamda, İçeriğin bir model tarafından oluşturulup oluşturulmadığını veya değiştirilip değiştirilmediğini belirleyin dijital güvenin anahtarı haline geliyor. SynthID harika bir çözüm olabilir.

Bu, Google DeepMind'ın önerisidir. "görünmez" filigranlama teknikleri ailesi Bunlar, insanların algıladığı kaliteyi düşürmeden sonraki doğrulamayı kolaylaştırmak için doğrudan yapay zeka tarafından oluşturulan içeriğe yerleştirilir.

SynthID nedir ve ne işe yarar?

Google, SynthID'yi bir araç olarak tanımlıyor AI tarafından oluşturulan içerik için özel filigranŞeffaflık ve izlenebilirliği teşvik etmek için tasarlanmıştır. Tek bir formatla sınırlı değildir: görselleri, sesleri, metinleri ve videoları kapsar, böylece farklı medya türlerine tek bir teknik yaklaşım uygulanabilir.

Google ekosisteminde halihazırda çeşitli şekillerde kullanılıyor:

• Metinde, bayrak İkizler burcunun tepkilerine uygulanır.
• Ses kaydında, Lyria modeliyle ve Notebook LM'de metinden podcast oluşturma gibi özelliklerle kullanılır.
• En video, 1080p'de klipler üretebilen model, Veo kreasyonlarına entegre edilmiştir.

Her durumda filigran Algılanmaz ve tasarlanmıştır sık değişikliklere dayanıklı sıkıştırma, ses veya video kesitlerinde ritim değişiklikleri gibi, kaliteyi düşürmeden.

Teknolojinin ötesinde, pratik amacı açıktır: sentetik materyali yapay zeka kullanılmadan üretilenden ayırt etmeye yardımcı olurBöylece kullanıcılar, medya ve kurumlar içerik tüketimi ve dağıtımı konusunda bilinçli kararlar alabilirler.

Metin filigranı (SynthID Metni) nasıl çalışır?

Uygulamada, SynthID Text bir logit işlemci Bu işlemci, normal örnekleme filtrelerinden (En İyi K ve En İyi P) sonra dil modeli oluşturma hattına bağlanır. Bu işlemci, model puanlarını gizlice değiştirir. sözde rastgele fonksiyon g, metnin tarzına veya niteliğine görünür eserler sokmadan, bilgiyi olasılıklar örüntüsü içinde kodlamak.

Sonuç, ilk bakışta, şu izlenimi veren bir metindir: kalite, hassasiyet ve akışkanlık, ancak eğitilmiş bir doğrulayıcı tarafından tespit edilebilen istatistiksel bir yapıyı içerir.

Filigranlı metin oluşturmak için gerekli değildir modeli yeniden eğitmek: yönteme basitçe bir yapılandırma sağlayın .generate() ve SynthID Text'in logit işlemcisini etkinleştirin. Bu, benimsenmeyi kolaylaştırır ve halihazırda dağıtılmış modellerle test yapılmasına olanak tanır.

Filigran ayarları iki temel parametreyi içerir: keys y ngram_len. Anahtarlar g fonksiyonu kullanılarak kelime dağarcığına puan vermek için kullanılan benzersiz, rastgele tam sayılardan oluşan bir listedir; bu listenin uzunluğu, filigranlamanın kaç "katmanının" uygulanacağını kontrol eder. Bu arada, ngram_len Dönüşümler için tespit edilebilirlik ve sağlamlık arasında denge kurar: daha yüksek değerler tespiti kolaylaştırır ancak mührü değişikliklere karşı daha savunmasız hale getirir; 5 değeri bir başlangıç ​​noktası olarak iyi iş görür.

Ek olarak, SynthID Metni bir örnekleme tablosu iki özelliği ile: sampling_table_size y sampling_table_seedÖrnekleme sırasında g fonksiyonunun kararlı ve tarafsız bir şekilde davranmasını sağlamak için en az 2^16'lık bir boyut önerilir; bu, daha büyük boyut daha fazla bellek anlamına gelir Çıkarım sırasında. Tohum herhangi bir tam sayı olabilir, bu da değerlendirme ortamlarında tekrarlanabilirliği kolaylaştırır.

Sinyalin iyileştirilmesi için önemli bir nüans var: tekrarlanan n-gramlar bağlamın yakın tarihi içinde (tanımlandığı gibi) context_history_size) işaretlenmemiş olması, işaretin metnin geri kalanında tespit edilebilirliğini artırır ve dilin doğal tekrarlarıyla bağlantılı yanlış pozitifleri azaltır.

Güvenlik için her filigran yapılandırması (anahtarları, tohumu ve parametreleri dahil) özel olarak saklanmalıdırBu anahtarlar sızdırılırsa, üçüncü taraflar markayı kolayca kopyalayabilir veya daha da kötüsü, yapısını tam olarak bilmelerine rağmen onu manipüle etmeye çalışabilirler.

Nasıl tespit edilir: eşiklerle olasılıksal doğrulama

Metindeki bir filigranın doğrulanması ikili değildir, ancak olasılıksalGoogle, hem Transformers'da hem de GitHub'da metnin istatistiksel örüntüsünü analiz ettikten sonra üç olası durumu döndüren bir Bayes dedektörü yayınlıyor: markalı, markasız o belirsizBu üçlü çıktı, operasyonun farklı risk ve hata toleransı bağlamlarına göre ayarlanmasına olanak tanır.

Doğrulayıcının davranışı şu şekilde yapılandırılabilir: iki eşik Yanlış pozitif ve yanlış negatif oranını kontrol eden bir sistem. Başka bir deyişle, kullanım durumunuza bağlı olarak hassasiyetten ödün vererek doğruluk veya tam tersini yaparak tespitin ne kadar katı olmasını istediğinizi ayarlayabilirsiniz. Bu, özellikle editoryal ortamlar, moderasyon veya iç denetim.

Birkaç model aynı şeyi paylaşıyorsa tokenleştirici, ayrıca paylaşabilir aynı marka konfigürasyonu ve aynı dedektörDoğrulayıcının eğitim seti tüm bu örneklerden oluştuğu sürece. Bu, birden fazla LLM derecesine sahip kuruluşlarda "ortak filigranlar" oluşturmayı kolaylaştırır.

Dedektör eğitildikten sonra, kuruluşlar maruz kalma düzeyine karar verebilir: onu koruyun tamamen özel, bunu bir şekilde teklif edin yarı özel bir API aracılığıyla veya bir şekilde yayınlayın halk Üçüncü taraflarca indirilip kullanılabilir. Seçim, her kuruluşun altyapı işletme kapasitesine, düzenleyici risklere ve şeffaflık stratejisine bağlıdır.

Resim, ses ve videolarda filigran

Bu marka uzun ömürlü olacak şekilde tasarlanmıştır ortak dönüşümler kırpma, yeniden boyutlandırma, döndürme, renk değiştirme ve hatta ekran görüntüleri gibi işlemleri meta verileri saklamaya gerek kalmadan gerçekleştirebilirsiniz. Başlangıçta, kullanımı şu şekilde sunulmuştu: Vertex AI'daki görüntüKullanıcıların içerik oluştururken filigranı etkinleştirmeyi seçebildiği bir özellik.

Seste marka duyulamaz ve MP3 sıkıştırma, gürültü ekleme veya oynatma hızını değiştirme gibi yaygın işlemleri destekler. Google bunu şu şekilde entegre eder: Liria ve Notebook LM tabanlı özelliklerde, dosya kayıplı yayınlama akışlarından geçse bile sinyali yükseltir.

Videoda yaklaşım, görüntü yaklaşımını tekrarlıyor: marka, her karenin pikselleri, fark edilmeden ve filtrelere, yenileme hızındaki değişikliklere, sıkıştırmaya veya kesikler. Tarafından oluşturulan videolar Anlıyorum VideoFX gibi araçlar, bu işareti oluşturma sırasında dahil ederek, sonraki düzenlemelerde yanlışlıkla silinme riskini azaltır.

Örnekleme algoritmaları ve metin mührünün sağlamlığı

SynthID Text'in kalbi şudur: örnekleme algoritması, her potansiyel jetona sözde rastgele puanlar atamak için bir anahtar (veya anahtar kümesi) kullanır. Adaylar, modelin dağılımından (En İyi K/En İyi P'den sonra) seçilir ve eleme turlarının ardından "yarışmaya" tabi tutulur; ta ki g fonksiyonuna göre en yüksek puana sahip jeton seçilene kadar.

Bu seçim prosedürü, son istatistiksel model Olasılıkların çoğu markanın damgasını taşıyor, ancak doğal olmayan seçenekleri zorlamadan. Yayınlanan çalışmalara göre, bu teknik bunu zorlaştırıyor silmek, tahrif etmek veya tersine çevirmek Mühür, zamana ve motivasyona sahip rakiplere karşı her zaman makul sınırlar içindedir.

İyi uygulama ve güvenlik uygulamaları

• SynthID Metni dağıtıyorsanız, yapılandırmayı şu şekilde ele alın: üretim sırrı: Anahtarları ve veri kaynaklarını güvenli bir yöneticide saklayın, erişim kontrollerini uygulayın ve periyodik rotasyona izin verin. Sızıntıları önlemek, tersine mühendislik girişimlerine karşı saldırı yüzeyini azaltır.
• Bir plan tasarlayın izleme dedektörünüz için: yanlış pozitif/negatif oranlarını kaydedin, eşikleri bağlama göre ayarlayın ve tespit politikanıza karar verin maruziyet (özel, API aracılığıyla yarı özel veya genel) net yasal ve operasyonel kriterlere sahip. Birden fazla model bir belirteç oluşturucuyu paylaşıyorsa, bir belirteç oluşturucuyu eğitmeyi düşünün. ortak dedektör Bakımı kolaylaştırmak için hepsinin örnekleriyle birlikte.
• Performans düzeyinde, aşağıdakilerin etkisini değerlendirir: sampling_table_size bellekte ve gecikmede ve bir tane seçin ngram_len Düzenlemelere karşı toleransınızı güvenilir tespit ihtiyacıyla dengeleyen bir sistemdir. Tekrarlanan n-gramları (aracılığıyla) hariç tutmayı unutmayın. context_history_size) akan metindeki sinyali iyileştirmek için.

SynthID yanlış bilgilere karşı kesin bir çözüm değil, ancak Üretken yapay zeka çağında güven zincirinin yeniden inşası için temel bir yapı taşı sağlar. Google DeepMind, menşe sinyallerini metne, görsellere, sese ve videoya yerleştirerek ve metin bileşenini topluluğa açarak, özgünlüğün pratik, ölçülebilir ve her şeyden önce içeriğin yaratıcılığı ve kalitesiyle uyumlu bir şekilde denetlenebileceği bir geleceğe doğru ilerliyor.