YouTube wzmacnia kontrolę nad deepfake’ami dzięki sztucznej inteligencji dla polityków i dziennikarzy

Problem Deepfake'i na YouTube nie są już kwestią anegdotyczną stać się kwestią strukturalną w debacie publicznej. Technologie generatywna sztuczna inteligencja Umożliwiają one tworzenie filmów, które naśladują twarze, głosy i gesty z zaskakującym realizmem, co jest czymś, co Zwiększa ryzyko kampanii dezinformacyjnych i kradzieży tożsamości.zwłaszcza w kontekście politycznym i medialnym.

Na tym etapie, YouTube zdecydował się znacząco rozszerzyć swoje narzędzie do wykrywania podobieństw oparte na sztucznej inteligencjiSystem zaprojektowany do identyfikowania, kiedy wizerunek osoby jest wykorzystywany bez jej zgody w filmach tworzonych lub manipulowanych za pomocą sztucznej inteligencji. To, co początkowo było funkcją zarezerwowaną dla twórców w programie partnerskim, jest teraz rozszerzane na… politycy, urzędnicy państwowi i dziennikarze, uważane za profile wysokiego ryzyka ze względu na ich wpływ na konwersację społeczną.

YouTube rozszerza wykrywanie deepfake’ów na osoby publiczne wysokiego ryzyka

Platforma potwierdziła, że Program pilotażowy wykrywania deepfake’ów otwiera się na nową grupę użytkownikówUrzędnicy państwowi, kandydaci polityczni i dziennikarze. Do tej pory funkcja ta była dostępna głównie dla członków Program partnerski YouTube, w tym tysiące profesjonalnych twórców i niektórych celebrytów, którzy padli ofiarą podszywania się pod nich za pomocą sztucznej inteligencji.

Ruch ten pojawia się w pewnym momencie szczególnie wrażliwe ze względu na kalendarz wyborczy i polaryzację informacjiTo samo dzieje się w Europie i Hiszpanii. Sfałszowane nagranie wideo, na którym kandydat wydaje się wygłaszać nieistniejące oświadczenia lub dziennikarz rozpowszechnia zmanipulowane wiadomości, może wpłynąć na agendę mediów w ciągu kilku godzin.

Według firmy narzędzie to umożliwia tym osobom Wykrywaj treści generowane przez sztuczną inteligencję, które bez Twojej zgody odtwarzają Twoją twarz lub głos.Jeśli uważasz, że film narusza Twoją prywatność lub może poważnie zaszkodzić Twojej reputacji, możesz złożyć wniosek o usunięcie materiału z platformy.

Rzecznicy YouTube'a twierdzą, że Funkcja ta jest prezentowana jako środek bezpieczeństwa obywatelskiego.Nie po to, by uciszyć krytykę. W rzeczywistości pełna lista polityków i dziennikarzy zaproszonych do udziału w programie pilotażowym nie jest publikowana, częściowo po to, by zapobiec temu, by narzędzie to stało się bronią w sporach partyjnych.

Tak działa wykrywanie podobieństwa: „Content ID” deepfake’ów

System wdrażany przez YouTube Jest bezpośrednio inspirowany Content IDNarzędzie, z którego platforma korzysta od lat, aby identyfikować muzykę, klipy wideo i inne treści chronione prawem autorskim. Główną różnicą jest to, że zamiast wyszukiwania dopasowań audio lub statycznych obrazów, tutaj nacisk kładziony jest na… tożsamość biometryczna osoby chronionej.

Aby skorzystać z tej ochrony, użytkownik musi: stworzyć profil referencyjny na podstawie ich twarzy (a w niektórych przypadkach także głosu)W praktyce oznacza to przesłanie wysokiej jakości filmu lub selfie wraz z oficjalnym dokumentem tożsamości. Proces ten jest podobny do weryfikacji wymaganej w innych usługach cyfrowych, ale w tym przypadku celem nie jest wyświetlenie publicznej odznaki „konto zweryfikowane”, lecz aktywacja automatycznego dopasowywania skanów w YouTube.

• Po zweryfikowaniu tożsamości platforma generuje biometryczny cyfrowy odcisk palca osoby.
• Na tej podstawie systemy sztucznej inteligencji YouTube'a analizują nowo przesyłane filmy. wyszukaj twarze lub głosy, które są znacząco podobne do zarejestrowanego profilu.
• Gdy zostanie wykryte potencjalne dopasowanie, Wideo jest oznaczone w wewnętrznych narzędziach użytkownika aby mógł to przejrzeć.
• Jeżeli poszkodowana strona uważa, że ​​jest to deepfake lub nieautoryzowane wykorzystanie jej wizerunku, możesz złożyć formalny wniosek o usunięcie.

W tle firma łączy klasyczne techniki rozpoznawania (takie jak haszowanie (dokładnych kopii) z zaawansowanymi modelami sztucznej inteligencji zdolnymi do identyfikacji typowe wzorce sztucznie generowanych treściod drobnych anomalii w geometrii twarzy po nienaturalne ruchy lub syntezę głosu, która jest niezgodna z oryginalnym filmem.

Ponadto Google wprowadziło niewidoczne znaczniki cyfrowe w niektórych treściach generowanych za pomocą własnych narzędziZnak wodny, rodzaj identyfikatora, który ułatwia śledzenie pochodzenia filmu. Ten rodzaj sygnalizacji sam w sobie nie rozwiązuje problemu deepfake'ów, ale dodaje kolejny poziom identyfikowalności w środowisku, w którym manipulacja audiowizualna staje się coraz bardziej dostępna.

Kto ma dostęp do serwisu YouTube i jakie wymagania on stawia?

Do niedawna, Dostęp mieli tylko twórcy, którzy brali udział w programie partnerskim do wykrywania podobieństw. Ta początkowa faza służyła testowaniu technologii z udziałem aktorów, sportowców i YouTuberzy bardzo znanych, którzy już wcześniej ucierpieli z powodu fałszywych wywiadów, reklam lub współpracy wymyślonej przy pomocy sztucznej inteligencji.

Wraz z zapowiedzianą ekspansją YouTube priorytetowo otwiera system dla trzech nowych grup: urzędnicy publiczni, aktywni kandydaci polityczni i dziennikarzeWedług firmy są to grupy szczególnie narażone na złośliwe wykorzystanie ich wizerunku, zarówno w kampaniach wyborczych, jak i w szerszym kontekście dezinformacji.

Dostęp nie jest jednak automatyczny. Aby aktywować ochronę, zainteresowane strony muszą przejść przez rygorystyczny proces weryfikacji tożsamościco obejmuje przesłanie najnowszego filmu lub selfie i przesłanie oficjalny dokument tożsamościTen krok ma na celu uniemożliwienie osobom trzecim przywłaszczania sobie tożsamości innej osoby w celu bezprawnego roszczeniowego wykorzystywania filmów.

YouTube upiera się, że Dane zebrane w tym procesie nie są wykorzystywane do trenowania modeli sztucznej inteligencji Googleale tylko do weryfikacji tożsamości i obsługi systemu wykrywania. Mimo to, przesyłanie danych biometrycznych na dużą platformę technologiczną już teraz wywołuje debatę w niektórych kręgach zajmujących się prywatnością i ochroną danych, zwłaszcza w Unii Europejskiej, gdzie obowiązują bardziej rygorystyczne przepisy.

Na razie, Proaktywny system wykrywania pozostaje zarezerwowany dla postaci o dużym narażeniu publicznym.Pozostali użytkownicy YouTube nadal mają dostęp do tradycyjnych mechanizmów raportowania i ochrony prywatności, pozwalających na zgłaszanie deepfake'ów i szkodliwych montaży, jednak bez automatycznego i ciągłego skanowania, z którego korzystają profile objęte programem.

Wykrycie nie jest tym samym, co eliminacja: ciężar wolności wypowiedzi

Jednym z kluczowych niuansów systemu jest to, że Samo wykrycie deepfake'a nie oznacza natychmiastowego usunięcia go.Każde żądanie złożone przez osobę chronioną jest analizowane indywidualnie w świetle polityki prywatności platformy. Innymi słowy, przed usunięciem filmu z YouTube stosuje się zarówno filtr ludzki, jak i regulacyjny.

Firma podkreśla, że Nie zamierzamy usuwać żadnych utworów, w których sztuczna inteligencja jest wykorzystywana do odtworzenia postaci publicznej.Wyraźne wyjątki dotyczą parodii, satyry politycznej i innych formatów, które – choć niewygodne dla niektórych – są częścią wolności słowa i demokratycznej debaty. Przerysowany, wyraźnie humorystyczny montaż światowego przywódcy może pozostać online, nawet jeśli system go wykryje, a osoba, której dotyczy, zażąda jego usunięcia.

Podejście to odpowiada częściowo na rzeczywistość, że Nie wszystkie deepfake'i mają złośliwe intencje.Wiele z nich służy do celów humorystycznych, komentarza społecznego lub eksperymentów artystycznych. Menedżerowie produktu YouTube wskazali, że wśród celebrytów i twórców korzystających już z tego narzędzia, liczba żądań usunięcia treści była bardzo niska, ponieważ wiele z wykrytych treści okazało się nieszkodliwych, a nawet korzystnych dla ich widoczności.

Jednak scenariusz zmienia się, gdy uwaga skupia się na urzędnikach państwowych i dziennikarzach. W takich przypadkach Zmanipulowane wideo może podważyć zaufanie publiczne, zakłócić przebieg wyborów lub poważnie zaszkodzić wiarygodności mediów.W tym miejscu platforma uznaje, że narzędzie to może odegrać ważniejszą rolę i że jej decyzje będą wnikliwie analizowane przez kampanie, organizacje obywatelskie i organy regulacyjne.

Nie wszyscy użytkownicy korzystają z tego poziomu ochrony. Osoby, które nie są częścią programu członkowskiego lub grupy osób publicznych objętych programem Nadal opierają się na standardowym systemie raportowania, który nie posiada modułu automatycznego skanowania. Ta nierównowaga między ochroną zapewnianą wpływowym i wpływowym osobom a ochroną zapewnianą zwykłym obywatelom napędza narastającą debatę na temat sprawiedliwości w zarządzaniu cyfrowym.

Etykiety, nowe funkcje i kontekst regulacyjny w Europie

Oprócz wykrywania podobieństw YouTube utrzymuje swoją politykę oznaczaj filmy wygenerowane lub zmienione za pomocą sztucznej inteligencjiLokalizacja tych ostrzeżeń nie zawsze jest taka sama: w niektórych przypadkach pojawiają się w opisie, natomiast w treściach uznawanych za szczególnie wrażliwe (na przykład związanych z wyborami lub sprawami obywatelskimi) etykieta jest wyświetlana bardziej widocznie na samym odtwarzaczu.

Menedżerowie platform przyznają, że Nie wszystkie zastosowania sztucznej inteligencji wymagają takiego samego poziomu ostrzeżenia.Krótkometrażowa animacja wygenerowana na podstawie modelu wideo to nie to samo, co rzekoma konferencja prasowa ministra, sfabrykowana od podstaw. To stopniowane ostrzeżenie opiera się na kryteriach redakcyjnych i wrażliwości tematu, co nieuchronnie otwiera drogę do dyskusji o spójności i przejrzystości tych decyzji.

Patrząc w przyszłość, YouTube bada Dodatkowe funkcje wzmacniające reakcję na najbardziej problematyczne deepfake’iRozważane są m.in. bezpośrednie zapobieganie przesyłaniu niektórych filmów przed ich publikacją, jeśli system wykryje oczywiste naruszenia, lub umożliwienie osobom, których dotyczą naruszenia, monetyzacji niektórych treści zamiast ich usuwania, zgodnie z modelem podobnym do Content ID stosowanego w przypadku praw autorskich.

Firma planuje również rozszerzyć wykrywanie poza twarzą, w kierunku rozpoznawalne głosy i innych elementów własności intelektualnej...takich jak ikoniczne postacie czy niezwykle charakterystyczne style. To rozszerzenie ma sens w środowisku, w którym klonowanie głosu jest niemal tak samo dostępne, jak manipulacja obrazem, a przekonująca imitacja dźwięku może być równie szkodliwa, jak zmanipulowany film.

Całe to wdrażanie technologii odbywa się podczas Debata regulacyjna wokół generatywnej sztucznej inteligencji w Stanach Zjednoczonych i Unii EuropejskiejYouTube wyraził swoje poparcie dla inicjatyw takich jak ustawa No Fakes Act w USA, która dąży do ustanowienia federalnego prawa do własnego wizerunku i głosu i jest przedstawiana jako wzór, który można eksportować do innych krajów. W Europie nacisk na Ustawa o sztucznej inteligencji W tym samym kierunku zmierzają również inne zasady dotyczące przejrzystości i moderowania treści: żądanie od dużych platform większej jasności co do tego, kiedy wideo jest generowane przez sztuczną inteligencję i jakie narzędzia są wykorzystywane do zwalczania nadużyć.

W krajach takich jak Hiszpania, gdzie dezinformacja cyfrowa i podszywanie się pod urzędników publicznych zyskują coraz większą popularność w debacie, Działania takie jak te podejmowane przez YouTube'a są postrzegane jako kolejny element układanki regulacyjnej i technologicznej.Same w sobie nie rozwiązują problemu deepfake, ale wyznaczają standard działania, który inne sieci i usługi wideo zaczynają powielać.

Działania YouTube'a mające na celu rozszerzenie wykrywania deepfake'ów o sztuczną inteligencję pokazują, jak daleko to sięga Autentyczność cyfrowa stała się kluczowym elementem życia publicznego w sieciPlatformy, ustawodawcy i użytkownicy balansują na granicy między wspieraniem kreatywności i innowacyjności a ograniczaniem najbardziej szkodliwych zastosowań technologii. Dzięki nowemu narzędziu skierowanemu do polityków, urzędników i dziennikarzy, YouTube stawia kolejny krok w tym kierunku, choć wciąż pozostają istotne pytania o to, kto otrzymuje priorytetową ochronę, jak podejmowane są decyzje o usunięciu treści i jakie realne środki ochrony przysługują zwykłym obywatelom przed coraz bardziej wiarygodnymi fałszerstwami.

Powiązany artykuł:

Wykrywanie podobieństwa w serwisie YouTube: kompletny przewodnik dla twórców

Alberto Navarro

Jestem entuzjastą technologii, który swoje „geekowskie” zainteresowania przekształcił w zawód. Spędziłem ponad 10 lat mojego życia, korzystając z najnowocześniejszych technologii i majsterkując przy wszelkiego rodzaju programach z czystej ciekawości. Teraz specjalizuję się w technologii komputerowej i grach wideo. Dzieje się tak dlatego, że od ponad 5 lat piszę dla różnych serwisów poświęconych technologii i grom wideo, tworząc artykuły, których celem jest dostarczenie potrzebnych informacji w języku zrozumiałym dla każdego.

Jeśli masz jakieś pytania, moja wiedza obejmuje wszystko, co jest związane z systemem operacyjnym Windows, a także Androidem dla telefonów komórkowych. Moje zaangażowanie jest wobec Ciebie. Zawsze jestem gotowy poświęcić kilka minut i pomóc Ci rozwiązać wszelkie pytania, jakie możesz mieć w tym internetowym świecie.