Prepúšťanie na TikToku: moderovanie sa stáva centralizovaným a preberá ho umelá inteligencia

Video platforma bola spustená strih zo stoviek moderátorov vo vašich dôveryhodných a bezpečných tímoch, najmä v Spojené kráľovstvo a časti Ázie, pričom sa presúva smerom k modelu s väčším dôrazom na umelú inteligenciu na filtrovanie obsahu. Kritika od odborov a zástancov online bezpečnosti na seba nenechala dlho čakať., ktoré varujú pred rizikami, ak sa zníži ľudský dohľad.

Toto rozhodnutie prichádza v čase, keď nadobudli účinnosť nové britské predpisy o internetovej bezpečnosti a zároveň... reorganizácia s cieľom sústrediť operácie na menšom počte miest. Podľa internej komunikácie citovanej britskou a americkou tlačou spoločnosť informovala londýnskych zamestnancov, že moderovanie a kontrola kvality sa už nebude vykonávať v Spojenom kráľovstve a bude presunuté do iných centier, v procese, v ktorom umelá inteligencia získa na význame.

Reštrukturalizácia moderovania a presun funkcií

Zdroje, na ktoré sa odvoláva Financial Times, naznačujú, že tím Londýn dostal interné oznámenie: moderovanie a zabezpečenie kvality práce sa už nebude vyrábať v Spojenom kráľovstveFirma plánuje centralizovať prevádzkové skúsenosti v menšom počte centier, s osobitným dôrazom na Dublin a Lisabona v rámci tejto európskej úpravy už uzavrel podobný tím v Berlíne.

Rozsah je pozoruhodný: hovorí sa o postihnutých niekoľko stoviek pracovných miest v Spojenom kráľovstve aj v južnej a juhovýchodnej Ázii. Odborový zväz pracovníkov v komunikáciách odhaduje, že existuje približne 300 ľudí v oblasti dôvery a bezpečnosti, z ktorých väčšina je ovplyvnená. Spoločnosť uviedla, že ponúkne priorita premiestnenia tým, ktorí spĺňajú určité kritériá, bez toho, aby podrobne uviedol, ktoré, a zvolal stretnutia so zamestnancami, aby im vysvetlil postup.

Spoločnosť trvá na tom, že ide o reorganizácia sa začala minulý rok posilniť globálny operačný model dôvery a bezpečnosti so zameraním aktivít na menej lokalít dosiahnuť konzistentnosť a rýchlosť reakcie.

Ťah spočíva na intenzívne zavádzanie umelej inteligencie v reťazci moderovania. Spoločnosť uisťuje, že tieto nástroje skúma a nasadzuje transverzálne už roky a že ich využije na maximalizovať efektivitu a rýchlosť pokiaľ ide o odstraňovanie obsahu, ktorý porušuje pravidlá. Dokonca tvrdí, že umelá inteligencia automaticky odstraňuje približne 85 % publikácií páchateľov, hoci neposkytla dôkazy na verejnú podporu tohto čísla.

Tento trend nie je exkluzívny. Ďalšie platformy, ako napríklad Meta alebo YouTube Dlho sa spoliehali na systémy strojového učenia na rozpoznávanie obrázkov, detekciu násilného jazyka a skríning veku. Odbory a experti však poukazujú na to, že hromadné nahradenie ľudskej moderácie môže byť prehliadané. kultúrne a kontextové nuansy nevyhnutné na ochranu najzraniteľnejších používateľov.

Regulácia, bezpečnosť a obchodné čísla

Pohyb sa deje v teple Zákon o online bezpečnosti Spojeného kráľovstva, ktoré vyžaduje, aby platformy posilnili overovanie veku a rýchlo odstránili informácie škodlivý alebo nelegálny obsahPokuty za nedodržanie sú vysoké: až do výšky 18 miliónov libier alebo... 10 % celosvetového obratu, podľa toho, ktorá hodnota je väčšia. V rámci tejto adaptácie spoločnosť zaviedla systémy Overenie veku pomocou umelej inteligencie na odvodenie veku používateľov.

Britský regulátor ochrany údajov okrem toho zvýšil kontrola zaobchádzania s maloletými, pričom v marci sa začala revízia používania údajov od dospievajúcich vo veku 13 až 17 rokov. Tento regulačný tlak prispieva k všeobecnej atmosfére dohľadu, pokiaľ ide o bezpečnosť a súkromie na sociálnych sieťach.

Z ekonomického hľadiska spoločnosť v Európe hlási medziročný nárast o 38 % príjmu okolo 6.300 miliárd dolárov, pričom znížila svoje straty pred zdanením z 1.400 XNUMX na 485 miliárd dolárovNapriek zlepšeniu si zachováva plán optimalizácie nákladov a vnútorná reorganizácia čo čiastočne vysvetľuje rozhodnutie upraviť šablóny a zrýchliť automatizáciu.

Zaznela kritika odborov. Zástupcovia pracovníkov obvinili spoločnosť z uprednostniť záujmy spoločností pre bezpečnosť zamestnancov a verejnosti a varujú, že alternatívy umelej inteligencie sú stále nezrelý aby sa zabezpečila bezpečná moderácia bez ľudskej podpory. Obavy sa týkajú potenciálneho nárastu zlyhaní ovplyvňujúcich zraniteľní používatelia.

Spoločnosť sa zasa bráni tvrdením, že používanie umelej inteligencie je už komplexné na zlepšenie bezpečnosti komunitu aj moderátorov, čím sa znižuje vystavenie zamestnancov škodlivému obsahu a zefektívnia sa rozhodovanie. Zdôrazňuje sa tiež, že cieľom reorganizácie je posilniť dôveru a bezpečnosť v rámci efektívnejšieho a globálne koordinovaného operačného modelu.

S prebiehajúce prepúšťanie a centralizácia V Európe čelí platforma zlomovému bodu: dodržiavaniu prísnejších pravidiel, udržaniu rastu a preukázaniu, že umelá inteligencia dokáže držať škodlivý obsah na uzde bez toho, aby musela obetovať... kvalita moderovania ani využitie profesionálov, ktorí poskytujú kritériá a kontext.