TikTok-uppsägningar: moderering blir centraliserad och AI tar över

Videoplattformen har startat en grupp på hundratals moderatorer i dina betrodda och säkra team, särskilt i Storbritannien och delar av Asien, samtidigt som man går mot en modell med större betoning på artificiell intelligens för att filtrera innehåll. Kritiken har inte låtit vänta på sig från fackföreningar och förespråkare för nätsäkerhet., som varnar för risker om mänsklig tillsyn minskas.

Beslutet sammanfaller med att de nya brittiska reglerna om internetsäkerhet träder i kraft och med en omorganisation för att koncentrera verksamheten på färre platser. Enligt interna meddelanden som citerats av brittisk och amerikansk press informerade företaget Londonpersonalen om att moderering och kvalitetskontroll kommer inte längre att utföras i Storbritannien och kommer att överföras till andra centra, i en process där AI kommer att få en framträdande plats.

Omstrukturering av moderering och överföring av funktioner

Källor som citeras av Financial Times indikerar att teamet av London fick ett internt meddelande: modererings- och kvalitetssäkringsarbete kommer inte längre att tillverkas i StorbritannienFöretaget planerar att centralisera den operativa erfarenheten till färre hubbar, med särskild tonvikt på Dublin och Lissabon, och har redan stängt ett liknande team i Berlin inom ramen för denna europeiska anpassning.

Omfattningen är anmärkningsvärd: det talas om flera hundra jobb drabbade både i Storbritannien och i Syd- och Sydostasien. Kommunikationsarbetarfacket uppskattar att det finns cirka 300 personer i förtroende och säkerhet, varav de flesta påverkas. Företaget har indikerat att det kommer att erbjuda prioritet för omlokalisering till dem som uppfyller vissa kriterier, utan att specificera vilka, och kallade till möten med personalen för att förklara processen.

Företaget insisterar på att detta är en omorganisationen inleddes förra året att stärka den globala verksamhetsmodellen för förtroende och säkerhet, genom att koncentrera aktiviteterna på färre platser för att uppnå konsekvens och snabbhet i svaret.

Turnen vilar på intensiv användning av artificiell intelligens i modereringskedjan. Företaget försäkrar att de har forskat på och implementerat dessa verktyg tvärgående i åratal och att de kommer att använda dem för att maximera effektivitet och hastighet när det gäller att ta bort innehåll som bryter mot reglerna. Det påstås till och med att AI automatiskt tar bort runt 85 % av publikationerna förövare, även om den inte har lagt fram bevis som offentligt stöder den siffran.

Trenden är inte exklusiv. Andra plattformar som t.ex. Meta eller YouTube De har länge förlitat sig på maskininlärningssystem för bildigenkänning, detektering av våldsamt språk och ålderskontroll. Fackföreningar och experter påpekar dock att det kan förbises att ersätta mänsklig moderering i stor skala. kulturella och kontextuella nyanser avgörande för att skydda de mest sårbara användarna.

Reglering, säkerhet och affärssiffror

Rörelsen sker i värmen från Lagen om säkerhet online i Storbritannien, vilket kräver att plattformar stärker åldersverifieringen och tar bort information snabbt skadligt eller olagligt innehållStraffen för bristande efterlevnad är höga: upp till 18 miljoner pund eller 10 % av den globala omsättningen, beroende på vilket som är störst. Som en del av denna anpassning introducerade företaget system för AI-baserad åldersverifiering för att avgöra användarnas ålder.

Dessutom har den brittiska dataskyddsmyndigheten ökat granskning av behandlingen av minderåriga, med en granskning som lanserades i mars av användningen av data från ungdomar i åldrarna 13 till 17. Detta regeltryck bidrar till det allmänna övervakningsklimatet gällande säkerhet och integritet på sociala medier.

På den ekonomiska fronten rapporterar företaget i Europa en ökning på 38 % jämfört med föregående år av inkomst till cirka 6.300 miljoner dollar, samtidigt som förlusterna före skatt minskades från 1.400 XNUMX till 485 miljoner dollarTrots förbättringen upprätthåller den en kostnadsoptimeringsplan och intern omorganisation vilket delvis förklarar beslutet att justera mallar och påskynda automatiseringen.

Facklig kritik har hörts. Arbetstagarnas representanter har anklagat företaget för sätta företagens intressen främst för personalens och allmänhetens säkerhet, och varna för att AI-alternativ fortfarande finns omogen för att säkerställa säker moderering utan mänskligt stöd. Oron gäller den potentiella ökningen av fel som påverkar sårbara användare.

Företaget försvarar å sin sida att användningen av AI redan är omfattande för att förbättra säkerheten både communityn och moderatorer, vilket minskar personalens exponering för skadligt innehåll och effektiviserar beslut. Det betonar också att målet med omorganisationen är stärka förtroende och säkerhet enligt en mer effektiv och globalt samordnad verksamhetsmodell.

Med den uppsägningar pågår och centralisering av funktioner i Europa står plattformen inför en vändpunkt: att följa strängare regler, upprätthålla tillväxt och visa att AI kan hålla skadligt innehåll borta utan att offra modereringens kvalitet inte heller användningen av yrkesverksamma som tillhandahåller kriterier och sammanhang.