TikTok-oppsigelser: moderering blir sentralisert og AI tar over

Videoplattformen har startet et kutt på hundrevis av moderatorer i dine pålitelige og sikre team, spesielt i Storbritannia og deler av Asia, samtidig som de beveger seg mot en modell med større vekt på kunstig intelligens for å filtrere innhold. Kritikken har ikke latt vente på seg fra fagforeninger og forkjempere for nettsikkerhet., som advarer om risikoer hvis menneskelig tilsyn reduseres.

Avgjørelsen sammenfaller med starten på de nye britiske forskriftene om internettsikkerhet og med en omorganisering for å konsentrere driften på færre steder. Ifølge intern kommunikasjon sitert av britisk og amerikansk presse, informerte selskapet London-ansatte om at moderering og kvalitetskontroll vil ikke lenger bli utført i Storbritannia og vil bli overført til andre sentre, i en prosess der AI vil få en fremtredende rolle.

Omstrukturering av moderering og overføring av funksjoner

Kilder sitert av Financial Times indikerer at teamet av London mottok et internt varsel: modererings- og kvalitetssikringsarbeid vil ikke lenger bli laget i StorbritanniaFirmaet planlegger å sentralisere driftserfaringen til færre knutepunkter, med særlig vekt på Dublin og Lisboa, og har allerede stengt et lignende team i Berlin innenfor rammen av denne europeiske tilpasningen.

Omfanget er bemerkelsesverdig: det er snakk om flere hundre arbeidsplasser berørt både i Storbritannia og i Sør- og Sørøst-Asia. Kommunikasjonsarbeidernes fagforening anslår at det er rundt 300 folk i trygghet og sikkerhet, hvorav de fleste er påvirket. Selskapet har indikert at det vil tilby prioritet for flytting til de som oppfyller visse kriterier, uten å spesifisere hvilke, og innkalte til møter med ansatte for å forklare prosessen.

Selskapet insisterer på at dette er en omorganisering startet i fjor å styrke den globale driftsmodellen for tillit og sikkerhet, og konsentrere aktivitetene i færre steder for å oppnå konsistens og hastighet i responsen.

Turnen hviler på intensiv bruk av kunstig intelligens i modereringskjeden. Selskapet forsikrer at de har forsket på og distribuert disse verktøyene på tvers i årevis, og at de vil bruke dem til å maksimer effektivitet og hastighet når det gjelder å fjerne innhold som bryter med reglene. Den hevder til og med at AI automatisk fjerner rundt 85 % av publikasjonene lovbrytere, selv om det ikke er fremlagt bevis som offentlig støtter dette tallet.

Trenden er ikke eksklusiv. Andre plattformer som Meta eller YouTube De har lenge vært avhengige av maskinlæringssystemer for bildegjenkjenning, gjenkjenning av voldelig språkbruk og aldersscreening. Fagforeninger og eksperter påpeker imidlertid at det kan overses å erstatte menneskelig moderering i massevis. kulturelle og kontekstuelle nyanser viktig for å beskytte de mest sårbare brukerne.

Regulering, sikkerhet og forretningstall

Bevegelsen skjer i varmen fra Lov om nettsikkerhet i Storbritannia, som krever at plattformer styrker aldersverifiseringen og fjerner informasjon raskt skadelig eller ulovlig innholdStraffene for manglende overholdelse er høye: opptil 18 millioner pund eller 10 % av den globale omsetningen, avhengig av hva som er størst. Som en del av denne tilpasningen introduserte selskapet systemer av AI-basert aldersverifisering å anslå brukernes alder.

I tillegg har den britiske databeskyttelsesmyndigheten økt gransking av behandlingen av mindreårige, med en gjennomgang lansert i mars av bruken av data fra ungdommer i alderen 13 til 17 år. Dette regulatoriske presset forsterker det generelle overvåkingsklimaet angående sikkerhet og personvern på sosiale medier.

På den økonomiske fronten rapporterer selskapet i Europa en en økning på 38 % fra år til år av inntekt til rundt 6.300 millioner, samtidig som tapene før skatt ble redusert fra 1.400 til 485 millionerTil tross for forbedringen opprettholder den en kostnadsoptimaliseringsplan og intern omorganisering noe som delvis forklarer beslutningen om å justere maler og akselerere automatisering.

Fagforeningskritikk har blitt hørt. Arbeidstakerrepresentanter har anklaget selskapet for sette bedriftens interesser først for sikkerheten til ansatte og publikum, og advarer om at AI-alternativer fortsatt er tilgjengelige umoden for å sikre sikker moderering uten menneskelig støtte. Bekymringen gjelder den potensielle økningen i feil som påvirker sårbare brukere.

Selskapet forsvarer på sin side at bruken av AI allerede er omfattende for å forbedre sikkerheten både fellesskapet og moderatorene, noe som reduserer de ansattes eksponering for skadelig innhold og effektiviserer beslutninger. Den understreker også at målet med omorganiseringen er styrke tillit og sikkerhet under en mer effektiv og globalt koordinert driftsmodell.

Med oppsigelser på gang og sentralisering av funksjoner i Europa står plattformen overfor et vendepunkt: å overholde strengere regler, opprettholde vekst og demonstrere at AI kan holde skadelig innhold unna uten å ofre kvaliteten på modereringen heller ikke bruk av fagfolk som gir kriterier og kontekst.