Ontslagen op TikTok: moderatie wordt gecentraliseerd en AI neemt het over

Het videoplatform is gestart een knipsel van honderden moderators in uw vertrouwde en veilige teams, vooral in Verenigd Koninkrijk en delen van Aziëterwijl we overstappen op een model waarbij meer nadruk wordt gelegd op kunstmatige intelligentie om content te filteren. Het duurde niet lang voordat er kritiek kwam van vakbonden en voorstanders van online veiligheid.die waarschuwen voor risico's als het menselijk toezicht wordt verminderd.

Het besluit valt samen met de start van de nieuwe Britse regelgeving op het gebied van internetveiligheid en met een reorganisatie om de activiteiten te concentreren op minder locaties. Volgens interne communicatie, aangehaald door de Britse en Amerikaanse pers, informeerde het bedrijf het personeel in Londen dat moderatie en kwaliteitscontrole zal niet langer in het Verenigd Koninkrijk worden uitgevoerd en zal worden overgebracht naar andere centra, in een proces waarin AI aan belang zal winnen.

Herstructurering van moderatie en overdracht van functies

Bronnen die door de Financial Times worden aangehaald, geven aan dat het team van Londen interne mededeling ontvangen: moderatie- en kwaliteitsborgingswerkzaamheden wordt niet meer in het Verenigd Koninkrijk gemaaktHet bedrijf is van plan de operationele ervaring te centraliseren in een kleiner aantal hubs, met speciale nadruk op Dublin en Lissabon, en heeft in het kader van deze Europese aanpassing al een soortgelijk team in Berlijn gesloten.

De omvang is opmerkelijk: er wordt gesproken over honderden banen getroffen zowel in het Verenigd Koninkrijk als in Zuid- en Zuidoost-Azië. De Communication Workers Union schat dat er ongeveer 300 mensen in vertrouwen en veiligheid, waarvan de meeste worden beïnvloed. Het bedrijf heeft aangegeven dat het verhuisprioriteit aan degenen die aan bepaalde criteria voldeden, zonder dat gedetailleerd werd aangegeven welke, en er werden vergaderingen met het personeel belegd om het proces uit te leggen.

Het bedrijf benadrukt dat dit een reorganisatie vorig jaar ingezet om het wereldwijde Trust and Security-bedrijfsmodel te versterken door de activiteiten te concentreren in minder locaties om consistentie en snelheid in de respons te verkrijgen.

De beurt rust op de intensieve adoptie van kunstmatige intelligentie in de moderatieketen. Het bedrijf verzekert dat het deze tools al jaren onderzoekt en transversaal inzet en dat het ze zal gebruiken om maximaliseer efficiëntie en snelheid als het gaat om het verwijderen van content die de regels overtreedt. Er wordt zelfs beweerd dat AI automatisch ongeveer 85% van de publicaties overtreders, hoewel er geen bewijs is geleverd dat dit aantal publiekelijk ondersteunt.

De trend is niet exclusief. Andere platforms zoals Meta of YouTube Ze vertrouwen al lang op machine learning-systemen voor beeldherkenning, detectie van gewelddadige taal en leeftijdsscreening. Vakbonden en experts wijzen er echter op dat het massaal vervangen van menselijke moderatie over het hoofd kan worden gezien. culturele en contextuele nuances essentieel om de meest kwetsbare gebruikers te beschermen.

Regelgeving, veiligheid en bedrijfscijfers

De beweging vindt plaats in de hitte van de Online Security Act van het Verenigd Koninkrijk, dat vereist dat platforms de leeftijdsverificatie versterken en informatie snel verwijderen schadelijke of illegale inhoudDe boetes voor het niet naleven van de regels zijn hoog: tot wel £18 miljoen of de 10% van de wereldwijde omzet, afhankelijk van welke het grootst is. Als onderdeel van deze aanpassing introduceerde het bedrijf systemen van AI-gebaseerde leeftijdsverificatie om de leeftijd van gebruikers af te leiden.

Bovendien heeft de Britse toezichthouder op gegevensbescherming de toezicht op de behandeling van minderjarigenin maart werd een onderzoek gestart naar het gebruik van gegevens van adolescenten tussen de 13 en 17 jaar. Deze regelgevende druk draagt ​​bij aan het algemene klimaat van toezicht op het gebied van veiligheid en privacy op sociale media.

Op economisch vlak rapporteert het bedrijf in Europa een jaar-op-jaar stijging van 38% van het inkomen tot ongeveer 6.300 miljoenterwijl het zijn verliezen vóór belastingen terugbracht van 1.400 naar 485 miljoenOndanks de verbetering handhaaft het een kostenoptimalisatieplan en interne reorganisatie Dit verklaart deels de beslissing om sjablonen aan te passen en de automatisering te versnellen.

Er is kritiek van de vakbonden gehoord. Werknemersvertegenwoordigers hebben het bedrijf beschuldigd van zet de belangen van het bedrijf voorop voor de veiligheid van het personeel en het publiek, en waarschuwen dat AI-alternatieven nog steeds onvolwassen om veilige moderatie zonder menselijke ondersteuning te garanderen. De zorg betreft de mogelijke toename van fouten die van invloed zijn op kwetsbare gebruikers.

Het bedrijf verdedigt op zijn beurt dat het gebruik van AI al uitgebreid om de veiligheid te verbeteren zowel de community als de moderators, waardoor de blootstelling van medewerkers aan schadelijke inhoud wordt verminderd en beslissingen worden gestroomlijnd. Het benadrukt ook dat het doel van de reorganisatie is Versterk vertrouwen en veiligheid onder een efficiënter en mondiaal gecoördineerd operationeel model.

Met de ontslagen gaande en centralisatie van functies in Europa, staat het platform voor een keerpunt: het voldoen aan strengere regels, het in stand houden van de groei en het aantonen dat AI schadelijke inhoud op afstand kan houden zonder dat dit ten koste gaat van de veiligheid. kwaliteit van moderatie noch het inschakelen van professionals die criteria en context verschaffen.