Demissões no TikTok: moderação se torna centralizada e IA assume o controle

A plataforma de vídeos começou um corte de centenas de moderadores em suas equipes confiáveis ​​e seguras, especialmente em Reino Unido e partes da Ásia, ao mesmo tempo em que caminhamos para um modelo com maior ênfase na inteligência artificial para filtrar conteúdo. As críticas não demoraram a chegar de sindicatos e defensores da segurança online., que alertam sobre riscos caso a supervisão humana seja reduzida.

A decisão coincide com o início da nova regulamentação britânica sobre segurança na Internet e com uma reorganização para concentrar as operações em menos locais. De acordo com comunicações internas citadas pela imprensa britânica e americana, a empresa informou aos funcionários de Londres que moderação e controle de qualidade não será mais realizada no Reino Unido e será transferida para outros centros, num processo em que a IA ganhará destaque.

Reestruturação da moderação e transferência de funções

Fontes citadas pelo Financial Times indicam que a equipa de Londres recebeu um aviso interno: trabalho de moderação e garantia de qualidade não será mais fabricado no Reino UnidoA empresa planeja centralizar a experiência operacional em menos centros, com ênfase especial em Dublin e Lisboa, e já fechou uma equipe semelhante em Berlim no âmbito deste ajuste europeu.

O alcance é notável: fala-se de várias centenas de empregos afetados tanto no Reino Unido como no Sul e Sudeste Asiático. O Sindicato dos Trabalhadores da Comunicação estima que existam cerca de 300 pessoas em confiança e segurança, a maioria dos quais são impactados. A empresa indicou que oferecerá prioridade de realocação para aqueles que atendem a determinados critérios, sem detalhar quais, e convocou reuniões com a equipe para explicar o processo.

A empresa insiste que esta é uma reorganização iniciada no ano passado fortalecer o modelo operacional global de Confiança e Segurança, concentrando as atividades em menos locais para ganhar consistência e velocidade na resposta.

A volta repousa sobre o adoção intensiva de inteligência artificial na cadeia de moderação. A empresa garante que vem pesquisando e implementando essas ferramentas transversalmente há anos e que as utilizará para Maximizar a eficiência e a velocidade quando se trata de remover conteúdo que viola as regras. Ele ainda afirma que a IA remove automaticamente cerca de 85% das publicações infratores, embora nenhuma evidência tenha sido fornecida para apoiar publicamente esse número.

A tendência não é exclusiva. Outras plataformas como Meta ou YouTube Há muito tempo, eles dependem de sistemas de aprendizado de máquina para reconhecimento de imagens, detecção de linguagem violenta e triagem etária. No entanto, sindicatos e especialistas apontam que a substituição em massa da moderação humana pode ser negligenciada. nuances culturais e contextuais essencial para proteger os usuários mais vulneráveis.

Regulamentação, segurança e números de negócios

O movimento ocorre no calor do Lei de Segurança Online do Reino Unido, que exige que as plataformas reforcem a verificação da idade e removam rapidamente as informações conteúdo prejudicial ou ilegal. As penalidades por incumprimento são elevadas: até £ 18 milhões ou 10% do faturamento global, o que for maior. Como parte dessa adaptação, a empresa introduziu sistemas de Verificação de idade baseada em IA para inferir a idade dos usuários.

Além disso, o regulador britânico de proteção de dados aumentou a escrutínio sobre o tratamento de menores, com uma revisão lançada em março sobre o uso de dados de adolescentes de 13 a 17 anos. Essa pressão regulatória aumenta o clima geral de vigilância em relação à segurança e privacidade nas mídias sociais.

Na frente econômica, a empresa reporta na Europa um aumento anual de 38% de renda para cerca de US$ 6.300 milhões, ao mesmo tempo que reduziu as suas perdas antes de impostos de 1.400 para US$ 485 milhões. Apesar da melhoria, mantém um plano de otimização de custos e reorganização interna o que explica, em parte, a decisão de ajustar modelos e acelerar a automação.

As críticas sindicais foram ouvidas. Os representantes dos trabalhadores acusaram a empresa de colocar os interesses corporativos em primeiro lugar para a segurança dos funcionários e do público, e alertam que as alternativas de IA ainda são imaturo para garantir moderação segura sem suporte humano. A preocupação é com o potencial aumento de falhas que afetam usuários vulneráveis.

A empresa, por sua vez, defende que o uso da IA ​​já é abrangente para melhorar a segurança tanto a comunidade quanto os moderadores, reduzindo a exposição da equipe a conteúdo prejudicial e agilizando as decisões. Também enfatiza que o objetivo da reorganização é fortalecer a confiança e a segurança sob um modelo operacional mais eficiente e coordenado globalmente.

Com o demissões em andamento e centralização de funções na Europa, a plataforma enfrenta um ponto de viragem: cumprir regras mais rigorosas, sustentar o crescimento e demonstrar que a IA pode manter o conteúdo prejudicial à distância sem sacrificar qualidade de moderação nem o uso de profissionais que fornecem critérios e contexto.