TikTok sa thải: kiểm duyệt trở nên tập trung và AI tiếp quản

Nền tảng video đã bắt đầu một phần của hàng trăm người điều hành trong các nhóm đáng tin cậy và an toàn của bạn, đặc biệt là trong Vương quốc Anh và một số vùng ở Châu Á, đồng thời chuyển sang mô hình tập trung nhiều hơn vào trí tuệ nhân tạo để lọc nội dung. Những lời chỉ trích đã sớm xuất hiện từ các công đoàn và những người ủng hộ an toàn trực tuyến., cảnh báo về rủi ro nếu sự giám sát của con người bị giảm sút.

Quyết định này trùng với thời điểm bắt đầu áp dụng các quy định mới của Anh về an ninh Internet và với tổ chức lại để tập trung hoạt động ở ít địa điểm hơn. Theo thông tin liên lạc nội bộ được báo chí Anh và Mỹ trích dẫn, công ty đã thông báo cho nhân viên London rằng kiểm duyệt và kiểm soát chất lượng sẽ không còn được thực hiện ở Vương quốc Anh nữa và sẽ được chuyển đến các trung tâm khác, trong một quá trình mà AI sẽ trở nên nổi bật.

Tái cấu trúc điều tiết và chuyển giao chức năng

Các nguồn được trích dẫn bởi Financial Times cho biết nhóm Luân Đôn đã nhận được thông báo nội bộ: công việc kiểm duyệt và đảm bảo chất lượng sẽ không còn được sản xuất tại Vương quốc Anh nữaCông ty có kế hoạch tập trung kinh nghiệm hoạt động tại ít trung tâm hơn, đặc biệt chú trọng vào Dublin và Lisbonvà đã đóng cửa một nhóm tương tự ở Berlin trong khuôn khổ điều chỉnh của châu Âu này.

Phạm vi là đáng chú ý: có nói về hàng trăm việc làm bị ảnh hưởng cả ở Vương quốc Anh và Nam Á và Đông Nam Á. Liên đoàn Công nhân Truyền thông ước tính rằng có khoảng 300 người về sự tin cậy và an ninh, phần lớn trong số đó bị ảnh hưởng. Công ty đã chỉ ra rằng họ sẽ cung cấp ưu tiên di dời cho những người đáp ứng các tiêu chí nhất định, mà không nêu chi tiết là tiêu chí nào, và triệu tập các cuộc họp với nhân viên để giải thích quy trình.

Công ty khẳng định rằng đây là một tổ chức lại được khởi xướng vào năm ngoái để củng cố mô hình hoạt động Tin cậy và An ninh toàn cầu, tập trung các hoạt động vào ít địa điểm hơn để đạt được sự nhất quán và tốc độ phản hồi.

Lượt chơi dựa trên áp dụng rộng rãi trí tuệ nhân tạo trong chuỗi kiểm duyệt. Công ty đảm bảo rằng họ đã nghiên cứu và triển khai các công cụ này trên diện rộng trong nhiều năm và sẽ sử dụng chúng để Tối đa hóa hiệu quả và tốc độ khi nói đến việc xóa nội dung vi phạm các quy tắc. Nó thậm chí còn tuyên bố rằng AI tự động xóa khoảng 85% các ấn phẩm những người phạm tội, mặc dù không có bằng chứng nào được đưa ra để công khai chứng minh con số này.

Xu hướng này không phải là độc quyền. Các nền tảng khác như Meta hoặc YouTube Họ từ lâu đã dựa vào hệ thống máy học để nhận dạng hình ảnh, phát hiện ngôn ngữ bạo lực và sàng lọc độ tuổi. Tuy nhiên, các công đoàn và chuyên gia chỉ ra rằng việc thay thế hàng loạt kiểm duyệt của con người có thể bị bỏ qua. sắc thái văn hóa và bối cảnh cần thiết để bảo vệ những người dùng dễ bị tổn thương nhất.

Số liệu về quy định, an ninh và kinh doanh

Sự chuyển động xảy ra trong nhiệt độ của Luật An ninh mạng của Vương quốc Anh, yêu cầu các nền tảng phải tăng cường xác minh độ tuổi và xóa thông tin nhanh chóng nội dung có hại hoặc bất hợp pháp. Hình phạt cho việc không tuân thủ là rất cao: lên tới 18 triệu bảng Anh hoặc 10% doanh thu toàn cầu, tùy theo mức nào lớn hơn. Là một phần của sự điều chỉnh này, công ty đã giới thiệu các hệ thống Xác minh độ tuổi dựa trên AI để suy ra độ tuổi của người dùng.

Ngoài ra, cơ quan quản lý bảo vệ dữ liệu của Anh đã tăng sự giám sát về cách đối xử với trẻ vị thành niên, với một đánh giá được đưa ra vào tháng 13 về việc sử dụng dữ liệu từ thanh thiếu niên từ 17 đến XNUMX tuổi. Áp lực quản lý này làm tăng thêm bầu không khí giám sát chung liên quan đến an ninh và quyền riêng tư trên mạng xã hội.

Về mặt kinh tế, công ty báo cáo ở Châu Âu một Tăng trưởng 38% so với cùng kỳ năm trước. thu nhập khoảng 6.300 triệu đô la, đồng thời giảm lỗ trước thuế từ 1.400 xuống 485 triệu đô la. Mặc dù có sự cải thiện, nó vẫn duy trì một kế hoạch tối ưu hóa chi phí và tổ chức lại nội bộ điều này giải thích một phần quyết định điều chỉnh mẫu và tăng tốc tự động hóa.

Những lời chỉ trích của công đoàn đã được lắng nghe. Đại diện của công nhân đã cáo buộc công ty đặt lợi ích doanh nghiệp lên hàng đầu để đảm bảo an toàn cho nhân viên và công chúng, đồng thời cảnh báo rằng các giải pháp thay thế AI vẫn còn chưa trưởng thành để đảm bảo kiểm duyệt an toàn mà không cần sự hỗ trợ của con người. Mối lo ngại là về khả năng gia tăng các lỗi ảnh hưởng đến người dùng dễ bị tổn thương.

Về phần mình, công ty bảo vệ rằng việc sử dụng AI đã toàn diện để cải thiện an ninh cả cộng đồng và người điều hành, giảm thiểu việc nhân viên tiếp xúc với nội dung độc hại và đơn giản hóa các quyết định. Nó cũng nhấn mạnh rằng mục tiêu của việc tái tổ chức là tăng cường Niềm tin và An ninh theo mô hình hoạt động hiệu quả hơn và được phối hợp toàn cầu.

Với đang tiến hành sa thải và tập trung hóa của các chức năng ở Châu Âu, nền tảng này đang đối mặt với một bước ngoặt: tuân thủ các quy tắc nghiêm ngặt hơn, duy trì tăng trưởng và chứng minh rằng AI có thể ngăn chặn nội dung có hại mà không phải hy sinh chất lượng điều độ cũng như không sử dụng các chuyên gia cung cấp tiêu chí và bối cảnh.