- Meta a reconnu une erreur en recommandant du contenu sur Instagram Reels, qui incluait des vidéos violentes accessibles aux mineurs.
- Les utilisateurs ont été alertés d'une vague de publications dérangeantes, montrant des scènes graphiques et des commentaires sadiques.
- L'entreprise a corrigé l'erreur et s'est excusée, affirmant qu'elle n'était pas liée à des changements dans ses politiques de modération.
- Il a été signalé que certains comptes publiaient du contenu explicite, ce qui soulève des inquiétudes quant au contrôle du contenu sur la plateforme.
Ces derniers jours, plusieurs utilisateurs d'Instagram ont exprimé leur inquiétude quant à la Apparition soudaine de vidéos à contenu violent dans la section Reels de l'application. Ce phénomène inattendu a suscité l'inquiétude, notamment parmi ceux qui avaient activé des filtres de contenus sensibles, conduisant à des rapports sur une défaillance dans le fonctionnement de la plateforme.
Meta, la société mère d'Instagram, a reconnu qu'un Un bug dans les algorithmes de recommandation a permis à du contenu explicite et dérangeant d'atteindre les flux de nombreux utilisateurs, y compris les mineurs. La situation a déclenché une avalanche de publications sur les réseaux sociaux dénonçant la Prolifération d'images et de vidéos violentes sans les filtres habituels.
Les utilisateurs mettent en garde contre les publications dérangeantes
Plusieurs plateformes ont constaté une augmentation des plaintes concernant l'exposition à du matériel graphique Dérangeant sur Reels. Des vidéos ont été rapportées avec des scènes de violence extrême, des blessures graves et des corps calcinés, accompagnés dans certains cas de commentaires inappropriés et sarcastiques.
Même si Instagram a mis en œuvre le « Contrôle du contenu sensible » pour réduire la visibilité de ce type de publications, De nombreux utilisateurs ont signalé avoir reçu ces recommandations sans avoir activement recherché ce contenu.. En outre, certaines personnes concernées ont indiqué que ce matériel apparaissait même dans des comptes de les mineurs, ce qui a encore aggravé l’inquiétude.
Meta corrige l'erreur et s'excuse
Face à la controverse croissante, un porte-parole de Meta a déclaré que la société identifié et corrigé la faille dans ses systèmes de recommandation, en veillant à ce que les vidéos en question n'aient pas été promues dans l'onglet Reels.
« Nous avons corrigé un bug qui provoquait l'apparition de contenu inapproprié dans les flux de certains utilisateurs », a déclaré la société dans un communiqué. Il a également souligné que ce problème n'était pas lié aux récents changements apportés à ses politiques de modération, annoncé plus tôt cette année.
Préoccupations concernant la modération du contenu
Cette situation a mis l'opinion publique sous surveillance La capacité de Meta à surveiller et filtrer le contenu problématique. Parmi les plaintes, des profils ont été identifiés qui publiaient du contenu graphique et qui, d'une manière ou d'une autre, parvenaient à contourner les mécanismes de détection de la plateforme.
Le Wall Street Journal a rapporté l'affaire existence de comptes (avec des noms comme « Blackpeoplebeinghurt » ou « ShowingTragedies ») qui partageait du matériel explicite avec des scènes violentes. Ce type de comptes a alimenté le débat sur l'efficacité des algorithmes de modération et la rapidité avec laquelle Instagram intervient dans ces cas.
Ce qui s'est passé avec Instagram Reels a révélé des failles dans le système de recommandation de contenu de la plateforme, générant Inquiétude des utilisateurs et des spécialistes des réseaux sociaux. Bien que Meta ait corrigé l'erreur et assuré qu'il ne s'agissait pas d'un changement délibéré de ses politiques, Cet incident souligne une fois de plus l’importance d’une modération efficace dans les environnements numériques. où des millions de personnes interagissent et consomment des informations chaque jour.
Je suis un passionné de technologie qui a fait de ses intérêts de « geek » un métier. J'ai passé plus de 10 ans de ma vie à utiliser des technologies de pointe et à bricoler toutes sortes de programmes par pure curiosité. Aujourd'hui, je me spécialise dans l'informatique et les jeux vidéo. En effet, depuis plus de 5 ans, j'écris pour différents sites Web sur la technologie et les jeux vidéo, créant des articles qui cherchent à vous donner les informations dont vous avez besoin dans un langage compréhensible par tous.
Si vous avez des questions, mes connaissances s'étendent de tout ce qui concerne le système d'exploitation Windows ainsi qu'Android pour les téléphones mobiles. Et mon engagement est envers vous, je suis toujours prêt à consacrer quelques minutes et à vous aider à résoudre toutes les questions que vous pourriez avoir dans ce monde Internet.