- Meta va reconèixer un error en la recomanació de contingut a Instagram Reels, que va incloure vídeos violents accessibles per a menors.
- Usuaris van alertar sobre una onada de publicacions pertorbadores, mostrant escenes gràfiques i comentaris sàdics.
- L'empresa va corregir la sentència i va demanar disculpes, assegurant que no estava vinculat a canvis en les polítiques de moderació.
- Es van reportar comptes que publicaven material explícit, cosa que va generar preocupació pel control de contingut a la plataforma.
En els darrers dies, múltiples usuaris d'Instagram han expressat la seva preocupació per la sobtada aparició de vídeos amb contingut violent a la secció de Reels de laplicació. Aquest fenomen inesperat ha generat alarma, especialment entre els que havien activat els filtres de contingut sensible, cosa que ha portat a assenyalar una fallada en el funcionament de la plataforma.
Meta, l'empresa matriu d'Instagram, ha reconegut que un error en els algorismes de recomanació va permetre que contingut explícit i pertorbador arribés als feeds de nombrosos usuaris, incloent menors d'edat. La situació va provocar una allau de publicacions a xarxes socials denunciant la proliferació d'imatges i vídeos de caràcter violent sense els filtres habituals.
Usuaris alerten sobre publicacions pertorbadores
Diferents plataformes han estat testimonis de l'increment de queixes sobre l'exposició a material gràfic pertorbador a Reels. S'han reportat vídeos amb escenes de violència extrema, lesions greus i cossos carbonitzats, acompanyats en alguns casos de comentaris inadequats i sarcàstics.
Tot i que Instagram va implementar el 'Control de contingut delicat' per reduir la visibilitat d'aquest tipus de publicacions, nombrosos usuaris van afirmar haver rebut aquestes recomanacions sense haver buscat activament aquest contingut. A més, alguns afectats van indicar que aquest material va aparèixer fins i tot en comptes de menors d'edat, el que va agreujar encara més la preocupació.
Meta corregeix la sentència i es disculpa
Davant la creixent controvèrsia, un portaveu de Meta va assegurar que la companyia va identificar i solucionar la falla en els seus sistemes de recomanacions, garantint que els vídeos en qüestió no haurien d'haver estat promoguts a la pestanya de Reels.
"Hem corregit un error que va ocasionar l'aparició de contingut inadequat als feeds d'alguns usuaris", va declarar l'empresa en un comunicat. A més, va emfatitzar que aquest problema no estava relacionat amb modificacions recents a les seves polítiques de moderació, anunciades a principis d'any.
Preocupació per la moderació de contingut
Aquesta situació ha posat sota l'escrutini públic la capacitat de Meta per supervisar i filtrar contingut problemàtic. Entre les denúncies, es van identificar perfils que publicaven contingut gràfic i que, d?alguna manera, van aconseguir esquivar els mecanismes de detecció de la plataforma.
El Wall Street Journal va informar sobre la existència de comptes (amb noms com 'Blackpeoplebeinghurt' o 'ShowingTragedies') que compartien material explícit amb escenes violentes. Aquest tipus de comptes ha avivat el debat sobre l'efectivitat dels algorismes de moderació i la rapidesa amb què Instagram intervé en aquests casos.
El que ha passat amb Instagram Reels ha posat en evidència errors en el sistema de recomanació de contingut de la plataforma, generant inquietud entre usuaris i especialistes en xarxes socials. Tot i que Meta ha corregit l'error i ha assegurat que no es va tractar d'un canvi deliberat en les polítiques, aquest incident torna a posar sobre la taula la importància duna moderació efectiva en entorns digitals on cada dia milions de persones interactuen i consumeixen informació.
Sóc un apassionat de la tecnologia que ha convertit els seus interessos frikis en professió. Porto més de 10 anys de la meva vida utilitzant tecnologia d'avantguarda i traslladant tota mena de programes per pura curiositat. Ara he especialitzat en tecnologia d'ordinador i videojocs. Això és perquè des de fa més de 5 anys que treballo redactant per a diverses webs en matèria de tecnologia i videojocs, creant articles que busquen donar-te la informació que necessites amb un llenguatge comprensible per tothom.
Si tens qualsevol pregunta, els meus coneixements van des de tot allò relacionat amb el sistema operatiu Windows així com Android per a mòbils. I és que el meu compromís és amb tu, sempre estic disposat a dedicar-te uns minuts i ajudar-te a resoldre qualsevol dubte que tinguis a aquest món d'internet.