Tout ce qui est enregistré par la Ray-Ban Meta est vérifié par des opérateurs humains au Kenya.

Le Lunettes connectées Ray-Ban Meta Ils sont devenus l'un des dispositifs les plus marquants de l'écosystème Meta : ils permettent d'enregistrer à la première personne, de parler à un assistant intelligence artificielle et partager du contenu sur les réseaux sociaux presque sans sortir son téléphone de sa poche. Mais derrière cette image technologique et ambitieuse Une vérité dérangeante a été révélée.: partie de Qu'est-ce qui est enregistré avec ces lunettes ?, y compris des moments très intimes et des données sensibles, Au final, le contrôle est effectué manuellement par des travailleurs au Kenya..

Une série d'enquêtes journalistiques, notamment issues de la presse suédoise Quotidien suédois y Göteborgs-PostenIls se sont concentrés sur Comment fonctionne concrètement le système qui alimente l'IA des Ray-Ban Meta ?D'après les témoignages d'employés d'entreprises sous-traitantes à Nairobi, il a été révélé que scènes privées capturées dans des maisons européennes Elles parviennent aux écrans des enregistreurs de données kényans, qui les analysent pour entraîner les modèles de vision par ordinateur de Meta.

Une caméra toujours allumée et un travail invisible au Kenya

Les Ray-Ban Meta allient l'esthétique des lunettes de soleil classiques à caméras et microphones intégrés Ces appareils permettent d'enregistrer des vidéos, de prendre des photos et d'activer Meta AI par commande vocale ou via un bouton physique. Au quotidien, cela se traduit par des promenades, des réunions, des courses ou des trajets enregistrés en temps réel sans avoir à sortir son téléphone — un confort indéniable, mais qui accroît également les risques pour la vie privée de l'utilisateur et de son entourage.

Ce que beaucoup d'utilisateurs ignorent, c'est que certains de ces contenus, notamment ceux utilisés pour interagir avec l'assistant, Il ne reste pas seulement sur l'appareilLorsque l'IA est interrogée sur ce qu'elle voit (par exemple, la marque d'une voiture ou ce qui apparaît dans une scène), les vidéos sont envoyées aux serveurs de Meta pour traitement. Et, selon des sources suédoises, certaines de ces séquences finissent par tomber entre les mains de… équipes humaines au Kenya, qui les examinent image par image.

Sama opère à Nairobi, une société technologique sous-traitante de Meta qui se consacre à Annotation visuelle des donnéesSes employés décrivent une journée de travail répétitive : marquer des objets à l’écran, dessiner les contours de personnes, classifier des scènes, valider des descriptions, relire des transcriptions et vérifier si l’IA a donné de bonnes réponses. En contrepartie, ils reçoivent des salaires modestes et sont soumis à… accords de confidentialité stricts et des règles internes pour éviter les fuites.

Le problème réside dans le type de matériel qu'ils reçoivent. Plusieurs correcteurs ont expliqué que Ils ne voient pas seulement des halls, des rues ou des paysages.mais aussi des situations qui franchissent clairement la limite de l'intimité : Des personnes dans la salle de bain, des utilisateurs qui se changent, qui ont des relations sexuelles, qui consomment de la pornographie ou qui affichent accidentellement numéros de cartes bancaires et de comptes lors de l'utilisation de l'ordinateur ou du téléphone portable.

L'un de ces travailleurs a résumé la situation par une phrase qui se retrouve dans plusieurs rapports : « On voit tout, des salons aux corps nus. »Selon eux, de nombreux visages sont parfaitement reconnaissables car les algorithmes censés les flouter ne fonctionnent pas. Ils ne fonctionnent pas toujours bien.notamment dans des conditions d'éclairage difficiles ou lors de prises de vue inhabituelles.

Comment les systèmes d'IA et de vision sont entraînés à l'aide de vidéos provenant de lunettes

Le travail accompli à Nairobi est un exemple clair de ce qui apparaît rarement dans la publicité des produits : Sans annotateurs humains, l'IA n'apprend pas.Pour que Meta AI puisse reconnaître un feu de circulation, un panneau STOP, un chien, un ordinateur ou une personne assise sur un canapé, il faut que quelqu'un ait préalablement étiqueté des milliers d'images avec ces éléments.

L'enregistrement des données consiste essentiellement en traduire le contenu d'une vidéo en informations compréhensibles par une machineUn opérateur de saisie peut passer des heures à dessiner la silhouette d'une personne, à identifier une lampe, à reconnaître une voiture ou à classifier un type de pièce. Tout ce travail est ensuite intégré à de vastes ensembles de données servant à entraîner et à perfectionner les modèles de vision par ordinateur que Meta intègre à ses produits.

Meta admet dans ses conditions d'utilisation que Certaines interactions avec votre IA peuvent être examinées.Cela peut se faire automatiquement ou manuellement, par le personnel interne ou des collaborateurs externes. Ces documents expliquent que les enregistrements vocaux et les images peuvent être conservés pour améliorer les services, sous réserve du consentement de l'utilisateur. Ils précisent toutefois que, pour fonctionner, l'assistant doit traiter la voix, le texte, les images et, dans certains cas, la vidéo, ce qui limite de fait le pouvoir de décision de l'utilisateur.

D'anciens employés des centres de notation ont expliqué aux médias internationaux qu'en théorie, Les contenus particulièrement sensibles ne devraient pas être soumis à des relecteurs humains.Car le système subit d'abord un filtrage algorithmique visant à anonymiser les visages et à masquer les données privées. Cependant, les développeurs reconnaissent que ce système présente des défaillances assez fréquentes et que, dans de nombreux fragments, des personnes, leurs corps et des objets clairement identifiables restent visibles.

En pratique, les employés de Sama se retrouvent à examiner des scènes allant de manifestations et descriptions de crimes y compris des conversations à la limite de la violence sexuelle, ainsi que des images intimes capturées dans des domiciles et des chambres à coucher. Plusieurs d'entre elles indiquent que Une grande partie de ces enregistrements provient de foyers occidentaux.Cela suggère une présence significative d'utilisateurs européens et nord-américains parmi ceux qui apparaissent dans les vidéos.

Que sait l'utilisateur et que disent les conditions d'utilisation ?

Une grande partie de la controverse tourne autour de ce que l'utilisateur comprend réellement Lors de l'achat de lunettes de soleil Ray-Ban Meta chez un opticien ou dans un magasin d'électronique, des journalistes suédois se sont rendus dans plusieurs établissements de Stockholm et de Göteborg pour interroger les vendeurs sur le devenir des données collectées par les lunettes et leur lieu de traitement. Les réponses ont varié : certains ont affirmé que « tout reste sur le téléphone portable », tandis que d'autres ont admis sans détour que… Ils ignoraient ce qu'il était advenu des enregistrements..

Les journalistes ont reçu des lunettes et, lors des tests, ont explicitement refusé de partager des « données supplémentaires » pour améliorer les produits de Meta. Malgré cela, l’analyse du trafic réseau a révélé des connexions continues avec Serveurs Meta en Suède et au Danemark lorsqu'ils ont utilisé la fonction d'IA, ce qui confirmerait que le traitement n'est pas limité à l'appareil et n'est pas seulement exécuté localement.

Les conditions générales de Meta AI expliquent que les utilisateurs peuvent choisir de ne pas fournir certaines données pour améliorer les services, mais indiquent en même temps que Pour que l'assistant puisse fonctionner, il est indispensable de traiter les informations envoyées.Ces informations peuvent être partagées avec les systèmes internes et les partenaires de confiance. Il est également à noter que les interactions peuvent faire l'objet d'un examen manuel et que la responsabilité d'éviter le partage de contenu sensible incombe à l'utilisateur s'il ne souhaite pas que celui-ci soit utilisé ou stocké.

Du point de vue des organisations de défense de la vie privée, telles que NOYB, cette formulation soulève un problème de transparence : L'utilisateur a le sentiment de contrôler ses données.Toutefois, en pratique, il est difficile de comprendre dans quelle mesure leurs enregistrements peuvent circuler via l'infrastructure de Meta et atteindre des pays tiers. Les juristes spécialisés en protection des données soulignent que si ces enregistrements sont utilisés pour entraîner des modèles, un cadre juridique ou réglementaire approprié serait nécessaire. consentement clair et spécifiqueCe point n'est pas toujours reflété de manière compréhensible dans les flux de configuration et d'installation des lunettes.

Des experts consultés par divers médias insistent sur le fait que, au-delà du texte de loi, beaucoup de gens ignorent que la vidéo a été enregistrée lors d'interactions avec une IA. Il pourrait se retrouver sur des serveurs externes et même être examiné par des relecteurs humains.Et ils soulignent qu'une fois que ce matériel entre dans le circuit d'entraînement de Meta AI, il est très difficile pour l'utilisateur de conserver un contrôle effectif sur son utilisation ultérieure.

La réaction et les inquiétudes de Meta concernant l'utilisation quotidienne des lunettes

Interrogée sur les enquêtes, Meta a fait référence à plusieurs reprises à son conditions d'utilisation et politiques de confidentialitéDans certaines déclarations publiques, les porte-parole de l'entreprise ont souligné que les images restent sur l'appareil à moins que l'utilisateur ne décide de les partager avec Meta AI et que, dans ce cas, ils peuvent faire appel à des collaborateurs externes pour examiner certaines de ces données afin d'améliorer l'expérience. L'entreprise affirme utiliser des filtres pour masquer les informations identifiables. et minimiser l'accès aux documents sensibles.

Cependant, la réponse générale est perçue comme vague au vu des témoignages d'employés de Sama décrivant des scènes extrêmement sensibles s'affichant sur leurs écrans. Un cadre de Meta, cité anonymement, a affirmé que tant que les exigences du RGPD sont respectées, L'emplacement des serveurs n'a pas d'importance. ou les entreprises impliquées dans le traitement, une position qui ne dissipe pas entièrement les doutes quant au contrôle effectif des données une fois qu'elles ont quitté l'Europe.

L'appareil suscite également des inquiétudes chez les experts en protection de la vie privée en raison de la possibilité de enregistrer des tiers à leur insuCes lunettes sont équipées d'une petite LED censée indiquer l'activation de la caméra, mais les organismes de sécurité ont averti que ce voyant peut facilement passer inaperçu, être dissimulé, voire désactivé par des services tiers. Cela ouvre la voie à des utilisations douteuses dans les espaces publics, des campus universitaires aux bars en passant par les transports en commun.

Parallèlement, les chercheurs et les développeurs ont commencé à mettre sur la table solutions d’« autodéfense numérique »C'est le cas de Lunettes à proximité, une application créée par Yves Jeanrenaud qui Il vous alerte sur votre téléphone portable lorsqu'il détecte des lunettes de soleil Ray-Ban Meta à proximité. actifs via leur signal Bluetooth. Bien que le système puisse être confondu avec d'autres appareils Meta, tels que les casques Quest, il fonctionne comme une sorte de radar pour ceux qui veulent savoir si des lunettes intelligentes enregistrent dans leur environnement immédiat.

Tout cela contribue à un contexte de méfiance croissante envers les grandes plateformesCette situation a été alimentée par des incidents antérieurs tels que la surveillance des messages sur Messenger et Instagram, ou les conditions de travail des modérateurs de contenu dans des centres européens, notamment à Barcelone, où de graves conséquences psychologiques ont été signalées après des années d'exposition à des contenus extrêmement violents et sexuels.

L’affaire des lunettes Ray-Ban Meta et des carnets connectés au Kenya incite utilisateurs, autorités et entreprises à s’interroger sur les limites qu’ils sont prêts à franchir en échange de fonctionnalités « intelligentes » dans les appareils du quotidien. Ces lunettes promettent confort, traduction, assistance en temps réel et une nouvelle façon de percevoir le monde, mais… le coût en matière de confidentialité et l'opacité d'une partie de sa chaîne de données Elles suscitent un débat profond, notamment en Europe, où le RGPD fixe des attentes claires auxquelles Meta devra démontrer qu'elle se conforme.

Article connexe :

Samsung Perplexity : Voici comment le nouvel agent IA sera intégré à Galaxy

Alberto Navarro

Je suis un passionné de technologie qui a fait de ses intérêts de « geek » un métier. J'ai passé plus de 10 ans de ma vie à utiliser des technologies de pointe et à bricoler toutes sortes de programmes par pure curiosité. Aujourd'hui, je me spécialise dans l'informatique et les jeux vidéo. En effet, depuis plus de 5 ans, j'écris pour différents sites Web sur la technologie et les jeux vidéo, créant des articles qui cherchent à vous donner les informations dont vous avez besoin dans un langage compréhensible par tous.

Si vous avez des questions, mes connaissances s'étendent de tout ce qui concerne le système d'exploitation Windows ainsi qu'Android pour les téléphones mobiles. Et mon engagement est envers vous, je suis toujours prêt à consacrer quelques minutes et à vous aider à résoudre toutes les questions que vous pourriez avoir dans ce monde Internet.