Aplicativos de reconhecimento facial podem revelar toda a sua vida online.

A ideia de que um aplicativo pode Identifique seu rosto em segundosMesmo que você nunca tenha entrado em uma delegacia de polícia, isso já não é ficção científica. Nos Estados Unidos, Essa tecnologia vem sendo usada discretamente há anos. —e muitas vezes opacas— por milhares de agências de segurança, enquanto em paralelo existem aplicativos “públicos” que transformam seu rosto em uma chave para quase tudo: desde descobrir sua suposta origem étnica até servir como um filtro social na rua.

Ao mesmo tempo, as preocupações com a privacidade dispararam: compartilhamos fotos alegremente em redes sociais e serviços como... Fotos do GoogleNós os editamos, nós os preenchemos com emojis para cobrir rostos E confiamos que isso nos protege. Mas o avanço do reconhecimento facial em massa, dos bancos de dados de Dados com bilhões de imagens e ferramentas capazes de rastrear seu passado digital. Em segundos, revela um quadro muito mais perturbador do que parece à primeira vista.

Clearview AI: o aplicativo que transformou a internet em um megabanco de dados de rostos.

Por volta de 2019-2020, descobriu-se que mais de 600 agências de segurança e aplicação da lei dos EUA —e posteriormente mais de 3.000, segundo diversas investigações— haviam começado a usar um aplicativo chamado Clearview AI. A revelação foi feita pelo The New York Times, que descobriu como essa empresa havia desenvolvido um sistema capaz de identificar praticamente qualquer pessoa a partir de uma única fotografia..

O funcionamento do Clearview é, à primeira vista, simples: um agente carrega uma imagem de um rosto — que pode vir de uma câmera de segurança, um vídeo de celular, uma captura desfocada ou até mesmo um reflexo em um espelho — e o aplicativo compara esse rosto com um... banco de dados com bilhões de fotosOs primeiros relatos mencionavam cerca de 3.000 bilhões de imagens; hoje, estima-se que o banco de dados já ultrapasse 30.000 bilhões, coletadas ao longo de muitos anos.

De onde vieram essas fotos? A empresa tem "pescado" imagens públicas em toda a internet: Perfis do FacebookInstagram, YouTube, outras plataformas de redes sociais, sites pessoais, fóruns… até mesmo fotos que foram posteriormente excluídas do site original, mas que eram publicamente acessíveis na época e poderiam ter sido capturadas por seus sistemas de rastreamento. De acordo com a Clearview, eles usam apenas conteúdo que estava disponível publicamente, sem acessar contas privadas ou serviços de hackers.

O sistema não se limita a reconhecer rostos em primeiro plano: ele consegue identificar rostos de pessoas que aparecem ao fundo, parcialmente viradas, usando óculos, chapéu ou com parte do rosto coberto. Em alguns casos, chegou até a identificar um suspeito. um reflexo no espelho de uma academiaou a partir de uma imagem extraída de um fotograma de um vídeo de baixa qualidade. Diversas agências policiais dos EUA afirmaram que o aplicativo pode fornecer correspondências úteis em cerca de 75% dos casos, e a própria Clearview alega taxas de precisão próximas a 99,8% em seus testes internos.

Assim que o sistema encontra uma correspondência, ele retorna ao usuário uma lista de fotos públicas que parecem corresponder à pessoa procurada, juntamente com links para os sites de origem. Dessa forma, a polícia obtém não apenas um possível nome e sobrenome, mas também informações sensíveis associadasOnde ele mora, o que faz para viver, com quem se associa ou quais atividades realiza em seu tempo livre, tudo isso deduzido dos contextos em que suas fotos aparecem.

Quem está por trás da Clearview e como ela conquistou tanto poder?

A Clearview AI foi fundada pelos australianos Hoan Ton-That e Richard Schwartz. Ton-That, um programador de origem vietnamita, abandonou a universidade, mudou-se para São Francisco e começou a criar pequenos aplicativos para iPhone, incluindo um que mudava penteados e dava aos usuários o cabelo de Donald Trump. Nenhum desses aplicativos fez muito sucesso e, em 2009, descobriu-se que um deles incluía um componente malicioso que estava enviando spam Ele acessou os contatos de e-mail dos usuários, o que lhe rendeu uma reputação bastante duvidosa e uma investigação subsequente. Depois disso, mudou-se para Nova York para tentar reconstruir sua carreira.

Em 2016, ele conheceu Richard Schwartz, um veterano da política da cidade de Nova York que havia trabalhado como assessor de Rudy Giuliani quando este era prefeito. Schwartz havia se envolvido no desenvolvimento de um filtro de internet supostamente projetado para impedir que menores de idade acessassem pornografia, embora também bloqueasse outros conteúdos. páginas progressistas e sites de direitos civisIsso já revelava uma certa agenda ideológica. Juntos, eles viam o reconhecimento facial como um nicho com enorme potencial.

Para tirar o projeto do papel, eles usaram suas influências e conseguiram um investimento de US$ 200.000 de Peter Thiel — um capitalista de risco conhecido por seus papéis no Facebook e na Palantir, e uma das figuras mais influentes do governo Trump. Esse dinheiro permitiu que a empresa contratasse um programador e um engenheiro fundamental: Terence Liu, especialista em redes neurais, formado pela Universidade de Nanjing e com doutorado nos Estados Unidos, que decidiu ficar por lá em vez de voltar para a China.

Liu foi responsável pelo núcleo técnico do Clearview: um algoritmo baseado em redes neurais profundas Segundo a empresa, o software é capaz de distinguir um rosto entre milhões, diferenciando até mesmo gêmeos idênticos. A precisão do software é aprimorada com o uso, graças ao aprendizado contínuo a partir de novas amostras e resultados, expandindo e refinando um modelo que se baseia no vasto banco de dados da empresa.

A plataforma foi lançada discretamente em 2017 e, durante anos, operou quase inteiramente nas sombras, oferecendo o serviço a uma clientela muito seleta e evitando qualquer exposição pública. A estratégia, conforme explicada pela jornalista Kashmir Hill — repórter do New York Times que revelou a história —, era... construir o maior banco de dados possível de rostos antes de atrair muita atenção. Ao contrário das grandes empresas de tecnologia, que se mantiveram cautelosas por medo de danos à reputação, a Clearview era uma startup sem nada a perder e tudo a ganhar.

Como as agências de aplicação da lei utilizam o Clearview e quais casos ele solucionou?

O Clearview foi amplamente adotado pelas forças policiais dos EUA. Departamentos locais, agências estaduais como o FBI e o Departamento de Segurança Interna, e outras agências policiais nos Estados Unidos e no Canadá licenciaram o aplicativo. Algumas até mesmo... empresas de segurança privada Eles contrataram o serviço para fins próprios, como vigilância das instalações ou prevenção de fraudes.

Na prática, o uso típico é o seguinte: após um crime, uma imagem do suspeito é extraída de uma câmera de vigilância, de um vídeo gravado por uma testemunha ou de uma fotografia espontânea. Essa imagem é carregada no Clearview e, em segundos, o sistema retorna correspondências com fotos rastreadas online. O policial pode então seguir os links e reconstruir o perfil da pessoa, o que geralmente acelera muito as investigações.

Um exemplo frequentemente citado é o de um tiroteio em um parque em Indiana. Dois homens brigaram e um atirou no outro, atingindo-o no estômago. Uma testemunha gravou a cena com seu celular e, a partir do vídeo, a polícia extraiu uma imagem facial do agressor. Ao ser carregada no aplicativo Clearview, a imagem foi vinculada a um vídeo anterior publicado online, onde o agressor foi identificado pelo nome. A identificação foi feita em menos de 20 minutos, apesar de as autoridades já terem investigado o caso. Eles não tinham nenhuma foto do suspeito adulto. Em seus bancos de dados — ele não tinha carteira de motorista nem antecedentes criminais—.

Segundo diversos depoimentos, a Clearview foi utilizada em casos de furto em lojas, fraude com cartões de crédito, homicídio e exploração sexual infantil. A empresa também se orgulha de sua colaboração com a Ucrânia, onde a tecnologia foi utilizada para Identificar soldados inimigos e aqueles que foram mortos. de ambos os lados no contexto da guerra, algo que abre um debate adicional sobre ética em conflitos armados.

A empresa afirma que seu software é uma ferramenta “reativa”: ele só seria usado após a ocorrência de um crime, e não para vigilância em massa em tempo real. No entanto, organizações como a Electronic Frontier Foundation alertam que, tecnicamente, nada impede que um policial saque seu celular no meio de uma manifestação, foque nos participantes e obtenha suas identidades em segundos — algo que poderia ter um enorme efeito inibidor sobre o direito de protestar.

Riscos, vieses e a grande ameaça à privacidade

Além de sua aparente eficácia, o uso do Clearview e de outros algoritmos de reconhecimento facial levanta questões problemas legais e éticos significativosDiversos estudos federais nos Estados Unidos constataram que muitos sistemas comerciais identificam erroneamente os rostos de pessoas negras e asiáticas com mais frequência do que os de pessoas brancas. Em outras palavras, os erros não são distribuídos igualmente: existe um viés racial inerente à tecnologia, resultante da forma como os modelos são treinados e dos dados utilizados.

Isso tem consequências muito sérias: uma correspondência falsa pode levar a uma investigação injusta, prisões indevidas ou até mesmo condenações injustas se a IA receber peso probatório excessivo. Alguns departamentos de polícia chegaram ao ponto de usar imagens manipuladas —por exemplo, aumentando artificialmente a nitidez ou combinando características de várias pessoas— para forçar uma correspondência, que Isso aumenta ainda mais o risco de erros graves..

Além disso, a Clearview não passou por avaliações independentes de organizações como o Instituto Nacional de Padrões e Tecnologia (NIST), responsável nos Estados Unidos por medir a precisão dos algoritmos de reconhecimento facial. Especialistas como Clare Garvie, do Centro de Privacidade e Tecnologia da Universidade de Georgetown, apontam que não há dados públicos suficientes para confiar nos índices de precisão alegados pela empresa e que, portanto, Não sabemos quantos falsos positivos. A ferramenta pode estar gerando resultados na prática.

Outra questão preocupante é a segurança dos dados. As agências de aplicação da lei estão enviando fotos — às vezes confidenciais — para os servidores de uma empresa privada cujas medidas de segurança não foram devidamente auditadas. Se a Clearview sofrer uma violação de segurança, o prejuízo não será apenas de bilhões de fotos, mas também de padrões biométricos de reconhecimento facial, que não podem ser alterados como uma senha.

Por fim, a criação de um megabanco de dados global com “os preciosos dados biométricos de centenas de milhões de rostos”, como descreve um relatório, destrói a própria ideia de anonimato em espaços públicos. Mesmo que você seja um cidadão exemplar, sem antecedentes criminais e que nunca tenha posado para a polícia, é muito provável que Seu rosto já está indexado. Se você já apareceu em uma foto pública na internet, saiba que isso abre portas para abusos: desde um agente corrupto que deseja perseguir uma pessoa específica até governos autoritários que usam a imagem para monitorar dissidentes ou extorquir indivíduos vulneráveis.

A experiência do jornalista que expôs a Clearview.

Kashmir Hill, a jornalista do New York Times que investigou a Clearview, vivenciou algumas das peculiaridades da empresa em primeira mão. Quando tentou contatar os responsáveis, eles a evitaram sistematicamente. Para testar o sistema, Hill fez várias perguntas. forças policiais que publicaram uma foto de si mesmas e compartilhar os resultados obtidos.

A primeira surpresa foi que a busca não retornou nenhuma correspondência com o rosto dela, apesar de sua significativa presença online. A segunda foi ainda mais perturbadora: departamentos de polícia que haviam colaborado com ela começaram a receber ligações da Clearview perguntando se eles estavam conversando com jornalistas sobre o aplicativo. Isso revelou que a empresa tinha capacidade não apenas para coletar estatísticas, mas também para... monitor que estava procurando o quê e quando, e intervir se algo o incomodasse.

Em uma entrevista posterior, Hill conseguiu que o próprio Hoan Ton-That explicasse o erro nos resultados do primeiro teste, atribuindo-o a problemas ocasionais da plataforma. Eles repetiram o experimento: desta vez, enviaram uma foto "normal" deles mesmos, e o sistema retornou um bom número de imagens correspondentes, incluindo fotos antigas com mais de dez anos e até algumas que o jornalista nem se lembrava de ter visto.

Em uma segunda tentativa, Hill tirou outra foto cobrindo o nariz e a parte inferior do rosto. Mesmo assim, o aplicativo conseguiu encontrar várias correspondências corretas, demonstrando que o algoritmo pode funcionar com fragmentos faciais reconhecíveis. Esse nível de detalhe reforça a sensação de que, uma vez que seu rosto entra no banco de dados, É muito difícil escapar do radar. da ferramenta, mesmo se você tentar disfarçar ou recortar a imagem.

Tudo isso é agravado pela falta de uma supervisão clara: a empresa não tem ações negociadas em bolsa, não divulga a identidade da maioria de seus investidores e acumulou multas e decisões desfavoráveis ​​na Europa. Em países como França, Itália, Áustria e Grécia, as autoridades de proteção de dados aplicaram multas multimilionárias e declararam seu uso ilegal. Na União Europeia e no Reino Unido, a exploração comercial da Clearview para fins de aplicação da lei é proibida, embora um caso recente no Reino Unido tenha anulado uma multa de £ 7,5 milhões, porque o tribunal decidiu que a lei britânica não se aplica quando os dados são processados ​​por agências de aplicação da lei em países terceiros.

Existe algum aplicativo para "remover" emojis ou máscaras e ver os rostos reais?

Muitas pessoas se perguntam se, assim como existem ferramentas como o Clearview para encontrar pessoas a partir de uma foto, também existe uma maneira de encontrar pessoas por meio de uma foto. Aplicativo capaz de "revelar" rostos que foram cobertas com emojis, adesivos, desfoques ou outros filtros em imagens compartilhadas nas redes sociais. A resposta é que, em circunstâncias normais, não: se a parte do rosto for realmente apagada, pixelizada ou irreversivelmente coberta na imagem original, não há informações para recuperar, assim como não se pode "desqueimar" um pedaço de papel que já está cinza.

É diferente se o sistema que cobre o rosto o fizer apenas na tela (por exemplo, uma camada temporária sobre a foto), mas a imagem completa ainda existir em um servidor ou na memória do dispositivo. Nesse caso, alguém com acesso aos dados originais poderia ver a foto sem censura. O objetivo da Clearview não é restaurar o que foi apagado, mas sim encontrar... outras cópias da mesma pessoa Na web: se você enviar uma foto com um emoji cobrindo seu rosto, o aplicativo não o "removerá", mas poderá localizar outras imagens em que você aparece descoberto em outros lugares.

É importante entender esta diferença: as ferramentas de reconhecimento facial não fazem milagres em um arquivo corrompido; o que elas fazem é aproveitar o fato de que tendemos a repetir fotos, poses ou momentos em diferentes redes e contextos. Se uma imagem viral tem um rosto escondido com um adesivo, alguém poderia tentar usar o Clearview ou tecnologias semelhantes para comparar a parte visível (penteado, orelhas, formato da cabeça) com outros retratos disponíveis, mas o método mais confiável continua sendo a busca em outras fotografias públicas, não revele o original.

Na área da proteção, estão surgindo soluções que adotam a abordagem oposta: aplicativos projetados para dificultar ao máximo que sistemas como o Clearview explorem seu rosto. Em vez de revelar rostos, eles os cobrem de forma mais completa e eliminam qualquer vestígio de metadados que possa denunciá-lo.

Discreção: um aplicativo para ocultar seu rosto e excluir metadados.

Uma das ferramentas mais intrigantes que surgiram nesse contexto é o Discretion, criado pelo desenvolvedor independente David Kennedy. Este aplicativo, disponível para Mac, iPad e iPhone, pretende ser uma espécie de guarda-costas digital para suas fotosCom um único gesto, detecta automaticamente rostos em uma imagem e os cobre, removendo metadados que poderiam revelar informações sensíveis.

É muito simples de usar: abra o aplicativo, arraste a foto que deseja proteger e pronto. Os rostos detectados são cobertos por padrão com círculos cinza, embora na versão paga seja possível alterar cores, estilos e até mesmo aplicar emojis diferentes para cada pessoa. O importante é que o rosto se torna irreconhecível para um observador casual e, principalmente, para algoritmos de reconhecimento facial que analisam características, distâncias e proporções.

Além da camada visível, o Discretion é responsável por excluir automaticamente metadados como: Coordenadas GPS do local onde a foto foi tirada.O modelo exato da câmera ou do celular, a data e a hora precisas, e outros detalhes técnicos que muitas vezes passam despercebidos, mas permitem reconstruir sua atividade. Essa "incriminação" silenciosa é uma mina de ouro para quem quer rastrear seus movimentos ou criar um perfil da sua rotina.

O desenvolvedor enfatiza que o aplicativo foi projetado com a privacidade como prioridade: ele não envia fotos para servidores externos, não armazena cópias na nuvem e não coleta dados de uso que permitam a identificação do usuário. Todo o processamento é feito no próprio dispositivo, reduzindo o risco de terceiros acessarem suas imagens originais. A versão gratuita oferece as funcionalidades essenciais, e, mediante uma pequena taxa anual ou um pagamento único bastante acessível, os recursos premium são desbloqueados. fotos de processos em lote Ou então, divirta-se com filtros avançados e emojis.

Em um ecossistema onde proliferam aplicativos que extraem valor do seu rosto — seja para entretenimento, publicidade ou até mesmo vigilância — ferramentas como o Discretion oferecem justamente o oposto: um botão rápido para apagar impressões digitais e dificultar um pouco o trabalho dos bancos de dados de reconhecimento facial.

Reconhecimento facial “social”: do Blippar aos aplicativos de curiosidade genética

O uso do reconhecimento facial não se limita à polícia ou aos setores de segurança. Empresas como a Blippar levaram essa tecnologia para o campo da realidade aumentada "divertida": um aplicativo que inicialmente permitia aos usuários apontar seus celulares para objetos, produtos ou pinturas para obter informações adicionais — fichas técnicas, anúncios, curiosidades — e que posteriormente Incorporava a capacidade de reconhecer rostos..

O Blippar começou identificando cerca de 70.000 figuras públicas: atores, políticos, atletas e assim por diante. Ao focar em uma foto de Michael Fassbender, Hillary Clinton ou Boris Johnson, o aplicativo reconhecia o rosto e exibia links para suas biografias na Wikipédia, perfis em redes sociais e outros conteúdos. Posteriormente, abriu a possibilidade para que os usuários "cadastrassem" seus próprios rostos, enviando fotos para criar um perfil pessoal.

Em uma demonstração, um jornalista relatou como, ao usar o aplicativo para localizá-lo, descobriu que ele próprio já estava cadastrado como pessoa reconhecível. A partir daí, surgiu a questão incômoda: você gostaria que qualquer pessoa pudesse abordá-lo na rua? aponte o celular para o seu rosto E saber instantaneamente quem você é e o que você publicou online? Essa imagem de um "Shazam para pessoas" gera fascínio e rejeição na mesma medida.

A Blippar garante que todo o sistema é opcional e que cada usuário decide o que exibir, podendo desativar seu perfil a qualquer momento. Eles também afirmam ter projetado o processo de cadastro de forma que impedir a gravação do rosto de outra pessoa Sem o seu consentimento, uma vez que certos movimentos e verificação em tempo real são necessários. Além disso, qualquer pessoa que não queira que seu rosto seja armazenado — incluindo figuras públicas — pode solicitar sua remoção do banco de dados.

No entanto, a experiência de outras plataformas sugere que sempre há espaço para abusos, erros e usos imprevistos. Na Rússia, por exemplo, existiu um aplicativo que combinava redes neurais e reconhecimento facial para associar rostos na rua a perfis de redes sociais. Em um caso documentado, ele foi usado para identificar uma mulher que apareceu em filmes pornográficos, com o consequente potencial para assédio e extorsão.

Entretanto, surgiram aplicativos baseados em IA mais lúdicos, como o Face DNA, que promete revelar suas supostas raízes étnicas ou conexões com “civilizações antigas” com base apenas em uma foto. O usuário envia uma selfie e o sistema a compara com um grande banco de dados de rostos de diferentes populações ao redor do mundo, gerando um relatório que combina... coincidências modernas e interpretações históricasRelacionando características faciais com possíveis origens geográficas e traços de personalidade.

O Face DNA se apresenta como uma ferramenta de entretenimento e deixa claro em seu aviso legal que não se trata de um teste de DNA real nem de um método cientificamente validado para determinar a genética de alguém. Mesmo assim, é significativo que tenha se tornado comum entregar nossos rostos à IA para que ela brinque com hipóteses sobre nossa linhagem, características e "essência". Tanto no Blippar quanto nesses aplicativos focados na curiosidade ancestral, o rosto é transformado em um ponto de dados multifuncional: identificador, passaporte social, brinquedo e objeto de perfilamento.

Entretanto, gigantes como o Google já demonstraram que, do ponto de vista técnico, poderiam cruzar informações de seus enormes bancos de dados de imagens (Google Fotos, YouTube, Android, etc.) usando algoritmos semelhantes. Sua relutância em fazê-lo abertamente até agora decorre mais do medo de escândalos e regulamentações do que de qualquer impossibilidade técnica real. O precedente da Clearview mostra que basta uma empresa menor decidir que "não tem nada a perder" para dar o primeiro passo.

Tudo isso pinta um quadro onde a linha entre entretenimento, comércio e policiamento se torna tênue. Por um lado, temos a polícia usando aplicativos como o Clearview para solucionar crimes em minutos, elevando sua capacidade investigativa a níveis inimagináveis ​​há uma década. Por outro, temos cidadãos comuns enviando selfies para serviços que prometem dizer quem eles são, de onde vêm ou com quem se parecem, alimentando inadvertidamente essa tendência. novos repositórios biométricos que talvez amanhã alguém queira se conectar com câmeras de vigilância, óculos de realidade aumentada ou bancos de dados governamentais.

Nesse contexto, a questão fundamental não é mais apenas se existe ou não um aplicativo para "revelar rostos ocultos" por trás de emojis, mas sim o que significa a existência de ferramentas capazes de rastrear sua identidade e sua vida online a partir de uma única foto perdida em meio a bilhões. A proteção da privacidade, a necessidade de regulamentações rigorosas, o uso de soluções como o Discretion e uma abordagem mais crítica ao compartilhamento de imagens pessoais tornaram-se essenciais para evitar que, inadvertidamente, entreguemos o controle total de nossos rostos — e, com eles, uma parte muito íntima de nossas vidas — ao ecossistema do reconhecimento facial em massa.