Meta Testou Reconhecimento Facial de Fornecedora do Pentágono para Seus Óculos Inteligentes
A Meta está testando software de reconhecimento facial desenvolvido pela Rank One Computing — uma empresa de Denver que obtém cerca de 80% de sua receita de clientes governamentais e tem em seu conselho um ex-diretor adjunto da CIA e um ex-chefe de ciência do FBI.
O acordo está documentado em uma licença de software obtida pela WIRED, vinculada a uma versão de teste do aplicativo Meta AI que alimenta os óculos inteligentes Ray-Ban e Oakley da empresa.
Tecnologia de vigilância em produtos de consumo
O reconhecimento facial da Rank One já é utilizado pelo U.S. Marshals Service para confirmar identidades de prisioneiros sem impressão digital durante o transporte, e pelo Naval Criminal Investigative Service (a polícia da Marinha dos EUA). A empresa também desenvolveu reconhecimento facial de longo alcance para o Comando de Operações Especiais dos EUA, afirmando que seu software poderia identificar um rosto a até um quilômetro de distância.
A licença adquirida pela Meta autoriza o uso do reconhecimento facial da Rank One junto com detecção de vivacidade (liveness detection), que verifica se a câmera está vendo uma pessoa real em vez de uma foto ou máscara. O sistema suporta até 10 milhões de templates faciais e permanece ativo.
Código em produção, funcionalidade desativada
Código revisado pela WIRED mostrou que resquícios da integração da Rank One — as rotinas que carregam sua licença e inicializam seu software — permaneceram em uma versão do aplicativo da Meta enviada este mês para milhões de consumidores, adormecidos, junto com o próprio sistema de reconhecimento facial da empresa.
Nenhum dos sistemas de reconhecimento facial vinculados aos óculos inteligentes da Meta jamais esteve ativo para os usuários. A Meta os removeu completamente do aplicativo em 5 de junho, um dia após a WIRED revelar que a empresa havia construído silenciosamente um sistema de reconhecimento facial não lançado, chamado internamente de NameTag.
A tênue linha entre vigilância e consumo
"Existe uma longa história de tecnologias militares se tornando produtos de consumo", diz Joseph Jerome, ex-executivo de políticas do Meta Reality Labs. "Esse é, sem dúvida, o caso da internet."
A liderança da Rank One é composta por veteranos de alto escalão da aplicação da lei e inteligência. Seu CEO, B. Scott Swann, anteriormente dirigiu a divisão do FBI que opera os bancos de dados biométricos da agência. Seu conselho inclui um ex-diretor adjunto da CIA para ciência e tecnologia e um ex-chefe do ramo de ciência e tecnologia do FBI.
Preocupações com viés e regulação
Como outros sistemas de reconhecimento facial, o da Rank One não tem desempenho uniforme entre grupos demográficos. Em testes do NIST (National Institute of Standards and Technology), uma versão do algoritmo produziu taxas de falsos positivos significativamente diferentes dependendo do sexo e país de nascimento da pessoa.
A Meta se recusou a comentar sobre os detalhes do relacionamento com a Rank One — não disse por que licenciou o software, quando o relacionamento começou ou se está em andamento. A Rank One também se recusou a comentar.
Este caso levanta questões fundamentais sobre privacidade e o uso dual de tecnologias de vigilância: as mesmas empresas e os mesmos algoritmos subjacentes servindo tanto a consumidores quanto a agências militares e policiais.