Até recentemente, o grande sucesso de Hoan Ton-That era um aplicativo que permitia às pessoas pintarem seu cabelo no mesmo tom do cabelo do presidente Donald Trump nas suas fotos. Depois, a empresa fez algo marcante: inventou uma ferramenta que pode acabar com a capacidade das pessoas de caminhar por uma rua anonimamente, e a forneceu para centenas de agências de polícia.
Sua pequena companhia, Clearview AI, projetou um aplicativo de reconhecimento facial revolucionário. Você tira a foto de uma pessoa, carrega-a e pode ver fotos públicas dessa pessoa juntamente com links para locais onde as fotos apareceram.
O sistema, cuja espinha dorsal é um banco de dados de mais de três bilhões de imagens que a Clearview alega ter tirado do Facebook, YouTube, Venmo e milhões de outros sites – vai bem além de qualquer coisa até hoje criada pelo governo dos Estados Unidos ou pelas gigantes do Vale do Silício.
Agentes das polícias estadual e federal disseram que embora tivessem conhecimento limitado de como a Clearview trabalha e quem está por trás dela, utilizaram o seu aplicativo para conseguir resolver casos de furtos em lojas, roubos de identidade, fraudes com cartão de crédito, assassinatos e exploração sexual infantil.
Até agora, o uso de tecnologia que identifique rapidamente uma pessoa com base no seu rosto era tabu, considerado uma invasão radical da privacidade.
Mas sem um escrutínio público, mais de 600 agências de polícia começaram a usar o aplicativo da Clearview no ano passado. O código para uso do aplicativo, analisado pelo The New York Times, inclui linguagem de programação para ser visto com óculos de realidade virtual com lentes aumentadas; os usuários conseguem potencialmente identificar cada pessoa que veem.
A Clearview também licenciou o aplicativo para várias empresas para fins de segurança.
“As possibilidades desse aplicativo são infinitas”, disse Eric Goldman, codiretor do High Tech Law Institute, na Universidade de Santa Clara. “Imagine um oficial de polícia desonesto que deseja vasculhar a vida de potenciais "alvos românticos", ou um governo estrangeiro usando o aplicativo para desvendar segredos de pessoas para chantageá-las ou colocá-las na prisão.
A própria Clearview se mantém em segredo, evitando debates sobre sua tecnologia inovadora. Quando comecei a examinar de perto a empresa, em novembro, seu website era uma página vazia mostrando um endereço inexistente em Manhattan como seu local de atividade. O único funcionário da companhia listado no LinkedIn, um gerente de vendas chamado “John Good” na verdade era Ton-That usando um nome falso. Durante um mês, pessoas associadas à companhia não retornaram meus e-mails ou telefonemas.
Mas, ao mesmo tempo, que a empresa estava me evitando, ela também estava me monitorando. A meu pedido, alguns membros da polícia inspecionaram o aplicativo para encontrar alguma foto minha. Logo receberam telefonemas da Clearview perguntando se eles estavam falando com a imprensa, sinal de que a companhia tem capacidade e, neste caso, desejo de monitorar as pessoas que a polícia está procurando.
A tecnologia de reconhecimento facial sempre despertou polêmica. O aplicativo da Clearview implica um risco extra porque a polícia está transferindo fotos sensíveis para os servidores de uma empresa cujos recursos para proteger seus dados não estão comprovados.
A companhia finalmente passou a responder às minhas perguntas, dizendo que seu silêncio, até então, era normal no caso de uma startup iniciante em um modo cauteloso. Ton-That admitiu ter criado um protótipo para uso com óculos de realidade aumentada, mas que a empresa não tinha planos para lançá-lo no mercado. E disse também que minha foto os deixou alarmados porque o aplicativo “sinaliza possíveis comportamentos de busca anômalos” com o fim de impedir os usuários de realizar o que entende como “buscas inadequadas”.
A Clearview foi fundada por Ton-That e Richard Schwartz – que foi assessor de Rudy Giuliani quando este era prefeito de Nova York – e apoiada financeiramente pelo investidor de risco Peter Thiel, que também investiu no Facebook e Palantir.
Outro investidor é uma pequena empresa chamada Kirenaga Partners. Seu fundador, David Scalzo, descartou preocupações sobre o fato de a Clearview possibilitar buscas na internet pelo rosto, dizendo que é uma ferramenta valiosa para a resolução de crimes.
“Cheguei à conclusão de que, como a informação aumenta constantemente, ela nunca vai ser privada. As leis têm de determinar o que é legal, mas você não pode proibir a tecnologia".
Viciado na Inteligência Artificial
Ton-That, 31 anos, chegou ao Vale do Silício, vindo da distante Austrália, onde nasceu. Em 2007, ele desistiu da faculdade e foi para San Francisco. O iPhone tinha acabado de ser lançado e seu objetivo era entrar o mais cedo possível no que achava que seria um mercado vibrante para os aplicativos de rede social.
Em 2015, ele criou o Trump Hair, que inseria o penteado característico de Donald Trump na cabeça de uma pessoa, numa foto, e um programa de compartilhamento de imagens. O projeto não avançou e ele se mudou para Nova York em 2016. Lá começou a ler estudos acadêmicos sobre inteligência artificial, reconhecimento de imagem e aprendizado de máquina.
Schartz e Ton-That se encontraram em 2016 num lançamento de livro no Manhattan Institute. Schwartz, hoje com 61 anos de idade, havia feito um importante trabalho para Giuliani nos anos 1990, um dispositivo de arquivo rotativo para armazenamento de informações. Os dois decidiram então criar dispositivos de reconhecimento facial – Ton-That criaria o aplicativo e Schwartz usaria seus contatos para fomentar o interesse comercial.
Os departamentos de polícia tinham acesso a ferramentas de reconhecimento facial há quase 20 anos, mas estavam limitados à busca de imagens fornecidas pelo governo, como fotos de prontuários policiais ou de carteiras de habilitação.
Ton-That queria ir além disso. Em 2016, recrutou uma dupla de engenheiros. Um ajudou a desenhar um programa que coleta automaticamente imagens de rostos de pessoas de toda a internet, como sites de emprego e redes sociais.
O outro engenheiro foi contratado para aperfeiçoar um algoritmo de reconhecimento facial derivado dos estudos acadêmicos. Resultado: um sistema que usa o que Ton-That descreveu como “uma rede neural de última geração” para converter todas as imagens em fórmulas matemáticas, ou vetores, baseadas na geometria facial – como a distância dos dois olhos de uma pessoa.
A Clearview criou um enorme catálogo com todas as fotos com vetores similares separados por seções. Quando um usuário baixa uma foto de um rosto no sistema da Clearview, ele converte o rosto num vetor e então exibe todas as fotos armazenadas na seção daquele vetor -juntamente com links para os sites dos quais as fotos se originaram.
A empresa continua pequena, tendo levantado US$ 7 milhões de investidores, de acordo com Pitchbook, site que monitora investimentos em startups.
Viralizando junto à polícia
Em fevereiro, a polícia do estado de Indiana recorreu à Clearview e solucionou um caso em 20 minutos usando seu aplicativo. Uma briga entre dois homens num parque acabou quando um atirou no outro. Um pessoa filmou o crime no seu celular, e assim a polícia tinha uma foto do rosto do atirador para pesquisar a imagem no aplicativo da Clearview.
Imediatamente, o homem apareceu em um vídeo que alguém havia postado nas redes sociais e seu nome incluso na legenda. “Ele não tinha carta de habilitação para dirigir e nunca foi preso, portanto não constava dos bancos de dados do governo”, disse o chefe de polícia de Indiana na época.
O homem foi preso e condenado. Cohen disse que provavelmente ele não teria sido identificado sem o aplicativo. A polícia de Indiana foi o primeiro cliente pagante da Clearview, segundo a empresa.
A técnica de venda mais eficaz da companhia foi oferecer testes grátis por 30 dias do aplicativo.
A Polícia Federal, incluindo o FBI e o Departamento de Segurança Interna estão experimentando o aplicativo, como também as autoridades policiais canadenses.
Ton-That disse que a ferramenta nem sempre funciona. Muitas das fotos do seu banco de dados são tiradas a nível dos olhos. Grande parte do material que a polícia carregou é de câmeras de segurança montadas em tetos ou no alto de paredes. Apesar disto, o índice de correspondências do aplicativo é de até 75%.
Uma razão do atrativo da empresa é que seu serviço é único. Isso porque o Facebook e outros sites de redes sociais proíbem as pessoas de usarem imagens dos usuários. Clearview está infringindo os termos de serviço dos sites.
Algumas autoridades da polícia dizem não ter percebido que as fotos estavam sendo enviadas e armazenadas nos servidores da companhia. E a Clearview tenta se prevenir de preocupações, enviando um documento FAQ aos possíveis clientes, em que afirma que seu serviço de apoio ao cliente não examina fotos que a polícia carrega. E a companhia contratou Paul Clement que foi procurador geral à época do presidente George W. Bush, para dissipar as preocupações sobre a legalidade do aplicativo.
Em um memorando de agosto que a Clearview forneceu a clientes em potencial, incluindo o Departamento de Polícia de Atlanta e o gabinete do Condado de Pinellas, na Flórida, Clement disse que as agências policiais “não violam a Constituição federal ou as leis biométricas e de privacidade estatais relevantes ao usar o Clearview com essa finalidade."
Paul Clement, hoje sócio na Kirkland & Ellis, escreveu que as autoridades não precisam dizer aos réus que eles foram identificados via Clearview, desde que não seja a única base para obter um mandado de detenção.
O memorando parece ter tido efeito: a polícia de Atlanta e a delegacia do condado de Pinellas logo começaram a usar o aplicativo. Para Woodrow Hartzog, professor de direito e ciência da computação na Northeastern University, em Boston, a Clearview é a última prova de que o reconhecimento facial deve ser proibido nos Estados Unidos.
“Nós sempre confiamos nos esforços do setor para se autopoliciar e não adotar tecnologias tão perigosas, mas agora essas barreiras estão sendo rompidas porque há muito dinheiro envolvido. “Não vejo nenhum futuro quando aproveitamos os benefícios da tecnologia de reconhecimento facial sem afastar o abuso danoso da vigilância que isso envolve. A única maneira de dar um basta a isto é proibir o seu uso”. /TRADUÇÃO DE TEREZINHA MARTINO
