Uma das medidas de segurança usadas pela polícia do País de Gales para receber a final da Liga dos Campeões da UEFA de 2017, entre Real Madrid e Juventus, foi a adoção de um sistema de reconhecimento facial. No entanto, um ano após a final, foi revelado que a plataforma de inteligência artificial continha uma alta taxa de erro: dos indivíduos enquadrados como potenciais criminosos, apenas 10% foram de fato corretamente enquadrados.
De acordo com documento divulgado pela polícia, 2.297 pessoas foram falsamente identificadas como potenciais criminosos, enquanto 173 indivíduos foram corretamente enquadrados.
Das 170 mil pessoas que foram a Cardiff para assistir a partida, 2.470 foram identificadas como potenciais criminosos, e apenas 7% desses identificados eram realmente foras da lei. Até a divulgação dos dados, 15 eventos fizeram uso do sistema. No total foram disparados 2.685 alertas, destes apenas 234 foram verdadeiros.
A polícia do País de Gales credita o mau desempenho do programa a baixa qualidade das imagens cedidas pela UEFA e pela polícia Interpol. Em comunicado, a corporação defendeu os resultados: “Problemas técnicos são comuns em todas as tecnologias de reconhecimento facial. Desde o uso inicial da tecnologia na final da Liga dos Campeões em junho de 2017, a precisão do programa usado pela polícia de Gales continua a melhorar”.
A melhora citada pela força local pode ser vista nos dados divulgados publicamente sobre o sistema, mesmo que de maneira discreta: em outubro de 2017 - mês em que o algoritmo do programa foi atualizado - a luta entre Anthony Joshua e Kubrat Pulev rendeu 5 alertas verdadeiros contra 46 alertas falsos, com taxa de erro de pouco menos de 90%. O mesmo resultado negativo apareceu na partida de rugby entre Gales e Australia. O ponto positivo ficou para o show de Liam Gallagher em dezembro, com 6 acertos e nenhum erro.
Apesar do números negativos, a polícia de Gales afirma que nenhuma detenção errada foi realizada. Já as prisões feitas pelo sistema estão na casa de 450.
A taxa de erro do sistema vem chamando a atenção de grupos que defendem a liberdade à privacidade nas redes, como o Big Brother Watch, que já planeja se articular contra o sistema através de uma campanha no parlamento britânico.
“Esses números [de falsos alertas] mostram que não só o reconhecimento em tempo real é uma ameaça as liberdades civis, como também é uma ferramenta imprecisa para a polícia”, declarou Silkie Carlo, diretor da organização. “As estatísticas divulgadas pela polícia do País de Gales mostram uma porcentagem de erros contra inocentes em taxas alarmantes. Foram poucas as vezes que as informações geradas por este sistema foram úteis para a polícia”.
