Em 2015, o aplicativo Google Fotos do Google foi envolvido em uma polêmica após o engenheiro de software norte-americano Jacky Alciné publicar no Twitter que a inteligência artifical do app estava classificando seus amigos negros como “gorilas”. Na época, a empresa se desculpou e prometeu que corrigiria o problema. No entanto, conforme mostra uma reportagem do jornal Wired, o Google não resolveu a questão, ele simplesmente impediu seus algoritmos de identificar gorilas.
Para confirmar a tese, o Wired subiu milhares de fotos de primatas para o serviço de fotos do Google. De acordo com a reportagem, alguns tipos de primatas são identificados corretamente, mas especificamente gorilas e chimpanzés não. O jornal também percebeu que o Google limitou as buscas por etnia, então ao pesquisar “mulher negra” ou “homem negro”, o aplicativo mostra fotos de pessoas usando roupas pretas.
Após as descobertas, um porta-voz do Google confirmou ao jornal americano que as categorias “gorila”, “chimpanzé” e “macaco” permanecem bloqueadas no Google Fotos desde a polêmica com Alciné. As categorias, no entanto, ainda estão disponíveis em outros serviços da empresa, como o sistema Cloud Vision API, vendido a outras empresas, e o assistente de voz Google Assistant.
Ainda não está claro se o algoritmo do Google foi restrito dessa forma porque a empresa não conseguiu corrigir o problema ou se a companhia simplesmente não quis destinar recursos para isso. No entanto, é emblemático que uma das maiores empresas de tecnologia do mundo esteja usando saídas simples para problemas complexos que envolvem seus usuários.
