O algoritmo de corte de fotos no Twitter continua com problemas após o caso de favorecimento de pessoas brancas nas imagens da rede social. Agora, um concurso realizado pelo própria plataforma apontou que o sistema tem priorizado, nos cortes, mulheres jovens, magras e brancas. O problema foi indicado por Bogdan Kulynych, um estudante de segurança da computação da EPFL, na Suíça, que foi o vencedor da ação que desafiava profissionais a encontrar falhas na inteligência artificial (IA) da rede em relação à fotos de pessoas.
Segundo a pesquisa de Kulynych, baseada em no algoritmo StyleGAN2 de deep fake — método que permite criar imagens de pessoas reais em computador por IA — o corte das fotos no Twitter favorecem pessoas com traços femininos, brancas e jovens, reconhecendo características como a textura da pele para determinar idade e gênero. Outros dois vencedores do desafio também descobriram queo corte desfavorecia pessoas com traços como cabelos brancos ou que tivessem parte de texto em árabe, por exemplo, para priorizar postagens em inglês.
"Basicamente, quanto mais magra, jovem e feminina for uma imagem, mais ela será favorecida", afirmou Patrick Hall, cientista do BNH, empresa que presta consultoria em IA e que foi jurado na competição.
Chamado Def Con, o concurso surgiu depois que o Twitter enfrentou diversas críticas pelo favorecimento de pessoas brancas em detrimento de pessoas negras em suas fotos. A polêmica, em novembro de 2020, fez com que a rede social adotasse uma outra visualização de fotos na feed, e testasse uma opção de mostrar uma imagem sem cortes. Ainda assim, as prévias de imagens, geradas pelo algoritmo, continuaram enviesadas em relação à raça, idade e gênero.
“Quando pensamos sobre preconceitos em nossos modelos, não se trata apenas do acadêmico ou experimental, mas como isso também funciona com a forma como pensamos na sociedade”, disse Rumman Chowdhury, diretor da área de pesquisa em aprendizado de máquina do Twitter. "Nós criamos esses filtros porque pensamos que isso é bonito, mas isso acaba treinando nossos modelos e conduzindo essas noções irrealistas do que significa ser atraente".
