O Facebook informou nesta quarta-feira, 24, que foram removidas da plataforma, no último trimestre, cerca de8,7 milhões de imagens de nudez infantil. A ação foi feita com a ajuda de um software que automaticamente sinaliza quais são as fotos que possuem esse tipo de conteúdo.
A ferramenta, lançada no ano passado, utiliza aprendizado de máquina para identificar imagens que contêm nudez e criança, permitindo a aplicação da regra do Facebook que proíbe fotos de menores em um contexto sexualizado. Um sistema semelhante também identifica usuários envolvidos em exploração sexual de menores.
O programa faz exceções para a arte e a história, como a foto ganhadora do Prêmio Pulitzer de uma garota nua fugindo de um ataque de napalm da Guerra do Vietnã.
A chefe global de segurança do Facebook, Antigone Davis, disse em entrevista à agência de notícias Reuters que a “máquina nos ajuda a priorizar” e “filtrar de forma mais eficiente” conteúdos problemáticos.
Entretanto, há quem reclame da imperfeição do sistema responsável por esse filtro. Este ano, agências de notícias e anunciantes já criticaram o Facebook por ele ter bloqueado publicações que não tinham conteúdo abusivo.
Em resposta, Davis disse que os sistemas de segurança cometem erros, mas os usuários podem recorrer. “Preferimos errar do lado da cautela com as crianças”, afirmou.
O Facebook reporta ao Centro Nacional para Crianças Desaparecidas e Exploradas (NCMEC) os conteúdos abusivos que o seu sistema encontra na rede social.
Antes do novo software, o Facebook confiava nos usuários ou então em seus filtros de nudez para adultos para selecionar imagens de crianças. Um sistema separado é capaz de bloquear a pornografia infantil que tenha sido previamente denunciada às autoridades.
A empresa está explorando a aplicação da mesma tecnologia em seu aplicativo Instagram. Sob pressão de reguladores e legisladores, o Facebook também prometeu acelerar a remoção de material extremista e ilícito. Programas de aprendizado de máquina que filtram os bilhões de conteúdos que os usuários publicam a cada dia são essenciais para o seu plano.
