Sites filtram mensagens em busca de crimes

Tecnologia utilizada pelo Facebook e por outras empresas varre sites em busca de suspeitos de criminosos

PUBLICIDADE

Por Agências
Atualização:

Tecnologia utilizada pelo Facebook e por outras empresas varre sites em busca de suspeitos de criminosos

PUBLICIDADE

SÃO FRANCISCO – Em 9 de março, um software do Facebook registrou algo de suspeito. Um homem com pouco mais de 30 anos estava conversando com uma menina de 13 anos do sul da Flórida, e planejava um encontro com ela na saída do colégio, no dia seguinte.

—- • Siga o ‘Link’ no Twitter, no Facebook, no Google+ no Tumblr e também no Instagram

A extensa mas pouco conhecida tecnologia do Facebook para filtrar conversas e mensagens em busca automática de atividade criminosa encaminhou um alerta sobre o diálogo a funcionários da companhia, que rapidamente chamaram a polícia.

 

Policiais assumiram o controle do computador da adolescente e detiveram o homem no dia seguinte, diz Jeffrey Duncan, agente do departamento de polícia da Flórida. O suposto aliciador se declarou inocente de múltiplas acusações de solicitar favores sexuais a uma menor de idade.

“A maneira e a terminologia do contato deles conosco nos propiciou a capacidade de reagir o mais rápido possível”, disse um dos diversos policiais entrevistados que elogiaram o Facebook por dar origem a esse tipo de investigação.

O Facebook está entre as diversas empresas que empregam uma combinação de novas tecnologias e vigilância humana para conter a ação dos predadores sexuais. Esses esforços normalmente começam por meio de recursos de filtragem automatizada de linguagem e trocas de informações inapropriadas, e se estendem ao uso de fichas de pedófilos condenados e registros sobre suas conversas no site para ensinar ao software o que procurar.

Publicidade

Mas mesmo que agora existam técnicas defensivas, e que elas sejam eficientes, seu uso pode ser caro. Elas também podem alienar partes da audiência de um site -especialmente os adolescentes, que desejam maior liberdade de expressão. Embora muitos dos principais sites que atendem a crianças sejam bastante vigilantes, o mesmo não ser dito sobre a ampla gama de opções online para os jovens dos 13 aos 18 anos.

“Existem companhias que estão fazendo um ótimo trabalho, trabalhando no limite de suas disponibilidades”, diz Brooke Donahue, agente especial encarregada de uma equipe da polícia federal dos EUA (FBI) que combate predadores na internet e pornografia infantil. “Já outras empresas se preocupam mais com o lucro.”

CONTRA FILTROS FROUXOS

Os sites dirigidos a crianças com menos de 13 anos são muito diferentes daqueles que atendem a grandes audiências de adolescentes.

PUBLICIDADE

Sob uma lei de proteção à privacidade das crianças na Internet dos EUA, adotada em 1998, os sites direcionados a crianças de 12 anos ou menos devem obter consentimento reconhecido dos pais antes de recolherem dados sobre as crianças. Alguns sites vão bem além: o Club Penguin, da Disney oferece a opção de restringir as crianças a chats filtrados, que evitam palavras censuradas, ou a chats que contenham apenas vocabulário pré-aprovado pela companhia.

O uso de filtros e de moderadores é essencial para uma experiência limpa, disse Claire Quinn, gerente de segurança de um site dirigido a crianças e adolescentes, o WeeWorld. Mas os programas e pessoal custam dinheiro e podem reduzir o faturamento publicitário.

“Você pode perder alguns de seus usuários mais ousados, e a perda de tráfego pode gerar perda de receita”, disse Quinn. “É preciso estar preparado para aceitar essas perdas.”

Publicidade

Não existem motivos jurídicos ou técnicos para que companhias com grandes audiências adolescentes, como o Facebook ou o Habbo, não façam o mesmo que a Disney ou o WeeWorld.

De uma perspectiva de negócios, porém, há motivos fortes para adotar um padrão menos restritivo, a começar pelas expectativas adolescentes de maior liberdade de expressão, à medida que os jovens amadurecem. Se eles não encontram o que desejam em um site, vão procurar em outro lugar.

Quanto mais frouxa for a filtragem, maior a necessidade de ferramentas sofisticadas de monitoração, como as empregadas pelo Facebook e as oferecidas por companhias independentes como a britânica Crisp Thinking, que presta serviços à Lego, Electronic Arts e à divisão de entretenimento online da Sony, entre outros.

Além de bloquear palavras proibidas e sequências de números que poderiam representar telefones, a Crisp tem indicadores de alerta em chats baseados em múltiplas categorias de informação, entre as quais o uso de palavras de baixo calão, divulgação de informações de identidade pessoal ou tentativas de extrair informações.

Fatores como um grande número de mensagens não respondidas também são computados, porque se correlacionam tanto com esforços de spam quanto de busca de informações pessoais por predadores. O conteúdo das conversações de pedófilos condenados também é levado em conta.

Quando uma conversa atinge placar elevado, ela recebe um alerta codificado por cores, e os alertas vermelhos requerem resposta imediata dos moderadores.

Os arquivos do Facebook também usam análise de relacionamento e arquivos de chats reais que precederam agressões sexuais, disse o vice-presidente de segurança da empresa, Joe Sullivan, à Reuters, em seus comentários mais expansivos sobre o tema até o momento.

Publicidade

Como a maioria de seus rivais, o Facebook em geral evita discutir suas práticas de segurança para não causar susto, porque o sistema não apanha muitos dos predadores, e a fim de evitar questionamentos quanto à privacidade dos usuários. Os usuários poderiam se incomodar com a filtragem intensiva que suas conversações recebem, pelo menos por parte de softwares.

UM EM CADA 10

Em parte por causa de seu tamanho, o Facebook depende mais de tais tecnologias que alguns outros sites.

“Nunca quisemos criar um ambiente em que temos funcionários olhando comunicações privadas, então é realmente importante que usemos uma tecnologia que tem um índice muito baixo de falsos positivos”, disse Sullivan. Além disso, o Facebook não se intromete profundamente no que acredita se tratar de relacionamentos pré-existentes.

Uma baixa taxa de falsos positivos, porém, também significa que muitas comunicações perigosas passam sem ser detectadas. Alguns adultos usaram o Facebook para contatar dezenas de menores antes de atacá-los, para depois serem identificados por suas vítimas ou pais das vítimas, mostram registros judiciais nos EUA.

“Eu creio que para cada um que prendemos, 10 outros passam (sem ser detectados) pelo sistema”, disse Duncan, do departamento de polícia da Flórida com relação ao Facebook e outras empresas.

Outro pilar na estratégia do Facebook é limitar a interação dos menores de 18 anos com o site e tornar difícil para adultos encontrá-los. Menores não aparecem em buscas públicas, somente amigos de amigos podem mandar mensagem a eles e somente amigos podem iniciar uma conversa com eles na rede social.

Publicidade

/REUTERS

Comentários

Os comentários são exclusivos para assinantes do Estadão.