• Estadão
  • Opinião
  • Política
  • Economia
  • Internacional
  • Esportes
  • Brasil
  • São Paulo
  • Cultura
  • PME
  • Jornal do Carro
  • E+
  • Paladar
  • Link

Link Estadão

 
  •  inovação
  •  cultura digital
  •  gadgets
  •  empresas
  •  games
Assine Estadão
formulário de busca

'Profeta' do escândalo do Facebook faz alerta sobre reconhecimento facial

Professor polonês previu mecanismo que levou ao caso Cambridge Analytica; agora, se preocupa com uso de inteligência artificial para reconhecimento de rostos humanos

25/05/2019 | 17h25

  •      

 Por Bruno Romani - O Estado de S. Paulo

Kosinski alerta para o uso de IA para monitorar cidadãos, especialmente dentro de características psicológicas

Gorm K. Gaare

Kosinski alerta para o uso de IA para monitorar cidadãos, especialmente dentro de características psicológicas

Leia mais

  • 'Meu interesse é sobre riscos à privacidade', diz Michal Kosinski
  • Envolvimento de Kosinski com Cambridge Analytica é alvo de polêmica
  • Um ano após maior crise, Facebook busca nova rota sem resolver dilemas

Michal Kosinski sabe que causa controvérsia. Psicólogo e professor assistente da Universidade Stanford, o polonês de 37 anos descreveu, anos antes de ser descoberto, o mecanismo por trás da maior crise da história do Facebook. Em artigo de 2013, ele chamou atenção para o uso de curtidas e testes para decifrar a personalidade de uma pessoa. A estratégia foi usada pela consultoria política Cambridge Analytica (CA) para influenciar a opinião pública em episódios como as eleições americanas de 2016. De profeta, Kosinski passou a ser considerado cúmplice na manobra. Agora, faz novo alerta: abusos no uso de inteligência artificial (IA) para reconhecimento de rostos humanos. 

“Empresas e governos estão usando tecnologia para identificar não só as pessoas, mas também características e estados psicológicos, causando riscos sérios à privacidade”, diz o pesquisador, em entrevista exclusiva ao Estado. Nos últimos anos, ele tem dedicado seus estudos a mostrar como a tecnologia de reconhecimento facial pode ser usada para discriminar pessoas. Para exemplificar, escolheu uma abordagem espinhosa: mostrar que um algoritmo pode olhar para fotos de pessoas em redes sociais e adivinhar sua orientação sexual com precisão maior do que humanos fariam. 

Cara a cara

No estudo, o polonês utilizou um algoritmo de reconhecimento facial disponível de graça na internet, o VGG Face. O sistema foi alimentado com 35 mil fotos de rostos encontradas em redes sociais. A máquina tinha um desafio: ao ser apresentada a um par de fotos, com uma imagem de um heterossexual e uma de um homossexual, ela deveria ser capaz de apontar qual das pessoas tinha a maior probabilidade de ser gay. 

A máquina teve taxa de acerto de 81% no caso de homens e 71% no caso de mulheres – já julgadores humanos tiveram 61% e 54%, respectivamente. Ao analisar cinco fotos das mesmas pessoas, a precisão da máquina subiu para 91% (homens) e 83% (mulheres). 

“O estudo não tenta entender o que causa diferenças entre gays e héteros, mas mostrar que há mecanismos que trabalham para isso, como o fato de que características psicológicas e sociais afetam nossa aparência”, explica Kosinski. “Para os humanos, é difícil detectá-las, mas os algoritmos são muito sensíveis e podem fazer previsões precisas.”

Publicados em 2017 na revista The Economist, os resultados da pesquisa provocaram polêmica. Dois grupos LGBTQ+ dos EUA, o Human Rights Campaign e o Glaad, consideraram o estudo falho e perigoso, enquanto pesquisadores questionaram seu método, linguagem e propósito. 

Monitoramento por reconhecimento facial já ocorre na China e influencia até na obtenção de crédito e na permissão de viagens 

Reuters

Monitoramento por reconhecimento facial já ocorre na China e influencia até na obtenção de crédito e na permissão de viagens 

Para Kosinski, há paralelos na reação das pessoas entre seu estudo sobre o Facebook e sobre reconhecimento facial. “Quando alertei para o monitoramento de curtidas, as pessoas riram dos meus resultados. Ao descobrir sobre a Cambridge Analytica, passaram a me levar a sério”, conta. “De repente, começaram a me culpar por alertar sobre o problema, mesmo não sendo o autor dessa tecnologia.” Mas é difícil ignorar sua conexão com o caso.

A mudança de foco do pesquisador acompanha as tendências da internet, como o crescimento da interação baseada em imagens. Um exemplo é o Instagram, maior rede social de fotos e vídeos do mundo. Entre 2013 e 2018, a plataforma, que também é do Facebook, cresceu mais de dez vezes e hoje tem mais de 1 bilhão de usuários compartilhando selfies e fotos de amigos em todo o mundo. 

Perdas e danos

O polonês não se importa com as reações e crê ter atingido seu objetivo: mostrar a facilidade de se construir um algoritmo capaz de estabelecer conclusões como a orientação sexual, religiosa ou política de uma pessoa.

Independentemente de estarem certos ou errados, sistemas com essa missão podem gerar danos à sociedade se forem usados. “Há startups e companhias que oferecem previsões básicas gratuitas na internet. É uma tecnologia acessível – e pode estar em aeroportos ou postos de fiscalização de imigrantes”, diz.

Há até lugares em que isso já está sendo posto em prática: na China, há relatos de que o governo usa reconhecimento facial para catalogar e vigiar os uighurs, uma minoria étnica muçulmana. Já cidadãos chineses são monitorados para a obtenção de crédito pessoal.

“Não dá para a sociedade se transformar numa sociedade preditiva, na qual não posso ter um emprego por ter 72% de chance de ter determinado comportamento”, avalia Sérgio Amadeu, professor da Universidade Federal do Grande ABC (UFABC). “Isso retira das pessoas, bem como da sociedade, a capacidade de livre arbítrio.” 

Ética

Para especialistas em IA ouvidos pelo Estado, o nível de apuro tecnológico da pesquisa de Kosinski não surpreende. “São resultados preliminares. É possível até melhorar a precisão do algoritmo”, diz Alexandre Chiavegatto Filho, professor da USP e especialista em tecnologia na saúde. Não é algo que está nos planos do polonês: para ele, o que fez foi suficiente para jogar luz no problema. A discussão do trabalho, porém, está longe de ser enterrada. 

“Escolher estudar padrões ligados a assuntos íntimos, como orientação sexual, com base no rostos das pessoas parece bastante assustador”, diz Walter Carnielli, diretor do Centro de Lógica, Epistemologia e História da Ciência da Unicamp e pesquisador associado ao Advanced Institute for Artificial Intelligence (AI2). Para Chiavegatto, da USP, o tiro do polonês pode sair pela culatra. “É uma pesquisa que mostra para o Irã e outros governos totalitários que é possível e simples aplicar essa tecnologia. É preciso pensar nas consequências.” 

Lá fora a questão é bem discutida: antevendo cenários distópicos, a cidade de São Francisco (EUA) proibiu, há duas semanas, o uso governamental de reconhecimento facial em locais públicos. Kosinski concorda que a proibição não é um bom caminho para a tecnologia. Aqui no Brasil, o mais próximo disso são audiências públicas sobre o uso de reconhecimento facial e de inteligência artificial. 

Enquanto isso, Kosinski se prepara para tocar as trombetas de um novo apocalipse tecnológico. Hoje, ele trabalha em novo artigo sobre reconhecimento facial. Desta vez, tenta demonstrar como a tecnologia pode ser usada para estimar visões políticas. A expectativa é publicar o trabalho até o final do ano, antes de uma nova corrida presidencial começar nos EUA. Ele sabe que deve gerar controvérsia – de novo. “Se as pessoas entenderem os riscos, tudo bem: meu trabalho terá sido bem feito.” 

Entenda o escândalo do uso de dados do Facebook pela Cambridge Analytica

  •      
16 de março

Foto: EFE/Alex Howard

O primeiro capítulo da polêmica aconteceu em 16 de março, uma sexta-feira, quando o Facebook suspendeu a consultoria Cambridge Analytica, conhecida por participar da campanha de Donald Trump à presidência dos Estados Unidos, de sua plataforma. A manobra aconteceu três anos depois que o Facebook descobriu que a consultoria havia obtido dados de forma ilícita de seus usuários – em 2015, porém, o Facebook apenas pediu que a empresa deletasse esses dados e acreditou quando a Cambridge Analytica, presidida por Alexander Nix (foto) afirmou que o tinha feito.

17 de março

Foto: Andrew Testa/NYT

No dia seguinte, os jornais The Observer e The New York Times publicaram as reportagens que revelaram o escândalo a partir de revelações feitas pelo informante Christopher Wylie: dados de 50 milhões de usuários tinham sido obtidos a partir do quiz This is Your Digital Life, do pesquisador da Universidade de Cambridge Aleksandr Kogan. Kogan, por sua vez, os teria repassado á Cambridge Analytica. A suspensão do dia anterior teria sido uma forma do Facebook se adiantar às reportagens – na época, a empresa ameaçou os jornais com processos. 

19 de março

Foto: Reuters

No primeiro dia útil após a revelação dos escândalos, o Facebook perdeu US$ 36 bilhões em valor de mercado após ver suas ações caírem 6,7%, com fuga de investidores preocupados com a repercussão do caso. 

20 de março

Foto: AP/Marcio José Sanchez

No dia seguinte, Mark Zuckerberg começou a ser convocado para prestar esclarecimentos nos EUA e no Reino Unido sobre o assunto; em paralelo, governos ao redor do mundo começam  a discutir regulamentação especial para o Facebook e outras empresas de internet. Enquanto isso, o presidente executivo da rede social segue em silêncio. 

20 de março, parte 2

Foto: Nilton Fukuda/Estadão

No mesmo dia, começou a ganhar força o movimento #deleteFacebook – a hashtag publicada em redes sociais conclamava os usuários a abandonarem a rede social. Entre as pessoas que aderiram ao movimento estava Brian Acton, cofundador do WhatsApp, aplicativo de mensagens que foi adquirido em 2014 pela empresa de Mark Zuckerberg por US$ 19 bilhões. 

21 de março

Foto: Reuters

Pela primeira vez, o presidente executivo da Cambridge Analytica, Alexander Nix, admitiu que sua empresa pode ter influenciado drasticamente os resultados das eleições nos Estados Unidos – a consultoria política teria trabalhado em prol do candidato republicano e hoje presidente americano, Donald J. Trump. 

21 de março, parte 2

Foto: Jim Wilson/NYT

No dia 21 de março, Zuckerberg falou pela primeira vez sobre o caso, assumiu a responsabilidade pelos erros cometidos e pediu desculpas aos usuários. Ele ainda esclareceu a situação e divulgou que o Facebook estava mudando suas políticas de acesso de dados de usuários para aplicativos parceiros. As ações da empresa, porém, seguiram em queda. 

21 de março, parte 3

Foto: Daniel Teixeira/Estadão

André Torretta, executivo de marketing político brasileiro, havia assinado uma parceria com a Cambridge Analytica para atuar nas eleições de 2018 no Brasil. Ao saber do escândalo, a parceria foi desfeita, mas o Ministério Público do Distrito Federal e Territórios (MP-DFT) abriu uma investigação para entender qual o envolvimento de Torretta com a Cambridge Analytica – e se ferramentas parecidas tinham sido usadas no Brasil. 

23 de março

Foto: NYT

Elon Musk, fundador da Space X e da Tesla, foi outro que aderiu ao #deleteFacebook, após ser desafiado por um usuário no Twitter; enquanto isso, a Câmara dos Deputados dos EUA convidou Mark Zuckerberg, bem como outros executivos da área de tecnologia, a depor. 

25 de março

Foto: Reuters

Em meio ao escândalo, uma nova revelação: o Facebook coletou registros de chamadas e mensagens enviadas por SMS feitas por usuários de Android nos últimos anos, a partir do aplicativo de mensagens Facebook Messenger. A coleta foi percebida por usuários da rede social neste domingo, 25, e confirmado pela empresa horas depois. A comprovação foi possível porque a rede social permite que qualquer usuário faça um download dos dados armazenados pela empresa na plataforma.

26 de março

Foto: NYT

No dia 26 de março, as ações do Facebook voltaram a despencar, depois que a autoridade regulatória de comércio dos Estados Unidos (FTC, na sigla em inglês) anunciou que estava oficialmente investigando a empresa por uma quebra de contrato – em 2011, a rede social e a agência assinaram um acordo dizendo que a empresa deveria proteger os dados de seus usuários. Com a revelação do escândalo da Cambridge Analytica, a FTC agora apura se o Facebook feriu os termos do pacto. 

28 de março

Foto: Facebook

Além de pedir desculpas publicamente, o Facebook também começou a se esforçar para realizar mudanças na rede social a fim de convencer usuários, investidores e reguladores de que estava tudo bem. Uma das principais mudanças aconteceu no centro de privacidade da rede social – espaço onde os usuários podem definir suas configurações sobre o tema. 

28 de março

Foto: Reuters

Outro esforço tomado pela rede social foi o de cortar laços com provedores de dados do mundo todo – empresas que reúnem informações pessoais e de pagamento de pessoas. No Brasil, a única empresa do tipo que teve sua parceria encerrada com a rede social foi a Serasa Experian. 

4 de abril

Foto: Reuters

Na manhã de 4 de abril, o presidente executivo do Facebook, Mark Zuckerberg, anunciou que concordou em ir depor ao Congresso americano e responder às perguntas dos deputados e senadores dos EUA. 

4 de abril, parte 2

Foto: Reuters/Dado Ruvic

No mesmo dia, o Facebook anunciou novas versões de seus termos de uso e políticas de privacidade – os textos, que permaneceram em consulta por uma semana, ficaram maiores, mais claros e com interpretação mais aberta, na opinião dos especialistas, mas não mudaram a natureza da rede social. 

4 de abril, parte 3

Foto: AFP

Além disso, o Facebook também divulgou informações de suas investigações internas sobre o escândalo da Cambridge Analytica. Ao todo, 87 milhões (e não 50 milhões, como informaram os jornais) podem ter tido seus dados obtidos pela consultoria a partir do quiz feito por Aleksandr Kogan. Mark Zuckerberg também admitiu que a vasta maioria dos 2,13 bilhões de usuários do Facebook podem ter tido seus dados obtidos por terceiros. 

9 de abril

Foto: Reuters

No dia 9 de abril, o Facebook passou a notificar todos os usuários que tiveram seus dados compartilhados com a consultoria Cambridge Analytica (cuja sede está na foto acima). Dias antes, a empresa também anunciou que passará a verificar a identidade de todos os usuários que comprarem anúncios para publicações de cunho político e adotará mais transparência para posts pagos em campanhas eleitorais. 

10 de abril

Foto: AFP

No dia 10 de abril, o presidente do Facebook, Mark Zuckerberg, depôs durante cinco horas no Senado americano – ele respondeu a perguntas de todo tipo e complexidade, mas revelou poucas novidades. A principal delas é a de que Aleksandr Kogan vendeu informações de seu quiz para outras empresas. Lembre como foi. 

11 de abril

Foto: Reuters

No dia seguinte, mais cinco horas de depoimentos de Mark Zuckerberg – desta vez na Câmara dos Deputados, onde enfrentou maior pressão e admitiu que seus dados estavam entre os dos 87 milhões de usuários afetados pelo escândalo da Cambridge Analytica. 

20 de abril

Foto: AP/Jeff Roberson

Em 20 de abril, a rede social a divulgar os novos termos de uso para seus usuários nos Estados Unidos e na Europa. Lá fora, o documento recebeu alterações por duas razões: além de esclarecer termos e temas complicados à luz do escândalo do uso ilícito de dados com a Cambridge Analytica, os termos de uso também adequam a rede social à GDPR, nova lei de proteção de dados europeia que vai entrar em vigor em 25 de maio no Velho Continente. Segundo o jornal norte-americano Wall Street Journal, o novo documento tem agora 4,2 mil palavras – em inglês –, contra 2,7 mil do “contrato” anterior, divulgado no final de 2016. Sua linguagem também está mais clara e busca mostrar para os usuários o que é feito com seus dados. 

23 de abril

Foto: Reuters/Stoyan Nenov

Em 23 de abril, a Federal Trade Comission (FTC), órgão que regula o comércio e as empresas nos EUA, divulgou uma auditoria feita pela consultoria PricewaterhouseCoopers (PwC) em relação aos controles de privacidade usados pelo Facebook para garantir a segurança dos dados pessoais de seus 2,13 bilhões de usuários. De acordo com a consultoria, que analisou o período entre fevereiro de 2015 e fevereiro de 2017, tudo estava funcionando em perfeita ordem.

24 de abril

Foto: AP/CBS News

O pesquisador Aleksandr Kogan veio a pública na semana de 24 de abril para falar sobre sua participação no caso. Ele pediu desculpas por seu envolvimento com a Cambridge Analytica, mas disse que os dados que coletou não tinham poder o suficiente para influenciar os rumos de uma eleição com anúncios patrocinados. Além disso, ele argumentou que está sendo usado como bode expiatório e pretende processar o Facebook. 

24 de abril, parte 2

Foto: Reuters/Aaron P. Bernstein

Pela primeira vez, o Facebook divulgou as diretrizes que utiliza em algoritmos e equipe de moderadores para identificar e retirar conteúdo inadequado da rede social; as regras mostram como a rede social enxerga temas como violência, discurso de ódio e nudez. É mais uma onda na avalanche de anúncios feitas recentemente pela rede social para acalmar os ânimos de investidores, usuários e órgãos reguladores 

    Tags:

  • Facebook
  • Cambridge Analytica
  • inteligência artificial
  • privacidade
  • reconhecimento facial
  • Michal Kosinski

Comentários

Os comentários são exclusivos para assinantes do Estadão.

Assine o Estadão Já sou Assinante

Mais lidas

  • 1.BMW iX é o SUV elétrico futurista com até 600 km de autonomia
  • 2.Honda Civic pode deixar de ser produzido no Brasil em 2022
  • 3.Toyota SW4 2021 tem visual renovado e motor mais potente
  • 4.Projeto Usina SP prevê museu do automóvel sobre o rio Pinheiros despoluído
  • Meu Estadão
  • Fale conosco
  • assine o estadão
  • anuncie no estadão
  • classificados
  •  
  •  
  •  
  •  
  • grupo estado |
  • copyright © 2007-2022|
  • todos os direitos reservados. Termos de uso

compartilhe

  • Facebook
  • Twitter
  • Linkedin
  • WhatsApp
  • E-mail

Link permanente