PUBLICIDADE

Como o Facebook excluiu anúncios de roupas para pessoas com deficiência

Sistemas de inteligência automatizados do Instagram e do Facebook têm negado repetidamente a publicação de anúncios criados por pequenas empresas que fazem roupas estilosas para pessoas com deficiência

Por Vanessa Friedman
Atualização:
A marca de moda inclusiva Yarrow teve anúncio rejeitado na rede social Foto: Yarrow

No início deste ano, uma empresa de roupas inclusivas chamada Mighty Well, que fabrica acessórios da moda para pessoas com deficiência, fez algo que muitas marcas novas fazem corriqueiramente: tentou publicar um anúncio de um de seus produtos mais populares no Facebook. Porém, a rede social — ou melhor, o centro de publicidade automatizado da plataforma — não gostou muito do anúncio.

PUBLICIDADE

O produto em questão era um moletom cinza com zíper, no valor de US$ 40, com a mensagem “Eu sou imunocomprometido — por favor, dê-me espaço”. O "imunocomprometido" estava escrito em um retângulo branco. A peça tem ótimas avaliações de clientes no site da empresa.

O anúncio foi rejeitado por violar a política da plataforma — especificamente, a promoção de “produtos e serviços médicos e de saúde, incluindo dispositivos médicos”, embora não incluísse esses itens. A Mighty Well recorreu e, após algum atraso, a decisão mudou.

Isso pode não parecer grande coisa. Afinal, a história terminou bem. Mas a experiência da Mighty Well é apenas um exemplo de um padrão que vem acontecendo há pelo menos dois anos: os algoritmos que decidem o que pode ou não ser anunciado na parte comercial do Facebook (assim como no Instagram, que pertence ao Facebook) rotineiramente identificam de modo errado a moda inclusiva e seus produtos, bloqueando-os de suas plataformas.

O Facebook bloqueou um anúncio da marca Mighty Well;produto em questão era um moletom cinza com a mensagem 'Eu sou imunocomprometido - por favor, dê-me espaço' Foto: Mighty Well

Pelo menos seis outras pequenas empresas de roupas inclusivas enfrentaram os mesmos problemas que a Mighty Well — algumas em grau ainda maior. Uma marca tem lidado com o problema semanalmente; outra teve centenas de produtos rejeitados. Em cada caso, a empresa teve de apelar item por item.

Numa época em que a importância da representatividade está no centro da conversa, quando empresas em todos os lugares estão proclamando publicamente seu compromisso com a “diversidade, igualdade e inclusão” e a mudança sistêmica, a luta da moda inclusiva reflete um problema maior: os preconceitos implícitos embutidos no aprendizado de máquina e a forma como eles impactam as comunidades marginalizadas. Soma-se a isso o fato de o Facebook estar sob escrutínio, sendo cobrado pela forma como suas políticas podem moldar a sociedade em geral.

“É a história não contada das consequências da classificação no aprendizado de máquina”, disse Kate Crawford, autora do livro a ser lançado “Atlas of AI” (Atlas de IA, em tradução livre). “Todo sistema de classificação em aprendizado de máquina contém uma visão de mundo. Todos."

Publicidade

E esse do Facebook, ela disse, sugere que “o humano padrão” — aquele que pode estar interessado em usar a moda e o estilo como uma forma de se expressar — não é automaticamente reconhecido como possivelmente uma pessoa com deficiência.

“Queremos ajudar as marcas de moda inclusiva a encontrar e se conectar com os clientes no Facebook”, disse um porta-voz da empresa de Mark Zuckerberg quando contatado por e-mail a respeito do assunto. “Vários dos anúncios que chegaram até nós não deveriam ter sido sinalizados por nossos sistemas e agora foram restaurados. Pedimos desculpas por esse erro e estamos trabalhando para melhorar nossos sistemas para que as marcas não tenham esses problemas no futuro.”

O Facebook não é o único a erguer barreiras de inteligência artificial para a participação de empresas de moda inclusiva. TikTok e Amazon estão entre as empresas que têm tido questões semelhantes. Mas por causa de seus 2,8 bilhões de usuários e sua posição como a plataforma que representa as comunidades, o Facebook — que recentemente publicou anúncios em jornais como The New York Times, The Washington Post e The Wall Street Journal dizendo que estava "defendendo" os pequenos negócios — é particularmente importante para grupos de pessoas com deficiência e as empresas que as atendem. E o Instagram é a plataforma de escolha do mundo da moda.

Moda inclusiva

CONTiNUA APÓS PUBLICIDADE

Roupas inclusivas são um nicho relativamente novo no mundo da moda, embora esteja crescendo rapidamente. De acordo com o Centro de Controle e Prevenção de Doenças, 1 em cada 4 adultos nos Estados Unidos vive com uma deficiência, e a Coherent Market Insights projetou que o mercado global de roupas inclusivas valerá mais de US$ 392 bilhões até 2026.

Existem agora marcas que criam produtos como capas para fios de cateteres que parecem braçadeiras esportivas, capas para bolsas de colostomia e ostomia em cores e padrões alegres, roupa íntima que se fixa por meio de fechos laterais em vez de ter de ser puxada sobre as pernas, jeans chiques e calças sob medida para acomodar o corpo sentado com costuras que não causam irritações e camisas de botões que utilizam fechos magnéticos em vez de botões comuns. Esses e muitos outros designs foram criados para focar no indivíduo, não no diagnóstico.

Existem algumas grandes empresas e varejistas trabalhando no setor, incluindo Tommy Hilfiger, Nike e Aerie, mas muitas das marcas que atendem à comunidade são pequenas empresas independentes, na maioria das vezes iniciadas por quem convive com pessoas com deficiência. Frequentemente, elas incluem designers e modelos com deficiência, que também aparecem em seus anúncios e vitrines.

Publicidade

Maura Horton é uma das pioneiras em roupas inclusivas. Em 2014, ela criou a marca MagnaReady, que usa um sistema de botões magnéticos, depois do marido ser diagnosticado com Parkinson. Em 2019, ela vendeu sua empresa para o Global Brands Group (CBG), o gigante da moda cujos proprietários são Sean John e Frye. No ano passado, Maura e o GBG criaram a JUNIPERunltd, um hub de conteúdo, plataforma de e-commerce e comunidade voltada para o setor de pessoas com deficiência, assim como a Yarrow, sua própria marca de moda inclusiva. Maura planejava publicar anúncios no Facebook e no Instagram.

Entre novembro e janeiro, ela apresentou quatro séries de anúncios que incluíam um par de calças Yarrow: um desenhado com um “ajuste de pé”, apresentando uma mulher ... bem, em pé; e um projetado para uma pessoa sentada, apresentando uma jovem cadeirante (o corte muda dependendo do posicionamento do corpo). Todas as vezes, o anúncio com a pessoa em pé era aprovado e o anúncio para pessoas cadeirantes era rejeitado por não obedecer às políticas da plataforma que afirmavam: “Os anúncios não podem promover produtos e serviços médicos e de saúde, incluindo dispositivos médicos ou produtos para parar de fumar que contenham nicotina”.

Em altaLink
Loading...Loading...
Loading...Loading...
Loading...Loading...

No anúncio do produto para “ajuste sentado”, o sistema aparentemente se concentrou na cadeira de rodas, não no produto usado pela pessoa na cadeira de rodas. Mas mesmo depois que Maura apelou com sucesso na primeira rejeição, o problema voltou a acontecer. E depois de novo. Cada vez, demorava cerca de 10 dias para o sistema reconhecer que havia cometido um erro.

Nenhuma das empresas de moda inclusiva mencionadas nesta reportagem acredita que a plataforma discrimina propositalmente pessoas com deficiência. O Facebook tem sido fundamental na criação de texto alternativo para que usuários com deficiência visual possam acessar as imagens da plataforma. A empresa classificou a inclusão de pessoas com deficiência como “uma de nossas principais prioridades”. E, no entanto, essa forma particular de discriminação por negligência, sinalizada publicamente pela primeira vez em 2018, aparentemente ainda não atingiu o nível do reconhecimento de um humano.

Em vez disso, o aprendizado de máquina está desempenhando um papel cada vez maior na perpetuação do problema. De acordo com o porta-voz do Facebook, a inteligência automatizada do site não controla apenas a porta de entrada para o anúncio e os produtos da loja, mas também controla amplamente o processo de apelação.

Histórico de mal-entendidos

Quando uma empresa faz um anúncio ou cria uma loja, ela envia uma solicitação para o Facebook para aprovação - um processo automatizado. Se for uma vitrine, os produtos também podem chegar por meio de um feed e cada um deve cumprir as regras do Facebook. Caso o sistema sinalize uma potencial violação, o anúncio ou produto será enviado então de volta para a empresa. Mas a palavra em específico ou parte da imagem que criou o problema não é identificada, o que significa que cabe à empresa adivinhar efetivamente onde está o problema.

Publicidade

A empresa pode contestar o anúncio no estado em que se encontra ou fazer uma alteração na imagem ou no texto que espera que passe nas regras do Facebook. De qualquer forma, a comunicação é enviada de volta pelo sistema automatizado, onde pode ser revisada por outro sistema automatizado ou por uma pessoa.

O Facebook afirma que adicionou milhares de revisores humanos nos últimos anos, mas 3 milhões de empresas anunciam no Facebook, a maioria das quais são pequenas empresas. O porta-voz do Facebook não identificou o que levaria um apelo ser revisado por um humano ou se havia um processo codificado pelo qual isso aconteceria. Frequentemente, os proprietários de pequenas empresas se sentem presos em um ciclo interminável controlado por máquinas.

“O problema que continuamos enfrentando são os canais de comunicação”, disse Sinead Burke, uma ativista da inclusão que presta consultoria para várias marcas e plataformas, incluindo a Juniper. “O acesso deve significar mais do que apenas acesso digital. E temos de entender o que está em jogo quando esses sistemas são criados.”

O porta-voz do Facebook disse que havia funcionários com deficiência em toda a empresa, inclusive no nível executivo, e que havia uma equipe de acessibilidade que trabalhou por todo o Facebook para incorporar a acessibilidade ao processo de desenvolvimento de produto. Mas embora não haja dúvida de que as regras que regem a política de anúncios e lojas criadas pelo Facebook foram projetadas em parte para proteger suas comunidades de falsas alegações médicas e produtos falsos, essas regras também estão, se inadvertidamente, bloqueando o acesso de algumas dessas mesmas comunidades aos produtos criado para elas.

Faça barulho ou desista

Foi em 3 de dezembro de 2018 que Helya Mohammadian, fundadora da Slick Chicks, uma empresa que cria roupas íntimas inclusivas vendidas por empresas como Nordstrom e Zappos, percebeu o problema pela primeira vez. Links para seu site postados no Facebook e Instagram direcionavam os usuários a uma página de erro e a esta declaração: “O link que você tentou visitar vai contra os padrões da comunidade do Facebook”.

As imagens no site apresentavam embaixadores da marca e clientes modelando o produto, embora não de forma provocativa. Ainda assim, o algoritmo parecia ter entendido o padrão com o qual se deparou como conteúdo adulto.

Publicidade

Helya começou a apelar da decisão por meio do serviço de suporte ao cliente, enviando aproximadamente um e-mail por dia durante três semanas. “Provavelmente enviamos cerca de 30”, disse ela. Finalmente, em meados de dezembro, ela se cansou e começou uma petição no site change.org intitulada “Make Social Media More Inclusive” (Torne as redes sociais mais inclusivas, em tradução livre do inglês). Ela rapidamente recebeu cerca de 800 assinaturas e as proibições foram suspensas.

Pode ter sido uma coincidência. O Facebook nunca reconheceu explicitamente a petição. Mas seus produtos não foram sinalizados novamente até março de 2020, quando uma foto de uma mulher em uma cadeira de rodas demonstrando como um sutiã funcionava foi rejeitada por violar a política de "conteúdo adulto".

A empresa de roupas inclusivas Care + Wear, que cria, entre outros produtos, camisas com abertura para pessoas que têm acessos no peito e faixas para cobrir fios nos braços, passou anos sendo frustrada pela natureza irracional do processo de julgamento automatizado. Um tamanho de camisa era rejeitado pelo Facebook, enquanto a mesma camisa em outro tamanho era aceita como parte do feed da loja. Finalmente, em março do ano passado, a empresa recorreu à contratação de uma agência de publicidade externa em parte porque ela poderia realmente conseguir falar com uma pessoa do Facebook ao telefone. “Mas se você é uma pequena empresa e não pode pagar por isso, é impossível”, disse Jim Lahren, diretor de marketing.

Alexandra Herold, a fundadora e única funcionária em tempo integral da Patti + Ricky, uma loja colaborativa online, disse que de aproximadamente 1000 produtos de moda inclusiva dos 100 estilistas que hospeda (e queria oferecer em sua loja no Facebook), pelo menos 200 têm sido confundidos com equipamento médico, sinalizados como “violações de política” e envolvidos no processo de apelação. Ela está exausta com as constantes tentativas de argumentar com o vazio de um algoritmo.

“Como podemos ensinar o mundo que roupas inclusivas” — sem falar nas pessoas que as usam - “são uma parte fundamental da moda quando estou constantemente tendo que fazer petições para que sejam vistas?”, questiona Alexandra. / TRADUÇÃO DE ROMINA CÁCIA

Comentários

Os comentários são exclusivos para assinantes do Estadão.