O Facebook conhecia, falhou em policiar, conteúdo abusivo em todo o mundo

Funcionários do Facebook alertaram há anos que, conforme a empresa corria para se tornar um serviço global, estava deixando de policiar conteúdo abusivo em países onde tal discurso provavelmente causaria mais danos, de acordo com entrevistas com cinco ex-funcionários e documentos internos da empresa vistos pela Reuters.

Por mais de uma década, o Facebook tem se esforçado para se tornar a plataforma online dominante do mundo. Atualmente opera em mais de 190 países e possui mais de 2,8 bilhões de usuários mensais que postam conteúdo em mais de 160 idiomas. Mas seus esforços para impedir que seus produtos se tornem canais de discurso de ódio, retórica inflamada e desinformação – alguns dos quais foram acusados ​​de incitar a violência – não acompanharam sua expansão global.

Documentos internos da empresa vistos pela Reuters mostram que o Facebook sabe que não contratou funcionários suficientes que possuam as habilidades linguísticas e o conhecimento de eventos locais necessários para identificar postagens questionáveis ​​de usuários em vários países em desenvolvimento. Os documentos também mostraram que os sistemas de inteligência artificial que o Facebook emprega para erradicar esse conteúdo frequentemente também não estão à altura da tarefa; e que a empresa não facilitou para seus próprios usuários globais sinalizar postagens que violam as regras do site.

Essas deficiências, alertaram os funcionários nos documentos, podem limitar a capacidade da empresa de cumprir sua promessa de bloquear o discurso de ódio e outros postos de violação de regras em lugares do Afeganistão ao Iêmen.

Em uma revisão postada no quadro de mensagens interno do Facebook no ano passado sobre as maneiras como a empresa identifica abusos em seu site, um funcionário relatou “lacunas significativas” em certos países sob risco de violência no mundo real, especialmente Mianmar e Etiópia.

Os documentos estão entre um cache de divulgações feitas à Comissão de Valores Mobiliários dos Estados Unidos e ao Congresso pela denunciante do Facebook, Frances Haugen, ex-gerente de produto do Facebook que deixou a empresa em maio. A Reuters estava entre um grupo de organizações de notícias capazes de visualizar os documentos, que incluem apresentações, relatórios e postagens compartilhadas no quadro de mensagens interno da empresa. Sua existência foi relatada pela primeira vez pelo The Wall Street Journal.

O porta-voz do Facebook, Mavis Jones, disse em um comunicado que a empresa tem falantes nativos em todo o mundo revisando conteúdo em mais de 70 idiomas, bem como especialistas em questões humanitárias e de direitos humanos. Ela disse que essas equipes estão trabalhando para impedir o abuso na plataforma do Facebook em lugares onde há um risco elevado de conflito e violência.

“Sabemos que esses desafios são reais e estamos orgulhosos do trabalho que fizemos até agora”, disse Jones.

Ainda assim, o cache de documentos internos do Facebook oferece instantâneos detalhados de como os funcionários nos últimos anos deram alarmes sobre problemas com as ferramentas da empresa – tanto humanas quanto tecnológicas – destinadas a erradicar ou bloquear a fala que violava seus próprios padrões. O material amplia as reportagens anteriores da Reuters sobre Mianmar e outros países , onde a maior rede social do mundo falhou repetidamente em proteger os usuários de problemas em sua própria plataforma e tem lutado para monitorar o conteúdo em vários idiomas.

Entre os pontos fracos citados estava a falta de algoritmos de triagem para idiomas usados ​​em alguns dos países que o Facebook considerou mais “em risco” para danos e violência no mundo real decorrentes de abusos em seu site.

A empresa designa os países como “em risco” com base em variáveis ​​como agitação, violência étnica, número de usuários e leis existentes, disseram dois ex-funcionários à Reuters. O sistema visa direcionar recursos para locais onde os abusos em seu site poderiam ter o impacto mais severo, disseram as pessoas.

O Facebook analisa e prioriza esses países a cada seis meses, de acordo com as diretrizes das Nações Unidas que visam ajudar as empresas a prevenir e remediar os abusos dos direitos humanos em suas operações de negócios, disse o porta-voz Jones.

Em 2018, especialistas das Nações Unidas que investigam uma campanha brutal de assassinatos e expulsões contra a minoria muçulmana Rohingya de Mianmar disseram que o Facebook foi amplamente usado para espalhar discurso de ódio contra eles. Isso levou a empresa a aumentar seu quadro de funcionários em países vulneráveis, disse um ex-funcionário à Reuters. O Facebook disse que deveria ter feito mais para evitar que a plataforma fosse usada para incitar a violência offline no país.

Ashraf Zeitoon, ex-chefe de política do Facebook para o Oriente Médio e Norte da África, que saiu em 2017, disse que a abordagem da empresa para o crescimento global tem sido “colonial”, focada na monetização sem medidas de segurança.

Mais de 90% dos usuários ativos mensais do Facebook estão fora dos Estados Unidos ou Canadá.

Confira matéria completa na Reuters