Deepfake: o que é e como afeta as marcas?

Nos últimos anos, as deepfakes, assim como as fake news, entraram na pauta da vida cotidiana das pessoas. Essa tecnologia, que usa inteligência artificial (IA) para criar conteúdos sintéticos (não reais), que podem ser áudios, imagens ou vídeos, inclusive, virou tema da novela Travessia, da TV Globo. Na produção de Glória Peres, a protagonista, Brisa, foi transformada, via edição com IA, em sequestradora de crianças e se tornou vítima de deepfake.

“Esse tema é um tema absolutamente forte”, comenta David Dias, diretor da Accenture Technology para a área de IA. Todo ano, diz, a Universidade de Stanford cria o IA Index, um report que aborda  o estado da inteligência artificial no mundo, no qual um dos temas mais importantes é a ética na IA, onde exatamente o deepfake está. “É um dos assuntos mais pesquisados, comentados e preocupantes”, afirma.

O que é deepfake?

Para entender porque o deepfake é um dos assuntos mais preocupantes, primeiramente, é preciso entender o que é deepfake. A palavra é composta por dois termos em inglês: deep (profundo) e fake (falso), e a primeira é ligada ao conceito de deep learning (aprendizagem profunda), ou seja, método de aprendizado de máquina baseado em conjunto de algoritmos usados para extrair recursos de alto nível de dados brutos, progressivamente. Em outras palavras, esse método consegue aprender a partir de dados não estruturados, como é o caso do rosto humano. Por meio de Rede Adversária Generativa (GAN), outro sistema de aprendizado de máquina, esses dados são processados e se tornam vídeos ou áudios de deepfake. Essas “GANs” utilizam duas redes neurais para competirem entre si na aprendizagem desses dados.

Dias explica melhor como esse sistema funciona: “Uma rede neural gera um dado e a outra vai olhar para esse dado e dizer se é falso ou verdadeiro. Só que elas se retroalimentam, ou seja, toda hora que essa rede manda um dado e a outra diz que é falso, ela manda outro melhorado, e a outra diz que é falso, ela manda outro. É assim que funciona a construção de um deepfake”.

Esse aperfeiçoamento contínuo torna o sistema de construção de deepfakes tão sofisticado que a detecção do que é deepfake ou não também se torna mais difícil. “A própria identificação da tecnologia está cada vez mais difícil porque é tão perfeitinho”, avalia Luciana Burguer, especialista em marketing digital.

O MIT tem um programa que é o deepfake detect, para detecção de deepfake. A Amazon, Google e Facebook se uniram e criam um challenge, competição para que as pessoas enviem métodos ou algoritmos de detecção de fake news. Todo mundo está preocupado com isso. A própria Accenture tem um laboratório, onde roda pesquisa só sobre detecção de deepfake. “Todo mundo está muito preocupado com isso, mas é uma corrida. Vamos criando métodos de detecção, ao mesmo tempo, os deepfakes estão cada vez mais sofisticados”, afirma Dias.

Quando o deepfake nasceu, em meados de 2014, seu uso era mais complexo e exigia conhecimentos avançados, porém, com o avanço da tecnologia, outros aplicativos e sistemas, mais fáceis de serem utilizados para produzir deepfake, foram surgindo. “Para fazer essas duas redes neurais rolarem, precisa de muita capacidade computacional. Você precisaria de um computador pesadíssimo, só que você tem esses computadores disponíveis na cloud. Por US$ 1 mil, você coloca um computador desse para rodar durante um mês. A tecnologia ficou, relativamente, fácil de usar”, explica o diretor da Accenture Technology.

Deepfake: um problema para as marcas

O estudo Accenture Technology Vision 2022 mostrou que risco de IA maliciosa levanta preocupações de segurança entre as organizações. De acordo com o levantamento, 100% dos executivos brasileiros relatam preocupação com deepfakes e/ou ataques de desinformação. A preocupação com fraudes e golpes é a maior (61%), seguida de violações de TI/segurança (58%), e ameaças e danos à reputação (47%).

Dias, da Accenture Technology, enfatiza que o deepfake é um problema para a reputação das marcas. Inclusive, ressalta que o próprio departamento de defesa americano já considerou esse uso indevido da tecnologia como ameaça. “Uma empresa, por exemplo, apoiando uma causa que não seja causa bacana ou com algum discurso racista, isso prejudicaria muito a imagem dela” exemplifica.

A característica da rápida velocidade de disseminação de deepfake também é preocupante, na visão de Luciana. “É muito difícil ser desmentido porque, se você for disser que aquilo era mentira, poucas pessoas vão sair por aí explicando essa informação, por duas razões. Primeiro porque não é tão legal. E, depois que já replicaram, não vão voltar atrás. As pessoas têm vergonha e, no fim, deixam por isso mesmo”.

Quando essa discussão entra no âmbito das marcas, a especialista em marketing digital salienta que é preciso se voltar ao básico, que é o brand safety. “Conjunto de práticas que recomendamos fortemente que as marcas tenham para se defender de tudo que possa afetar a sua marca em ambientes indesejados”.

Neste sentido, Luciana enfatiza que as marcas devem tomar os mesmos cuidados de sempre: ter bons parceiros, usar tecnologia de adtechs, inclusive, de pré-checagem, de pré-bid, na qual se filtra antecipadamente quando há suspeita de tráfego inválido, de fraudes. “Quando você tem ecossistema de compra de mídia saudável, bom e que se tenha boa performance, sabe onde está comprando, o risco é bem menor”. Caso algo aconteça, mesmo com a prevenção, é preciso implementar protocolo de ação.

O lado bom do deepfake

Apesar de se destinar também ao mau uso, a tecnologia do deepfake, assim como a maioria das tecnologias, tem o uso bom e benéfico para a população. “Temos muitos casos nos quais é usada para a medicina. Você consegue recriar, por exemplo, imagem de tumores cerebrais usando essa inteligência que consegue identificar se aquela pessoa no futuro vai desenvolver algo, ou seja, é uma tecnologia fantástica”, salienta a especialista em marketing digital.

Luciana também pontua que a tecnologia é capaz de gerar economia de dinheiro para muitas áreas. “Por exemplo, tem um ator que falará de um produto e autoriza o seu uso da imagem. Aquilo pode ser recriado sem ele ter que falar mil vezes para todos os outros produtos da empresa. Isso não é ruim”, completa.

Dias, da Accenture Technology, também vê usos positivos para a tecnologia dos deepfakes, como nas aplicações da medicina, empresas de produtos farmacêuticos, de alimentos e carros autônomos. “Sim, pode trazer impacto negativo, já que vivemos a economia da informação, e a informação é dinheiro. Manipular a informação de forma equivocada pode trazer prejuízo para a marca ou pessoa, mas, ao mesmo tempo, traz uma série de benefícios para as empresas e população, em geral”.

Confira matéria no Meio e Mensagem