06/10/2024
Por Bruno Mattos e Erick Dau
Conteúdo produzido em parceria ISER / NEXO
JORNAL.
Publicado originalmente no Nexo
Políticas Públicas em 25 set 2024
No estudo, demonstramos como criminosos
manipulam vídeos e áudios de líderes religiosos
conhecidos e admirados por milhões de brasileiros para a veiculação
de anúncios nas plataformas da Meta – controladora do
Facebook e do Instagram – que, em sua maioria, promovem remédios
e tratamentos cuja eficácia não é comprovada
e sem autorização de autoridades sanitárias.
Figuras como os pastores Claudio Duarte e Silas Malafaia, e os padres
Fábio de Melo e Marcelo Rossi aparecem nos anúncios
não só como relevantes autoridades espirituais, mas
também como garotos-propaganda de produtos para dores, impotência
sexual, emagrecimento, ansiedade e depressão. A retórica
messiânica dos anúncios, aliada à promessa de
verdadeiros milagres apela ao imaginário religioso e torna
os golpes irresistíveis, especialmente para aqueles que admiram
as lideranças e creem em suas palavras.
A partir das inferências feitas sobre os dados
comportamentais de bilhões de usuários, as big tech
inauguraram uma nova forma de publicidade. O direcionamento de anúncios
a públicos microssegmentados possibilita estratégias que
há uma década seriam impensáveis mesmo para os
melhores publicitários, parecendo benéfico, à primeira
vista, tanto para anunciantes legítimos quanto para o público
geral. No entanto, não demorou muito para que o mercado publicitário
nas plataformas digitais começasse a alavancar práticas
predatórias, operações de influência e disseminação
de conteúdo tóxico.
Fraudes na internet não são uma novidade, mas têm
se sofisticado muito graças a estas ferramentas, que permitem
que criminosos e anunciantes tóxicos no geral possam atrair,
a custos baixíssimos, as vítimas ideais para seus esquemas.
Aliado a isso, a epidemia de golpes tem se beneficiado imensamente da
utilização de ferramentas de inteligência artificial
generativa, que entregam as imagens, vídeos e áudios perfeitos
para uma propaganda espetacular.
O novo relatório do NetLab UFRJ, “A revelação
chocante que pode mudar tudo”, analisa a combinação
disruptiva entre inteligência artificial, big data e religião.
A exploração da crença religiosa no convencimento
ao consumo através do uso da tecnologia é uma nova fronteira
do capitalismo que precisa ser encarada – ainda mais quando a
propaganda visa lesar financeira e moralmente os fiéis.
No estudo, demonstramos como criminosos manipulam vídeos e áudios
de líderes religiosos conhecidos e admirados por milhões
de brasileiros para a veiculação de anúncios nas
plataformas da Meta – controladora do Facebook e do Instagram
– que, em sua maioria, promovem remédios e tratamentos
cuja eficácia não é comprovada e sem autorização
de autoridades sanitárias. Figuras como os pastores Claudio Duarte
e Silas Malafaia, e os padres Fábio de Melo e Marcelo Rossi aparecem
nos anúncios não só como relevantes autoridades
espirituais, mas também como garotos-propaganda de produtos para
dores, impotência sexual, emagrecimento, ansiedade e depressão.
A retórica messiânica dos anúncios, aliada à
promessa de verdadeiros milagres apela ao imaginário religioso
e torna os golpes irresistíveis, especialmente para aqueles que
admiram as lideranças e creem em suas palavras.
Entrevista de padre Marcelo Rossi é manipulada
com uso de inteligência artificial
para a venda de supostos remédios contra artrite e artrose
A escolha de um público
consumidor não é fruto do acaso: tudo indica que os anunciantes
direcionam os anúncios a grupos vulneráveis a narrativas
milagrosas, como as pessoas idosas e pessoas religiosas. Fora as questões
morais subjacentes, esta prática configura um grave risco sistêmico
diante da Lei Geral de Proteção de Dados, uma vez que
dados considerados sensíveis com alto potencial discriminatório
, como a crença religiosa dos usuários, aparentam estar
sendo utilizados para fins ilegais.
Áudio do pastor Claudio Duarte em podcast
é substituído
por trecho forjado para a promoção da “cura para
todas as dores”
A opacidade das plataformas em relação
a seus anúncios e anunciantes está em flagrante contradição
com a facilidade com que elas acessam e exploram dados de consumidores.
A exploração da fragilidade emocional e física
dos consumidores para a obtenção de lucro revitimiza pessoas
com diferentes doenças e as afastam da ajuda de fato. Ao invés
de buscarem tratamento médico adequado para problemas de saúde,
essas pessoas optam pelas soluções milagrosas supostamente
oferecidas por seus pastores de confiança.
Há também riscos para
a saúde individual e coletiva quando produtos sem eficácia
comprovada substituem métodos cientificamente testados na resolução
de problemas de saúde. A desinformação na saúde
pública é um problema para o qual o mundo vem dando maior
atenção desde a pandemia de Covid-19. Os golpes que o
relatório do NetLab UFRJ analisa se aproveitam deste momento
de ataque à ciência, oferecendo produtos potencialmente
danosos para os usuários, seja porque são inócuos
contra as doenças que se propõem combater, agravando problemas
médicos sérios, ou porque não há qualquer
garantia de recebimento dos produtos anunciados.
Além disso, a facilidade de manipular
as imagens e vozes de lideranças religiosas pode acarretar grandes
consequências políticas, já que a fé tem
se tornado um ativo político cada vez mais explorado por candidatos
e marketeiros. Diversas das lideranças identificadas como alvos
de anúncios ilegais se tornaram fiadores de campanhas eleitorais
nos últimos anos, além de atuarem como a bússola
moral de milhões de fiéis que os acompanham em suas redes.
Portanto, a manipulação de suas imagens e vozes para difamar
ou alavancar candidaturas específicas nas plataformas digitais
é um risco iminente.
Estes anúncios só puderam
ser identificados graças aos esforços dos pesquisadores
do NetLab UFRJ, uma vez que as plataformas digitais apostam cada vez
mais na opacidade de seu modelo de negócios, cuja receita é
majoritariamente oriunda da veiculação de publicidade.
A Biblioteca de Anúncios da Meta disponibilizada em países
do Sul Global é muito aquém daquela disponibilizada na
União Europeia, graças a projetos de regulação
de serviços digitais. Anúncios direcionados a usuários
europeus são arquivados por até um ano e podem ser vistos
ao longo desse período, enquanto, no Brasil, anúncios
só podem ser visualizados enquanto ainda estão sendo exibidos
aos usuários, com exceção daqueles categorizados
como políticos, o que dificulta muito sua identificação.
Mesmo quando identificados, não
é possível ter acesso a informações como
a segmentação ou a distribuição do público
dos anúncios, o investimento nos anúncios e o alcance
atingido por eles. Embora a Meta afirme ser proibido segmentar públicos
através de dados sensíveis, é impossível
garantir este cumprimento sem a análise dos critérios
de segmentação aplicados – e a experiência
sugere que ela não cumpre as próprias regras. Como a Meta
também não exige que anunciantes passem por qualquer tipo
de processo de verificação de identidade, sua opacidade
confere uma importante garantia de impunidade àqueles que cometem
crimes tipificados pela lei brasileira, apesar da gravidade de suas
ações.
Como há uma escolha em fortalecer
mecanismos de transparência e segurança somente nos países
em que lhes interessam, a decisão de manter suas operações
opacas é uma escolha política das plataformas. A solução
para o problema não é trivial. A legislação
europeia é, sem dúvida, um modelo em termos de regulação
das plataformas, mas ainda está longe de solucionar todos os
problemas que o uso massivo das redes sociais pode gerar – em
especial, no Sul Global. No entanto, em casos como o analisado neste
relatório, em que criminosos exploram pessoas em situação
de vulnerabilidade a partir de sua fé, é impossível
não falar sobre a necessidade de regulamentar as plataformas.
Nesse contexto, o desenvolvimento de pesquisas e a produção
de evidências sobre o problema é fundamental para diagnosticar
as lacunas na regulamentação da publicidade online e do
uso da inteligência artificial, que tanto serve ao crescimento
da lucrativa indústria da desinformação.
Sobre os autores:
Bruno Mattos é Coordenador de Projetos do
NetLab UFRJ, mestrando em Ciência da Informação
pela UFRJ e jornalista formado pela ECO/UFRJ.Erick
Dau é Coordenador de Comunicação
do NetLab UFRJ. Doutor e mestre em Comunicação, foi
fotógrafo e videomaker na Comissão Interamericana de
Direitos Humanos, em Washington, DC, entre 2019 e 2024.
