Nova pesquisa liga a pornografia deepfake às tendências psicopatas

Prévia do material em texto

1/3
Nova pesquisa liga a pornografia deepfake às tendências
psicopatas
Novas pesquisas fornecem evidências de que os traços de personalidade psicopatas estão associados à
criação e disseminação da pornografia deepfake. Os resultados foram publicados na revista Computers
in Human Behavior.
Deepfakes, uma junção de “aprendizagem profunda” e “falsa”, descreve imagens falsas realistas, áudio
e vídeos que são gerados usando software de inteligência artificial. Um vídeo profundo do ex-presidente
Barack Obama usando um palavrões para descrever o presidente Donald Trump se tornou viral em
2018. Mais preocupante, a tecnologia tem sido usada para criar conteúdo pornográfico falso envolvendo
indivíduos reais sem consentimento.
“Embora os profissionais e legisladores dentro do Reino Unido tenham recentemente feito grandes
progressos para tornar ilegais os comportamentos associados ao abuso sexual baseado em imagem
(por exemplo, ‘pornografia de vingança’ e upskirting), ainda há mais a ser feito para comportamentos
igualmente impactantes e prejudiciais, como a produção de mídia sexual deepfake”, explicou o autor do
estudo Dean Fido, professor sênior de psicologia forense na Universidade de Derby.
“Deepfaking, neste caso, refere-se à produção de imagens sexualmente explícitas usando inteligência
artificial para transpor uma imagem em uma fonte secundária para dar a impressão de que alguém está
envolvido em comportamento sexual. A pesquisa nesta área é fundamental tanto para a frequência com
que tais imagens e vídeos são criados, quanto para a criação de vídeos sociais (por exemplo,
reputação), profissionais (por exemplo, término do emprego) e consequências físicas e mentais para a
saúde física e mental (por exemplo, mau bem-estar mental e potencialmente suicídio e automutilação)
de se tornar uma vítima de deepfaking.
https://www.sciencedirect.com/science/article/abs/pii/S0747563221004647
https://twitter.com/dfido1
https://twitter.com/dfido1
https://twitter.com/dfido1
2/3
Para o estudo, os pesquisadores designaram aleatoriamente 290 participantes do Reino Unido para ler
uma das quatro vinhetas descrevendo um incidente deepfake em que um indivíduo havia criado e
compartilhado uma falsa imagem sexualizada de outra pessoa depois de não conseguir se envolver em
um relacionamento físico. A vítima foi descrita como um homem ou uma mulher e como uma celebridade
ou um indivíduo comum.
Os pesquisadores descobriram que os participantes que pontuaram mais alto em uma medida de
psicopatia eram mais propensos a acreditar que a vítima era a culpada pelo incidente, eram menos
propensos a ver a situação como prejudicial e menos propensos a acreditar que o incidente era uma
questão criminal. Indivíduos mais psicopatas também estavam mais dispostos a criar e disseminar os
próprios deepfakes. Aqueles que pontuaram mais alto em uma medida de crença em um mundo justo
também eram mais propensos a culpar a vítima e disseminar deepfakes.
“Os traços de personalidade associados ao apoio ao comportamento on-line desviante e à ofensa sexual
de forma mais ampla, por exemplo, a psicopatia, previram julgamentos mais brandos de ofensa, bem
como uma maior propensão a criar e compartilhar imagens – sugerindo que, por meio de pesquisas
adicionais, podemos ser capazes de prever melhor as pessoas que são mais propensas a se envolver
em tal comportamento e intervir de acordo”, explicou Fido.
Os pesquisadores também descobriram que a pornografia deepfake retratando vítimas do sexo feminino
estava associada a maiores percepções de danos e criminalidade do que casos com vítimas do sexo
masculino. As mulheres tendiam a ver os incidentes deepfake como mais prejudiciais e criminosos do
que os homens. Os homens tendiam a ver casos de pornografia deepfake envolvendo vítimas de
celebridades como sendo menos prejudiciais e menos criminosos do que os casos envolvendo vítimas
não-celebridade. As mulheres, em contraste, não diferenciavam entre celebridades e vítimas de não-
celebridade.
Em um segundo estudo, os pesquisadores replicaram suas descobertas em uma amostra de 364
participantes do Reino Unido. Eles também procuraram examinar se as imagens deepfake geradas
exclusivamente para uso pessoal seriam percebidas de maneira diferente das imagens que foram
compartilhadas. Tanto para as vítimas de celebridades quanto para não celebridades, os participantes
perceberam maior dano à vítima quando as imagens foram compartilhadas em comparação com quando
as imagens foram criadas apenas para uso pessoal.
“Observamos consistentemente que julgamentos mais brandos de cenários usando deepfaking
envolveram vítimas que eram celebridades e homens, e quando imagens foram criadas para gratificação
auto-sexual, em vez de serem compartilhadas – sugerindo que elementos situacionais e dados
demográficos das vítimas afetam como serão vistos pela população em geral”, disse Fido ao PsyPost.
Os pesquisadores também descobriram que os participantes que foram atraídos por mulheres (uma
amostra que incluía principalmente homens heterossexuais, mas também algumas mulheres
homossexuais) relataram estar menos dispostos a compartilhar imagens deepfake.
“O que também é interessante é uma tendência para os homens não expressarem vontade de
compartilhar material deepfaked”, explicou o co-autor Craig Harper, professor sênior da Nottingham
Trent University. Para nós, isso parece indicar que os homens que estariam dispostos a criar pornografia
deepfake fariam isso não para constranger ou humilhar qualquer vítima em potencial, mas, em vez
https://twitter.com/CraigHarper19
https://twitter.com/CraigHarper19
3/3
disso, usariam principalmente esse material para sua própria satisfação sexual. Com esse uso privado
em mente, é bem possível que algumas vítimas de deepfaking nunca saibam que suas imagens foram
usadas dessa maneira.
Como em qualquer estudo, a nova pesquisa inclui algumas limitações.
“Há duas grandes ressalvas para esta pesquisa”, explicou Fido. “A primeira é que ele coletou
inteiramente participantes do Reino Unido. Embora isso tenha sido projetado para garantir a consistência
do contexto, valores mais amplos e legislação, é importante replicar essas descobertas
internacionalmente e explorar potenciais elementos culturais que possam atribuir à variação nos
resultados.
“Segundo, embora estejamos confiantes na precisão contextual das histórias que apresentamos aos
nossos participantes, estas não foram informadas por indivíduos com experiência vivida de perpetrar ou
ser vítimas de deepfaking. Pesquisas futuras se beneficiariam dessa consultoria para informar melhor
nossas estratégias de pesquisa”.
Os deepfakes são um fenômeno relativamente novo, e os pesquisadores observaram que ainda há
muito a aprender sobre as variáveis psicológicas envolvidas.
“Até o momento, há pesquisas extremamente limitadas sobre os preditores de envolvimento na
produção e disseminação de mídia deepfake”, disse Fido. “Embora tenhamos sido capazes de gerar
dados relacionados à geração hipotética de tais imagens, ainda estamos para entender exatamente por
que alguém iria querer gerar e / ou disseminar tais mídias. Desenvolver esse conhecimento é um passo
futuro importante, que também alimentará as informações de assessoria e programas de intervenção
para evitar o deepfaking. Como tal, congratulamo-nos com o contato de vítimas, formuladores de
políticas e colaboradores acadêmicos / industriais para melhor nossa compreensão nesta área. ”
“There is still so much that we don’t know about this kind of behavior,” Harper added. “In particular, we
have not been able to capture the victim’s voice in this work, and this is something that we’re keen to do
in future work to both improve the quality of our ability to detect people at risk of engaging in deepfaking,
but also to tell the stories of those who have lived through their images being used without their consent.”
The study, “Celebrity status, sex, and variation in psychopathy predicts judgements of and proclivity to
generate and distribute deepfakepornography“, was authored by Dean Fido, Jaya Rao, and Craig A.
Harper.
https://www.sciencedirect.com/science/article/abs/pii/S0747563221004647