Preocupações sobre Necromancia Digital superexplorado segundo especialistas

Prévia do material em texto

1/3
Preocupações sobre "Necromancia Digital" superexplorado,
segundo especialistas
(yacobchuk/Getty Images) (em inglês)
A IA generativa – que engloba grandes modelos de linguagem (LLMs), como o ChatGPT, mas também
geradores de imagem e vídeo como o DALL-E 2 – supera o que ficou conhecido como “necrómato
digital”, a conjuração dos mortos dos vestígios digitais que deixam para trás.
Debates em torno da necromancia digital foram desencadeados pela primeira vez na década de 2010
por avanços na projeção de vídeo ("tecnologia profunda falsa") levando à reanimação de Bruce Lee,
Michael Jackson e Tupac Shakur. Também levou a aparições póstumos de Carrie Fisher e Peter
Cushing, entre outros.
Inicialmente preservada de empresas de produção de filmes e música com recursos, o surgimento da IA
generativa ampliou o acesso às tecnologias que foram usadas para reanimar essas e outras estrelas
para todos.
Mesmo antes do ChatGPT explodir em consciência pública no final de 2022, um usuário já havia usado
o LLM da OpenAI para conversar com sua noiva morta com base em seus textos e e-mails.
Vendo o potencial, uma série de startups como Here After e Replika lançaram base em IA generativa
para reanimar os entes queridos para os enlutados.
Essa tecnologia, para alguns, parece cruzar uma linha cultural e talvez até ética, com muitos
experimentando um profundo desconforto com a ideia de que podemos interagir rotineiramente com
simulações digitais dos mortos. A magia negra da necromancia assistida por IA é vista, como resultado,
com suspeita.
Isso pode ter algumas pessoas preocupadas.
https://theconversation.com/chatgpt-and-other-language-ais-are-nothing-without-humans-a-sociologist-explains-how-countless-hidden-people-make-the-magic-211658
https://theconversation.com/give-this-ai-a-few-words-of-description-and-it-produces-a-stunning-image-but-is-it-art-184363
https://digitalcommons.lindenwood.edu/cgi/viewcontent.cgi?article=1479&context=faculty-research-papers
https://theconversation.com/deepfakes-faces-created-by-ai-now-look-more-real-than-genuine-photos-197521
https://theconversation.com/a-genuinely-believable-cgi-actor-it-wont-be-long-71410
https://www.sciencealert.com/consciousness
https://www.theregister.com/2021/09/08/project_december_openai_gpt_3/
https://www.hereafter.ai/
https://replika.com/
https://benverschoor.com/blog/revolution-169
2/3
Mas como sociólogos trabalhando em práticas culturais de lembrança e comemoração, que também têm
experimentado ressuscitar os mortos usando IA generativa, achamos que não há motivo para
preocupação.
Uma nova arte sombria ou mais do cotidiano?
Continuar os laços com os mortos através de texto, imagens e artefatos é comum – parte de nossas
vidas com outras pessoas vivas e mortas.
As pessoas há muito tempo têm colocado valor emocional em semelhanças e relíquias como meio de
manter os mortos com eles. Embora ter um retrato pintado não fosse mais uma maneira amplamente
adotada de memorizar imagens de entes queridos na época, a difusão da fotografia no século XIX
rapidamente se tornou um meio alternativo para preservar o falecido.
https://youtu.be/-QqLbaP8nVA
Qualquer um de nós hoje tem fotos e vídeos de entes queridos passados, aos quais retornamos como
memórias e consolações. E, é claro, a semelhança, obras ou restos de pessoas famosas circularam
para preservá-las – muitas vezes a seu respeito – desde que tenhamos registrado a história. As relíquias
religiosas entre culturas oferecem apenas um caso no ponto.
Quando se trata de IA generativa, então, não há nada particularmente definidor do mundo acontecendo.
A velocidade com que as possibilidades necromânticas da IA foram exploradas nos diz muito sobre o
quão bem a tecnologia funciona com nossas práticas existentes de luto, lembrança e comemoração –
em vez de “perturbar” ou “mudar” delas.
Mas a IA não é diferente?
As startups de IA neste domínio baseiam-se em empreendimentos anteriores do-it-yourself em trazer de
volta os entes queridos usando IA generativa. Usando a escrita (por exemplo, nas mídias sociais e nos
e-mails), gravações de áudio de fala, fotografias e vídeos de entes queridos enviados pelos clientes, eles
http://www.terenceheng.info/research/index.php
https://academic-emulator.web.app/about
https://www.bbc.co.uk/news/uk-england-36389581
https://youtu.be/-QqLbaP8nVA
https://theconversation.com/marilyn-monroe-why-are-we-still-obsessed-60-years-after-her-death-187818
https://www.bbc.co.uk/news/uk-england-stoke-staffordshire-54986061
https://theconversation.com/marilyn-monroe-why-are-we-still-obsessed-60-years-after-her-death-187818
https://theconversation.com/what-makes-religious-relics-like-pieces-of-the-true-cross-and-hair-of-saints-sacred-to-christians-181699
https://www.sfchronicle.com/projects/2021/jessica-simulation-artificial-intelligence/
3/3
treinam modelos de IA que permitem interagir postumamente com "eles" através de imagens, voz e
texto.
Como observado por Debra Bassett, que estudou as pós-vidas digitais extensivamente, alguns
dissidentes sobre esse uso da IA afirmaram que estão preocupados que os reanimados possam ser
feitos para dizer coisas que não estariam vivos e, em vez disso, estão representando o roteiro de outra
pessoa. Para Bassett, a preocupação é que os mortos estão sendo zombified"zumbificados" em uma
violação de sua integridade.
Esta é, naturalmente, uma possibilidade, mas devemos sempre olhar para estas coisas caso a caso.
Geralmente, no entanto, devemos lembrar que imaginamos e iniciamos conversas com os mortos o
tempo todo.
Em momentos de crise ou alegria, refletimos sobre o que aqueles que perdemos nos disseram, as
atitudes que eles poderiam ter tido e o encorajamento que eles podem ter oferecido em relação a
desafios e realizações no aqui e agora.
Imagens, textos e artefatos como posses passadas ou heranças premiadas têm sido meios de
comunicação utilizáveis para esse tipo de comunhão e novas tecnologias, mais recentemente câmeras e
dispositivos de gravação, sempre tornaram essa mídia mais fácil e amplamente acessível.
Outros, ao refletir sobre a estranheza dos encontros com pessoas mortas trazidas de volta à interação
digital conosco, argumentam que aqueles que se comunicam não são de fato os mortos, mas fraudes.
Onde feito de forma exploradora e oculta, como com os charlatães do movimento de reavivamento
espiritual vitoriano armado com suas tábuas de ouija, isso é, naturalmente, altamente problemático.
No entanto, novamente, devemos lembrar que normalmente não tratamos nossas mensagens pessoais,
fotografias ou vídeos dos mortos como se esses próprios registros fossem nossos entes queridos. Em
vez disso, nós os usamos como canais para sua memória, permanecendo neles como proxies para
pensarmos ou nos comunicarmos. Sugerir rotineiramente nos confundimos ou nos iludirmos sobre essa
mídia é um equívoco.
É por isso que as preocupações gerais sobre a necromancia digital são exageradas: quando nos
concentramos excessivamente em seus aspectos estranhos e sinistros, para adaptar o filósofo.Ludwig
Wittgenstein (tradução)Perdemos de vista as maneiras pelas quais essas novas tecnologias falam e
ressoam com o que já somos e fazemos como seres humanos.
Michael Mair, professor de sociologia da Universidade de Liverpool; Dipanjan Saha, PhD Candidato em
Sociologia, Universidade de Liverpool ; Phillip David Brooker, professor de sociologia, Universidade de
Liverpool, e Terence Heng, professor sênior em sociologia, Universidade de Liverpool
Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo
original.
https://link.springer.com/book/10.1007/978-3-030-91684-8
https://www.theguardian.com/technology/2023/jul/18/ai-chatbots-grief-chatgpt
https://www.thenewatlantis.com/publications/the-speech-of-the-dead
https://theconversation.com/ouija-boards-three-factors-that-might-explain-why-they-appear-to-work-for-some-193059
https://haubooks.org/the-mythology-in-our-language/
https://theconversation.com/profiles/michael-mair-1468273
https://theconversation.com/institutions/university-of-liverpool-1198https://theconversation.com/profiles/dipanjan-saha-1398845
https://theconversation.com/institutions/university-of-liverpool-1198
https://theconversation.com/profiles/phillip-david-brooker-316548
https://theconversation.com/institutions/university-of-liverpool-1198
https://theconversation.com/profiles/terence-heng-1470529
https://theconversation.com/institutions/university-of-liverpool-1198
https://theconversation.com/
https://theconversation.com/digital-necromancy-why-bringing-people-back-from-the-dead-with-ai-is-just-an-extension-of-our-grieving-practices-213396