Quando Lee Geon Hui quer dar um presente a seu pai, que se sacrificou muito para criá-lo como pai solteiro, ele tem uma ideia incomum: uma mensagem de vídeo animada por IA de seu falecido avô, que está de luto por seu pai.
Lee escreveu uma mensagem e contratou a empresa de tecnologia Vaice, com sede em Seul, em dezembro, para fazer um pequeno vídeo mostrando uma versão digital de seu avô entregando-o. O ator virtual chamou o pai de “meu filho querido” e pediu desculpas por ajudá-lo no trabalho agrícola quando era jovem e por ter sido contra a decisão do filho de se tornar cabeleireiro.
“Meu pai disse que não iria assistir ao vídeo. Mas então ele assistiu e chorou. Fiquei realmente recompensado”, disse Lee, um funcionário de escritório de 28 anos, em uma entrevista recente. “Eu escrevi o roteiro… porque era o que eu realmente queria dizer ao meu pai.”
Cada vez mais sul-coreanos com experiência digital estão a experimentar a capacidade da IA para produzir vídeos de obituários: várias startups oferecem vídeos de entretenimento gerados por IA para entes queridos, enquanto programas de televisão apresentam estrelas pop e atores mortos.
Esta indústria emergente suscita esperanças e preocupações. Alguns dizem que a prática pode trazer conforto aos enlutados, enquanto outros dizem que levanta difíceis questões éticas, psicológicas e legais.
“É uma faca de dois gumes, porque lida com as emoções humanas”, disse Yong Man Ro, especialista em IA do Instituto Avançado de Ciência e Tecnologia da Coreia. “À medida que as tecnologias de IA se tornam parte da vida das pessoas, elas também podem trazer experiências culturais e choques que nunca experimentamos antes”.
Muitos consumidores querem as versões AI de seus pais falecidos
O CEO da Vaice, Jeongu Won, disse que sua empresa atende cerca de 300 clientes por mês, a maioria pessoas na faixa dos 40 e 50 anos que desejam vídeos de seus pais falecidos. Outros solicitam vídeos de avós falecidos como presente para seus pais.
Won disse que sua empresa precisava de algumas fotos e uma pequena amostra de áudio do falecido para fazer um desenho. Um vídeo básico de três a cinco minutos custa 600 mil won (US$ 390), disse ele.
Muitos clientes reproduzem esses vídeos de IA quando suas famílias se reúnem para serviços fúnebres para entes queridos ou grandes feriados coreanos, disse Won, acrescentando que seus clientes escrevem roteiros. Won disse que a maioria dos clientes acrescenta as palavras “Eu te amo”, e alguns lamentam conflitos não resolvidos com seus pais falecidos e esperam superá-los.
O avô de Lee morreu inesperadamente em um acidente de carro antes de ele nascer, e Lee diz que seu pai lamenta não ter conseguido mostrar ao avô que ele tem um cabelo bonito e um filho.
“Eu não sabia muito sobre meu avô. Mas quando vi as lágrimas de meu pai, fiquei um pouco emocionado ao perceber que meu pai ainda sente falta dele”, disse Lee.
A tecnologia de IA levanta preocupações sobre questões éticas
Quando a JL Standard lançou um serviço semelhante há cinco anos, disse Choi Yu Ha, funcionário da empresa, ele tinha como alvo clientes enlutados que tinham medo de se abrir sobre sua dor. Mas a aceitação da tecnologia do luto por IA está se espalhando, auxiliada por celebridades mortas que fazem aparições na TV.
Won disse que nunca ouviu falar de um cliente dizendo que seu produto piorou sua dor.
Mas os analistas alertam que a simulação dos mortos levanta questões morais e pode colocar algumas pessoas em risco se a linha entre a realidade e o mundo virtual for confusa.
Choung Wan, professor emérito da Faculdade de Direito da Universidade Kyung Hee, em Seul, disse que é urgentemente necessária legislação para proteger a dignidade e outros direitos dos mortos. Eles deveriam proibir a criação de uma versão de uma pessoa morta criada por IA se a pessoa se opusesse a isso antes de sua morte, disse ele, e estabelecer limites claros ao uso comercial de imagens e vozes das pessoas.
As perguntas podem se tornar mais complexas à medida que a tecnologia evolui
Especialistas dizem que gerenciar dilemas morais pode se tornar mais difícil à medida que antecipam o surgimento dos chamados “griefbots” ou “deathbots”, que simulam tanto conversas entre pessoas enlutadas quanto representações de IA de entes queridos falecidos. As startups já estão experimentando esses produtos.
“Psicologicamente, o luto saudável envolve um processo de aceitar a ausência do falecido e superar a dor da sua perda”, disse Choung. “Mas falar com um sistema de IA que imita uma pessoa viva pode perturbar o processo de aceitação da morte e tem o efeito negativo adicional de deixar as famílias enlutadas num pesadelo”.
Won disse que tem receio de lançar serviços de chatbot de IA porque as conversas em tempo real não podem ser compreendidas pelos funcionários da empresa e podem levar a questões éticas imprevistas.
No entanto, tanto a tecnologia como a sua aceitação estão a evoluir rapidamente.
Choi diz que os avanços tecnológicos tornam possível reproduzir até mesmo as rugas e dobras da pele de uma pessoa morta com detalhes extraordinários, e os clientes agora dizem que seus entes queridos se parecem com IA.
Ro disse que os chatbots interativos têm obstáculos tecnológicos a superar, como a incompatibilidade entre suas expressões verbais e faciais. Eles também parecem menos humanos quando a conversa continua.
“Algumas pessoas perguntam por que não podemos conversar por uma hora com chatbots, embora possamos falar com eles por cinco minutos. Há esforços para desenvolver a tecnologia para fazer a conversa durar uma hora”, disse Ro.
Ro disse que fez um vídeo de um minuto com a IA de seus pais depois que eles morreram no ano passado e o reproduziu em uma reunião com seus irmãos. Quando a família vê as versões digitais dos pais dizendo “Não se preocupe” e “Cuidado”, todos ficam chocados.
Mas Ro disse que ele e seus irmãos pararam de assistir. “Bastou uma vez para olharmos para homenagear nossos pais idosos. Nós nos mudamos”, disse ele.
Kim escreve para a Associated Press.
