A proliferação de conteúdo gerado por IA tornou mais difícil a detecção de falsificações e falsificações digitais, especialmente para determinadas faixas etárias. Um teste recente desenvolvido pela The Care Side, uma agência australiana de cuidados domiciliários, mostra que aqueles com menos de 29 anos conhecem a maior parte dos resíduos profundos, enquanto aqueles com mais de 65 anos estão certos em metade dos casos, muitas vezes por acaso.
A experiência Care Side, na qual participaram mais de 3.000 pessoas, mostra que a capacidade de distinguir conteúdos produzidos pela IA varia de acordo com a idade e o nível de formação digital. Embora os jovens reconheçam oito em cada dez fraudes, os adultos mais velhos têm um problema maior.
Pessoas com mais de 65 anos só conseguem identificar 50% dos casos e, muitas vezes, o seu sucesso deve-se ao acaso e não ao raciocínio.
No entanto, especialistas como Hervé Lambert, da Panda Security, sustentam que o risco não é apenas para uma geração, porque a falta de atenção e o desenvolvimento de ameaças afetam todos os utilizadores. Lambert disse ao El País que a inteligência artificial aproveita a capacidade de atenção das pessoas, sublinhando que a educação digital é importante, independentemente da idade.
“Acho um erro limitar o problema ao problema de uma geração. A IA é muito inteligente e sabe muito bem que existem situações e horários do dia que vão fazer com que não nos concentremos em algo e utilizemos bem”, disse.
Marti DeLiema, do Centro para Idade Saudável e Inovação da Universidade de Minnesota, concorda que a IA mudou completamente o mundo da fraude para a sociedade como um todo.
Por sua vez, Josep Albors, da ESET Espanha, alerta que os criminosos estão a aproveitar-se da IA para criar campanhas falsas cada vez mais convincentes, utilizando imagens, sons e vídeos difíceis de distinguir dos reais.
“Estamos vendo vídeos realmente bons produzidos com a mesma voz das pessoas para quem eles filmam”, disse Albors durante a última edição dos prêmios de comunicação de sua empresa global de segurança cibernética.
As sutilezas dos deepfakes e outras fraudes digitais requerem atenção especial em diferentes formas. Nas mensagens de texto, fique atento a saudações comuns, prazos urgentes, solicitações de dados pessoais ou transferências sem verificação e erros de digitação.
Na fotografia, os sinais de alerta incluem simetria facial incomum, mãos deformadas ou borradas, fios excessivamente macios e fundos incompatíveis.
Em termos de som, os sons artificiais apresentam frequentemente pausas não naturais, ritmos robóticos, mudanças repentinas de tom, sons estranhos ou respostas dissonantes.
Os vídeos, por outro lado, podem mostrar movimentos faciais irregulares, lábios e pálpebras incompatíveis ou movimentos inferiores aos humanos.
Especialistas apontam que a vulnerabilidade a deepfakes e fraudes de IA se deve à falta de conhecimento, conscientização e treinamento, especialmente ao realizar múltiplas tarefas ao mesmo tempo.
Embora existam ferramentas para identificar a contribuição da IA na criação de conteúdos, Hervé Lambert acredita que apenas limitam o risco, mas não o eliminam completamente.
Portanto, são necessárias educação no mundo real e prática regular para identificar sinais de alerta. Josep Albors lamenta também a tendência dos utilizadores de não verificarem informações em fontes fiáveis, o que aumenta a incidência de fraudes.
Um deepfake é um conteúdo digital criado por inteligência artificial, que utiliza técnicas avançadas de aprendizado de máquina para combinar o rosto, a voz ou as ações de uma pessoa com uma foto, vídeo ou áudio, para obter um efeito realista.
Este tipo de tecnologia permite-nos criar simulações convincentes onde uma pessoa parece dizer ou fazer algo que nunca aconteceu.
O aumento dos deepfakes suscitou preocupações porque, embora possam ser utilizados para entretenimento ou publicidade, facilitam a propagação de fraude, desinformação e roubo de identidade. A dificuldade em distingui-los do conteúdo real torna os deepfakes uma ameaça à confiança e à segurança digital.
