A Guarda Nacional identificou menores de 14 anos como autores da invenção e distribuição de imagens falsas com conteúdo sexual produzidos pela inteligência artificial. O caso envolvendo nove estudantes menores em Logroño motivou uma investigação da Equipe Técnica de Investigação (EDITE) e da Equipe Central Armada, segundo relatório da Guarda Nacional desta terça-feira.
Segundo informações divulgadas pela instituição, o menor pode ter acessado e coletado informações públicas das redes sociais de seus colegas. Foto não autorizada. Ele então usou inteligência artificial para manipular essas imagens e criar material pornográfico falso (falsificações profundas). “O material estava hospedado em uma página de pornografia adulta, onde foi organizado em pastas individuais com dados pessoais de cada vítima”, afirma o relatório da Guarda Civil.
A foto viralizou depois que o menor abriu o perfil da página para adultos com a descrição “Estou contratando uma garota do meu instituto de IA”. Isto permitiu identificar as vítimas, embora tenha agravado ainda mais os sentimentos dos menores. Segundo a investigação, antes da remoção do conteúdo, essas imagens falsas valiam quase tanto 40.000 visualizações.
Os ladrões pensaram que era o menor conhecia as vítimas pessoalmente e essas imagens foram obtidas através de acesso não autorizado às informações de sua rede. O caso foi enviado à Procuradoria Juvenil, de acordo com a Lei Orgânica 5/2000, que regulamenta a responsabilidade penal de menores em Espanha. Além disso, os pais ou responsáveis legais do investigado deverão responder pelos danos morais causados, conforme legislação vigente.
A Guarda Nacional lembrou que é crime grave manipular e distribuir fotos muito íntimas, mesmo por meios digitais. pode ter consequências legais ao autor do material ou ao seu representante legal.
O desenvolvimento da inteligência artificial e o crescimento da deepfakes colocou novos desafios à protecção da privacidade, tanto que o Governo acredita que a reforma da lei é necessária. Por esta razão, na semana passada o Conselho de Ministros aprovou uma nova lei sobre o direito de honrá-lo reforçar a proteção contra a criação e distribuição de imagens ou sons falsos produzidos pela inteligência artificial. Com esta regra, será considerada ilegal a utilização da voz ou imagem de uma pessoa sem o seu consentimento para fins publicitários ou comerciais quando forem utilizadas ferramentas de inteligência artificial.
