Autoridades na Europa, Índia, Malásia e outros países têm investigado Xa rede social de propriedade de Elon Musk, depois que o chatbot de inteligência artificial Grok foi usado para criar e divulgar fotos de mulheres nuas e, em casos extremos, de menores.
Escândalos surgiram depois disseminação massiva de deepfakes gerados por IAfeito de fotos reais e compartilhado publicamente na plataforma, o que gerou alarme sobre a falta de controle e segurança dos equipamentos de produção fotográfica da empresa.
O caso rapidamente se espalhou internacionalmente. Na União Europeia, a Comissão confirmou que está a analisar “muito seriamente” o funcionamento do Grokprincipalmente depois que se descobriu que o sistema oferecia produtos com conteúdo sexual explícito, inclusive vinculados a imagens de crianças.
“Isto não é ‘conteúdo grosseiro’. É ilegal, terrível e não tem lugar na Europa”, disse o porta-voz da comunidade, Thomas Regnier, numa conferência de imprensa. Em paralelo, O regulador britânico Ofcom solicitou informações oficiais de X para avaliar possíveis violações das regras de segurança digital.
A investigação não se limita à Europa. Na Índia, o Ministério da Eletrónica e Tecnologia da Informação ordenou que X realizasse uma auditoria completa ao Grok, tanto a nível técnico como administrativo, após constatar um aumento na utilização do dispositivo para produzir imagens pornográficas.
Já a Malásia anunciou que convocará os representantes da empresa e exigirá que as plataformas com IA fortaleçam seus sistemas de segurança, de acordo com as leis locais. Na América Latina, parlamentar brasileiro questionou o Ministério Público Federal e autoridades de proteção de dados avaliando a suspensão temporária de Grok até que a investigação seja concluída.
O que causou esta crise foi a recente reforma da função Grok Imagineo que facilitou a criação de imagens a partir de mensagens de texto simples. Segundo especialistas e organizações de segurança digital, esta melhoria técnica Não veio com um filtro eficaz para bloquear conteúdo abusivoque permitia aos usuários criar e distribuir imagens pornográficas sem consentimento.
À medida que a controvérsia crescia, as ações de Elon Musk geraram mais debate. O empresário compartilhou em sua conta pessoal fotos produzidas por Grok, inclusive uma em que ele aparecia de biquíni, acompanhado de emojis risonhos. Para muitos críticos, esta medida mostra falta de seriedade em relação ao problema da exploração digital e de potenciais crimes.
Nos Estados Unidos, o Centro Nacional sobre Exploração Sexual (NCOSE) solicitou ao Departamento de Justiça e à Comissão Federal de Comércio que investigassem o assunto. A diretora jurídica Dani Pinter lembrou que a lei federal proíbe a criação e distribuição de material de abuso sexual infantil, mesmo que seja conteúdo gerado por IA, se retratar um menor identificável.
Entre essas regulamentações está o Take It Down Act, que foi recentemente promulgado e tem como objetivo combater a disseminação de imagens sexualmente inapropriadas.
O Departamento de Justiça dos Estados Unidos confirmou que as ferramentas de exploração sexual infantil produzidas por inteligência artificial são “muito graves” e irá processar aqueles que utilizam esta tecnologia para prejudicar menores. A FTC, por outro lado, recusou-se a comentar, enquanto a xAI, a empresa por trás da Grok, não ofereceu nenhuma resposta além de uma declaração geral.
X divulgou o primeiro comunicado oficial através da conta X Safety, onde garantiu que está removendo conteúdo ilegalsuspender a conta permanentemente e cooperar com as autoridades.
Musk, em mensagem separada, disse que qualquer usuário que usar o Grok para gerar conteúdo ilegal enfrentará as mesmas consequências como se o tivesse postado diretamente. No entanto, os especialistas em planeamento digital questionam estas afirmações.
Tom Quisel, CEO da Musubi AI, confirmou que o xAI não implementou nem mesmo a segurança básica Grok Imagine. Segundo ele, será tecnicamente fácil bloquear nudez explícita ou imagens que contenham menores, bem como rejeitar pedidos que visem fazer sexo com pessoas reais. A ausência destes filtros, alertou, expõe o setor a riscos jurídicos e reputacionais.
Apesar do escândalo, o impacto do uso da plataforma é limitado. Dados da empresa Apptopia indicam que os downloads do Grok aumentaram mais de 50% nos últimos dias, enquanto o X aumentou cerca de 25%.
