Inteligência artificial Grokdesenvolvido por xAI, A empresa de Elon Muské o centro da controvérsia internacional após a disseminação massiva de deepfakes sexo sem consentimento, incluindo imagens distorcidas de menores.
O caso era suspeito sobre isso falta de controle efetivo da tecnologia e gerou investigações, restrições e debates regulatórios em diferentes partes do mundo.
O lançamento do Grok em novembro de 2023 foi apresentado como um avanço disruptivo no campo da IA interativa. A xAI promoveu o chatbot devido ao seu “comportamento perverso” e à sua capacidade de responder a perguntas que outros sistemas rejeitaram.com acesso em tempo real à plataforma X (antigo Twitter).
No entanto, especialistas e organizações começaram a alertar sobre riscos de dar aos chatbots acesso à Internet e às redes sociais sem um sistema de segurança forte.
A situação piorou recentemente, quando usuários começaram a relatar que Grok poderia criar imagens pornográficas de celebridades e pessoas comuns. mesmo menores, através do botão “editar” que permite alterar imagens sem o consentimento dos participantes.
A reação internacional continuou. Os governos de países como França, Índia, Malásia, Indonésia, Reino Unido e Estados Unidos a investigação foi anunciada ou ação legal.
Algumas regiões já bloquearam o acesso ao Grok, enquanto outras ameaçam proibir o uso do X ou a própria IA se não forem implementados controles eficazes para impedir a produção e disseminação de quase deepfakes.
No Reino Unido, os reguladores das comunicações alertaram que irão investigar se X e Grok estão a violar as leis de segurança cibernética, se Nos Estados Unidos, discutem-se mudanças legislativas para ampliar proteções contra imagens de menores produzido pela IA, uma área onde ainda existem lacunas legais nas regras.
Diante da pressão pública e da lei, X anunciou a implementação de novas restrições: a modificação de fotos de pessoas reais expondo roupascomo um biquíni, bloqueado; Somente usuários pagos podem criar ou editar imagens usando Grok; e o bloqueio geográfico foi implementado em áreas onde é ilegal criar conteúdo sexual contra pessoas reais.
No entanto, o teste do jornalista mostrou isso Estas barreiras não são suficientes e fáceis de superarpermitindo a criação de imagens sugestivas com alterações simples sob demanda.
A falta de monitoramento eficaz e a velocidade com que o conteúdo se espalha deixou milhares de vítimas expostas: Em apenas 24 horas de análise, estima-se que Grok produziu aproximadamente 6.700 imagens sexualmente sugestivas ou “nuas” por hora.o que aumentou a pressão sobre Musk e sua equipe de segurança.
Para os afetados pela disseminação da inteligência artificial produzida pela IA, existem diversas ações:
- Relatórios de campo de origem: Utilize a ferramenta de denúncia da rede social onde a imagem foi postada para solicitar sua remoção imediata.
- Solicitar exclusão dos mecanismos de pesquisa: O Google, por exemplo, permite solicitar a remoção de links para imagens inadequadas próximas.
- Relatório sobre ferramentas de IA: Se você sabe qual site é a fonte, entre em contato com as autoridades, pois muitas vezes elas possuem políticas contra a distribuição desse tipo de conteúdo.
- Legalmente localizado: Em muitos países, é crime criar e distribuir pornografia sintética sem consentimento. Preserve as evidências e entre em contato com as autoridades.
- Utilize ferramentas de apoio às vítimas: Plataformas como StopNCII.org ajudam a prevenir a disseminação de imagens inadequadas nas redes sociais.
Abriu um debate urgente sobre o caso Grok há necessidade de supervisão, transparência e controle efetivo da inteligência artificial. A pressão internacional forçará os sectores a reforçar os seus sistemas de segurança e a tomar medidas claras para evitar danos a pessoas reais, especialmente menores, no ambiente digital. O desafio não é apenas técnico, mas também ético e social, e definirá o rumo para a IA generativa nos próximos anos.
