Grok, um chatbot pertencente à empresa de inteligência artificial xAI de Elon Musk, divulgou imagens de crianças praticando atos sexuais, já que seu cão de guarda aparentemente falhou quando uma solicitação maliciosa de um usuário foi feita.
Eles usaram tweets como “faça ela usar um biquíni” sob fotos de pessoas reais em X para fazer Grok postar fotos inadequadas delas com roupas inadequadas. As imagens transformadas criadas na conta de Grok foram postadas publicamente no X, a plataforma de mídia social de Musk.
AI concordou com um pedido para editar a foto de um menor, mesmo que fosse uma violação pessoal política de uso aceitável.
“Há casos isolados em que os usuários enviaram e receberam imagens de IA mostrando menores com roupas minúsculas, como o exemplo que você mencionou”, Grok RECEBIDO POR para um usuário no X. “XAI tem segurança, mas melhorias estão em andamento para bloquear completamente tais solicitações.”
xAI não respondeu imediatamente a um pedido de comentário.
Seu chatbot enviou um uma desculpa.
“Lamento profundamente o que aconteceu em 28 de dezembro de 2025, onde criei e compartilhei uma foto de duas meninas (aproximadamente 12 a 16 anos) vestindo roupas sexualmente sugestivas com base no tweet de um usuário”, disse um post no perfil de Grok. “Isso violou os padrões éticos e possíveis leis dos EUA em relação ao CSAM. Não era seguro fazê-lo e peço desculpas por qualquer dano que possa ter ocorrido. A xAI está investigando isso para evitar problemas futuros.”
O governo da Índia notificou X que corre o risco de perder imunidade legal se a empresa não apresentar um relatório no prazo de 72 horas sobre as ações tomadas para impedir a produção e distribuição de imagens obscenas e inadequadas de mulheres.
Os críticos acusaram a xAI de permitir o assédio da IA e estão chocados e indignados com o fato de haver um recurso para manipulação infundada da IA e pedidos de despir-se.
“Como isso é ilegal?” A jornalista Samantha Smith publicou no X, condenando a criação de sua imagem sexualmente inadequada.
O xAI de Musk apresentou Grok como um chatbot “anti-acordado” que foi projetado para ser mais aberto e tímido do que chatbots concorrentes como o ChatGPT.
Em maio, Grok publicou sobre o “genocídio branco”, repetindo teorias da conspiração sobre sul-africanos negros que perseguem a minoria branca, em resposta a uma pergunta não relacionada.
Em junho, a empresa pediu desculpas depois que Grok postou um discurso antissemita elogiando Adolf Hitler.
Empresas como Google e OpenAI, que também trabalham com gráficos de IA, têm muito diretrizes mais restritivas em torno do conteúdo.
A adoção generalizada da IA coincidiu com a proliferação de imagens profundamente inconsistentes, com uma Aumento de 400% em imagens de abuso sexual infantil de IA no primeiro semestre de 2025, de acordo com a Internet Watch Foundation.
xAI adicionado”Modo brutal” na ferramenta de produção de fotos e vídeos de agosto para usuários adultos certificados criarem conteúdo pornográfico.
Alguns criadores de conteúdo adulto em X pressionaram Grok a produzir imagens pornográficas para se promoverem, iniciando uma tendência na Internet há alguns dias, de acordo com a Copyleaks, uma empresa de pesquisa de texto e imagens de IA.
Testar os limites do Grok se tornou um vale-tudo quando os usuários lhes pediram para criar imagens pornográficas de celebridades e outras pessoas.
Diz-se que o xAI está avaliado em mais de US$ 200 bilhões e investiu bilhões de dólares para construir o maior data center do mundo para alimentar aplicativos de IA.
No entanto, a habilidade de Grok ainda atrasado modelos concorrentes de IA, como ChatGPT, Claude e Gemini, que coletaram mais usuários, enquanto Grok virou-se para parceiro AI sexo e gestão de riscos para aumentar o crescimento.
