O chatbot Grok de Elon Musk começou na quinta-feira a limitar a capacidade de usuários não pagantes de criar imagens profundas e sexualmente sugestivas após pressão global de usuários e governos.
No final do mês passado, ele começou a marcar Grok na plataforma de mídia social X de Musk com tweets como “faça-o usar um biquíni” para criar uma imagem que não corresponda às pessoas reais do X.
Imagens transformadas, incluindo celebridades, políticos e alguns menores, foram criadas por Grok e postadas publicamente no X.
Antes de as restrições atuais entrarem em vigor, Musk contribuiu para a tendência de despir-se da IA, instruindo Grok a criar uma foto sua de biquíni.
Empregadores e autoridades reclamaram e ameaçaram processar ou punir X. Grok inicialmente pediu desculpas por fotos inadequadas de coisas como crianças.
Agora X colocou a controversa habilidade de transformação de Grok atrás de um acesso pago.
Os governos, incluindo o Reino Unido e a Comissão Europeia, disseram que não estão satisfeitos em proteger X porque ainda existe a capacidade de criar e editar imagens. Disponível para usuários pagantes.
“Embora limitar a criação de imagens de IA a usuários pagos possa reduzir a quantidade e melhorar a rastreabilidade, o abuso não foi interrompido. Ele apenas foi colocado atrás do pagamento, permitindo que X lucrasse com os danos”, disse Emma Pickering, chefe de abuso e capacitação econômica da Refuge, em um comunicado.
À medida que cresce a indignação pública sobre o que muitos chamam de assédio possibilitado pela IA, os reguladores tomaram nota, com alguns propondo banir o X nos seus países.
O primeiro-ministro do Reino Unido, Keir Starmer, disse que X “deve compreender” esta tendência “nojenta”. “Vamos tomar medidas sobre isso porque simplesmente não será tolerado”, disse Starmer.
Em uma reação velada, Musk pareceu criticar o regulador do Reino Unido raiva reiterando a afirmação de que o ChatGPT permitiu a criação de fotos de biquínis de pessoas não reais por meio de tweets criativos e ambíguos.
Depois de Grok ter sido condenado por produzir imagens pornográficas, a Comissão Europeia ordenou que X guardasse todos os documentos relacionados com Grok para garantir o cumprimento das suas regras.
“Precisamos de ter acesso a eles se o solicitarem especificamente”, disse um porta-voz da Comissão num comunicado. coletiva de imprensa.
França, Índia, Malásia e Brasil também estão considerando a área.
Embora as celebridades tenham sido os primeiros alvos da IA, ela logo se voltou para as pessoas comuns. Em 3 de janeiro, um usuário incitou Grok 50 vezes por dia a criar imagens sexualmente inadequadas de mulheres no local de trabalho, investigou a empresa de detecção de IA Copyleaks.
A Ultraviolet lançou uma campanha para forçar a Apple e o Google a remover o X de suas lojas de aplicativos, já que o X viola as diretrizes de abuso sexual infantil.
Musk posicionou seu chatbot como uma opção mais pesada em comparação com outras opções como Gemini, ChatGPT e Claude, que possuem mais. instruções limitantes em torno de solicitações de conteúdo claras.
