SACRAMENTO – A Califórnia anunciou uma investigação sobre a empresa de inteligência artificial xAI de Elon Musk na quarta-feira, com o governador Gavin Newsom dizendo que o site de mídia social do bilionário é um “terreno fértil para predadores espalharem imitações flagrantes de IA de sexo sem sexo”.
Grok, o chatbot xAI, inclui um recurso de criação de imagens que permite aos usuários converter uma imagem existente em uma nova imagem. Imagens recém-criadas são publicadas publicamente no X.
Em alguns casos, os usuários criaram imagens sexualmente explícitas ou inadequadas baseadas em pessoas reais, incluindo imagens editadas que parecem mostrar pessoas parcial ou totalmente nuas. Outros criaram imagens que parecem representar menores, o que suscitou críticas de que a proibição da pornografia infantil é insuficiente.
O site de mídia social disse anteriormente que “estamos tomando medidas contra o conteúdo ilegal no X, incluindo material de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente as contas e cooperando com os governos locais e as autoridades policiais, conforme necessário.
Newsom chamou as imagens criadas na plataforma de “obscenas”. Atty. O general Rob Bonta disse que seu gabinete usará “todas as ferramentas à nossa disposição para manter os californianos seguros”.
“A avalanche de relatórios detalhando material sexualmente impróprio que a xAI produziu e postou online nas últimas semanas é chocante”, disse Bonta em comunicado na quarta-feira. “Este material, que retrata mulheres e crianças nuas e em situações sexualmente explícitas, tem sido usado para assediar pessoas na Internet. Peço à xAI que tome medidas imediatas para evitar que vá mais longe.
Newsom assinou dois projetos de lei em 2024 que tornariam ilegal a criação, posse ou distribuição de imagens sexualmente explícitas de menores, mesmo que tenham sido criadas com um computador, e não com uma câmera. Essas disposições entraram em vigor no ano passado.
House Bill 1831, de autoria do deputado Marc Berman (D-Menlo Park), expandiu a proibição da pornografia infantil para material que “contém desenhos animados gerados artificialmente ou criados artificialmente (de) pessoas menores de 18 anos” envolvidas em atividades ou relações sexuais. O projeto de lei 1381 do Senado, de autoria da senadora Aisha Wahab (D-Hayward), alteraria a lei estadual para proibir mais claramente o uso de IA para criar imagens de crianças reais envolvidas em atividades sexuais ou para usar crianças como modelos para pornografia infantil alterada digitalmente ou gerada por IA.
