A chefe de gabinete da Casa Branca, Susie Wiles, planeja anunciar ao CEO da Anthropic Dario Amodei sobre o novo modelo Mythos da empresa artificial, que tem atraído a atenção do governo federal de uma forma que pode mudar a segurança nacional e a economia.
Um funcionário da Casa Branca, que pediu anonimato para discutir a reunião planejada para sexta-feira, disse que o governo está trabalhando com laboratórios avançados de IA em modelagem e segurança de software. Este responsável enfatizou que qualquer nova tecnologia que possa ser utilizada pelo governo federal requer um período técnico de avaliação.
A reunião ocorre após tensões entre a administração Trump e a Antrópico, preocupada com a segurança, que tem procurado colocar salvaguardas no desenvolvimento da IA para minimizar riscos e aumentar os benefícios económicos e de segurança nacional para os Estados Unidos.
O presidente Donald Trump tentou impedir que todas as agências federais usassem o chatbot da Anthropic Claude sobre a disputa da empresa com o Pentágono, com Trump dizendo em uma postagem nas redes sociais em fevereiro que “o governo nunca mais fará negócios com eles!”
O secretário da Defesa, Pete Hegseth, também procurou declarar a Anthropic uma ameaça do lado da oferta, um movimento sem precedentes contra uma empresa norte-americana que a Anthropic representou em dois tribunais federais. A empresa diz que quer garantir que o Pentágono não use sua tecnologia para armas totalmente autônomas e para rastrear americanos. Hegseth disse que as empresas devem permitir usos que o Pentágono considere legítimos.
A juíza distrital dos EUA, Rita Lin, emitiu uma decisão em março que bloqueou a implementação da diretiva de mídia social de Trump, ordenando que todas as agências federais parassem de usar produtos Antrópicos.
A Antrópica se recusou a discutir a reunião com antecedência.
A Anthropic, com sede em São Francisco, disse que o novo modelo Mythos anunciado em 7 de abril é tão “impressionantemente capaz” que limita seu uso a clientes selecionados devido à sua capacidade de superar os especialistas em segurança cibernética na descoberta e exploração de vulnerabilidades de computador.
E embora alguns especialistas do setor tenham questionado se as afirmações da Anthropic sobre a poderosa tecnologia de IA são uma jogada de marketing, até mesmo alguns dos críticos mais severos da empresa sugeriram que a Mythos pode representar novos avanços na IA.
Um dos críticos mais proeminentes da Anthropic, David Sacks, que é o IA e criptoczar da Casa Branca, disse que as pessoas deveriam “levar isso a sério”.
“Sempre que o Anthropic assusta as pessoas, você deve perguntar: ‘Isso é um truque? Isso faz parte da rotina do Chicken Little? Ou é de verdade?'”, disse Sacks no podcast “All-In”, ao qual ele se junta a outros investidores em tecnologia. “Com o ciberespaço, eu realmente os tranquilizo neste caso e digo que isso é real.”
Sacks disse: “Faz sentido que, à medida que os modelos de código se tornam mais robustos, eles possam encontrar bugs. Isso significa que eles são melhores em encontrar vulnerabilidades. Isso significa que eles são melhores em combinar múltiplas vulnerabilidades e criar explorações.”
Os potenciais benefícios do modelo, bem como os riscos potenciais, também atraíram a atenção fora dos Estados Unidos.
O AI Security Institute do Reino Unido disse que revisou o novo modelo e considerou-o uma “melhoria” em relação ao modelo anterior, que melhorou rapidamente.
“O Mythos Preview pode explorar sistemas com comportamentos de segurança fracos e é provável que mais modelos estejam disponíveis com essas capacidades”, disse o instituto em um relatório.
A Anthropic também está em negociações com a União Europeia sobre modelos de IA, incluindo modelos avançados que ainda não foram lançados na Europa, disse o porta-voz da Comissão Europeia, Thomas Regnier, na sexta-feira.
Axios relatou pela primeira vez a reunião agendada entre Wiles e Amodei.
Ao anunciar o Mythos, a Anthropic disse que também lançou uma iniciativa chamada Projeto Glasswing, reunindo gigantes da tecnologia como Amazon, Apple, Google e Microsoft, com outras empresas como JPMorgan Chase, na esperança de proteger o software crítico do mundo das consequências “graves” que o novo modelo de segurança pública, segurança nacional e economia poderia causar.
“Estamos divulgando-o para algumas das empresas e organizações mais importantes do mundo para que possam usá-lo para encontrar vulnerabilidades”, disse o cofundador e diretor de políticas da Anthropic, Jack Clark, na conferência Semafor World Economy esta semana.
Clark acrescentou que o Mythos, embora esteja à frente da curva, não é um “modelo especial”.
“Haverá outros sistemas como este dentro de alguns meses de outras empresas, e dentro de um ano a um ano e meio depois disso haverá um modelo de código aberto da China que tem essas capacidades”, disse ele. Portanto, o mundo deve preparar-se para um sistema mais forte que existirá dentro dele. “___
O’Brien relatou de Providence, o repórter da RI AP, Kelvin Chan, contribuiu para este relatório de Londres.
Boak e O’Brien escreveram para a Associated Press.
