O Antrópico PBC bloqueou o acesso aos modelos de inteligência artificial mais avançados, incluindo o Mythos, seguindo a ordem sem precedentes da administração Trump de manter a tecnologia fora do alcance de todos os alienígenas.
O governo dos EUA disse à Anthropic que interromperia o acesso aos modelos Fable 5 e Mythos 5 de cidadãos estrangeiros “tanto dentro como fora dos Estados Unidos”, citando preocupações de segurança nacional, disse a empresa em um comunicado.
Uma autoridade dos EUA confirmou que o Departamento de Comércio enviou a carta. O fabricante do modelo fechou o acesso a ambos os sistemas a todos os clientes para garantir a conformidade.
Nunca antes o governo dos EUA tomou medidas tão drásticas para bloquear o acesso estrangeiro aos modelos de IA fronteiriços desenvolvidos por empresas norte-americanas. As administrações Trump e Biden limitaram o acesso estrangeiro a outras tecnologias promissoras, como semicondutores e supercomputadores, e alguns debateram os méritos de bloquear o acesso a modelos de IA. Mas as restrições ao software levantaram preocupações constitucionais e comerciais.
A Anthropic disse acreditar que o governo dos EUA emitiu a ordem depois de descobrir que era possível fazer o “jailbreak” ou ignorar o Fable 5, uma versão lançada recentemente do Mythos que a empresa bloqueou de realizar trabalhos de segurança cibernética.
“Não concordamos que encontrar uma fuga estreita deva ser um motivo para revogar um modelo de negócios que serviu centenas de milhões de pessoas”, disse a Anthropic em seu post. “Se este padrão fosse implementado em toda a indústria, acreditamos que impediria a implantação de novos modelos para todos os fornecedores de modelos de fronteira”.
Pesquisadores da Amazon.com Inc. conduziram uma pesquisa de jailbreak que revelou algumas vulnerabilidades no modelo da Anthropic, conforme relatado no Wall Street Journal.
A Amazon e o governo dos EUA comunicaram a vulnerabilidade antes da implementação dos controles, de acordo com pessoas familiarizadas com o assunto que falaram sob condição de anonimato para discutir assuntos delicados. O presidente-executivo da Amazon, Andy Jassy, esteve envolvido nessas transações, disse uma das pessoas. A informação relatou anteriormente que Jassy levantou preocupações com altos funcionários dos EUA.
Uma porta-voz da Amazon disse que é incomum o governo consultar a empresa sobre riscos de segurança, mas se recusou a compartilhar detalhes sobre tais discussões.
A decisão do governo de restringir fortemente o acesso aos modelos de IA em nome da segurança nacional ameaça abrir um precedente para todos os principais desenvolvedores de modelos de IA, incluindo OpenAI, Google e Meta Platforms Inc., Alphabet Inc.
“Para qualquer um que seja ingênuo e possa esperar que este aviso não seja usado, é um grande alerta”, disse Aidan Gomez, cofundador da Cohere Inc., uma startup de IA apoiada pela Nvidia Corp., em entrevista no sábado. “Ninguém pode mais negar.”
A Antrópica disse que recebeu a ordem do governo às 17h21. Sexta-feira. A orientação do último dia contradiz declarações anteriores, bem como uma ordem executiva recentemente assinada pelo Presidente Trump, que sugeria que o governo não seguiria um regime de licenciamento para análises de modelos.
A diretriz de sexta-feira ameaça exacerbar tensões de longa data entre a Antrópica e alguns membros da administração Trump. No início deste ano, os desenvolvedores de IA entraram em confronto com o Pentágono sobre o uso da tecnologia para fins militares e de vigilância. O governo disse que a explosão poderia representar um risco para as empresas americanas e ordenou que as agências norte-americanas parassem de usar o produto.
A Private Anthropic, que há muito se posiciona como um desenvolvedor de IA mais responsável, lançou pela primeira vez o seu modelo Mythos em abril para um grupo limitado de empresas e instituições, alertando que a sua capacidade de detectar vulnerabilidades de segurança cibernética tornava demasiado arriscado distribuí-lo de forma mais ampla.
Houve sinais de que a liberação limitada está funcionando para aliviar as tensões entre a Antrópico e a administração Trump: Em abril, o governo dos EUA estava se preparando para lançar uma versão do Mythos para uma grande agência federal, informou a Bloomberg anteriormente.
A Mythos também acelerou os esforços políticos de IA da administração Trump, que incluíram uma ordem executiva recente que exigia uma revisão voluntária do modelo. Esta ordem deixou claro que nada nela deveria ser interpretado como estabelecendo um governo que deva ser autorizado.
David Sacks, ex-presidente de IA de Trump e copresidente do Conselho de Consultores de Ciência e Tecnologia, disse que a Anthropic se recusou a consertar o guarda de segurança no modelo Fable.
“A esperança do administrador agora é que o Anthropic resolva os problemas de segurança, os controles de exportação sejam removidos e o Fable retorne ao lançamento geral”, escreveu ele em um post no X. “O administrador quer que tudo isso aconteça rapidamente.
As últimas restrições do governo colidem numa corrida entre os desenvolvedores dos EUA para fornecer os modelos de IA mais avançados e provar aos investidores que a tecnologia pode ser lucrativa. Tanto a OpenAI quanto a Anthropic estão buscando ofertas públicas iniciais já este ano, após o histórico IPO da própria SpaceX.
A pressa para lançar modelos de IA de última geração levou a Anthropic a publicar uma longa postagem no blog no início deste mês, pedindo um sistema no qual governos e desenvolvedores de IA decidam em conjunto quando desacelerar a tecnologia para evitar riscos potenciais.
“É bom para o mundo ter a opção de mostrar ou pausar” o trabalho de IA que pode ser perigoso, disse a empresa em um artigo da época. A IA está avançando ao ponto em que a tecnologia pode realizar tarefas milhares de vezes melhor que os humanos ou até mesmo substituí-las, criando novos riscos, disse a empresa.
A agência da UE disse que está avaliando o anúncio da Antrópico e continua a discutir riscos potenciais e preocupações de segurança cibernética relacionadas ao novo e poderoso modelo de IA. A Comissão Europeia acrescentou que os últimos desenvolvimentos destacam a necessidade da Europa de soberania tecnológica.
“Alguém em campo, não estou muito feliz em ver isso”, disse Gomez, do Cohere. “Não creio que seja uma parceria, não creio que seja a coisa certa para a colaboração tecnológica mais ampla que se desenvolveu nos últimos 80 anos”.
Eastland e Lowenkron escrevem para a Bloomberg. Com a ajuda de Shirin Ghaffary, Yi Wei Wong, Gian Volpicelli, Spencer Soper e Thomas Seal.
