A Anthropic divulgou acidentalmente o código-fonte interno por trás de seu popular assistente de inteligência artificial, Claude, levantando questões sobre a segurança dos desenvolvedores de modelos de IA que construíram sua marca priorizando a segurança.
“Antes de hoje, os lançamentos do Claude Code incluíam código-fonte interno. Nenhum dado ou credencial sensível do cliente foi incluído ou exposto”, disse a Anthropic em um comunicado enviado por e-mail na última terça-feira. “Este é um problema de pacote de lançamento causado por erro humano, não uma violação de segurança.”
O lançamento acidental marca a segunda violação de segurança da Anthropic em poucos dias, que compromete cerca de 1.900 arquivos e 512.000 linhas de código relacionadas ao Claude Code – uma ferramenta de programação que roda diretamente dentro do ambiente do desenvolvedor. Na semana passada, a Fortune informou com exclusividade que a Anthropic está armazenando milhares de arquivos internos em sistemas acessíveis ao público, incluindo uma postagem no blog que detalha modelos futuros conhecidos como “Mythos” e “Capybara”.
Não poderia vir em pior momento para a Anthropic, que o governo dos EUA declarou uma ameaça ao fornecimento no início deste ano e está lutando contra a designação na Justiça. As empresas alertaram que a marca pode custar-lhes milhares de milhões de dólares em receitas perdidas.
A última divulgação acidental envolvendo o Código Claude apareceu pela primeira vez em uma postagem na plataforma de mídia social X que pretendia compartilhar um link para o código e recebeu mais de 30 milhões de visualizações. O vazamento afetou milhares de artigos na Internet de pessoas que afirmaram ter verificado o código. Alguns alegaram ter descoberto recursos ainda a serem lançados, bem como peculiaridades no sistema Claude Code existente.
Vários especialistas expressaram preocupação com possíveis vulnerabilidades de segurança. “Os invasores agora podem estudar cuidadosamente e ofuscar o fluxo de dados através dos quatro canais de controle de contexto e cargas úteis do Claude Code projetados para sobreviver à criptografia e persistir através de backdoors por longas sessões sem sentido”, disse a empresa de segurança cibernética de IA Straiker em um blog.
Por sua vez, a Anthropic disse que está “tomando medidas para evitar que isso aconteça novamente”.
Em fevereiro, a Anthropic levantou US$ 30 bilhões em uma enorme rodada de financiamento que avaliou a empresa em US$ 380 bilhões, incluindo dinheiro, mais que o dobro de sua avaliação anterior. A empresa surgiu no mesmo mês devido ao lançamento de uma série de produtos que enviaram segmentos de vários departamentos, incluindo empresas de serviços jurídicos e empresas de segurança cibernética, que caíram devido ao medo de uma disrupção generalizada.
Ghaffary e Anderson escreveram para a Bloomberg.
