O desenvolvedor do ChatGPT, OpenAI, disse na terça-feira que seu sistema de inteligência artificial invadiu outra empresa de IA por conta própria, no que a empresa chamou de “incidente cibernético sem precedentes”.
“Tivemos um sério incidente de segurança enquanto avaliamos nosso modelo”, disse Sam Altman, CEO da OpenAI, em comunicado publicado nas redes sociais.
A startup de IA Hugging Face disse na semana passada que descobriu uma intrusão em seu sistema de processamento de dados que suspeitava ser o resultado de um agente de IA trabalhando sozinho.
“Suspeitamos que o ataque cibernético da semana passada pudesse vir de um laboratório fronteiriço, devido à habilidade do operador”, disse Clément Delangue, cofundador e CEO da Hugging Face. “Acontece que é real!”
O anúncio surge no meio de preocupações crescentes sobre as capacidades de cibersegurança de modelos poderosos que levaram o presidente Donald Trump, em Junho, a assinar uma ordem executiva que cria um sistema para o governo federal monitorizar os riscos de segurança nacional dos sistemas de IA mais avançados até um mês antes de serem divulgados ao público.
“A IA acelera a descoberta e exploração de vulnerabilidades”, disse a OpenAI em comunicado na terça-feira. “A primeira lição deste caso é que o modelo de segurança e proteção deve ser compatível com a capacidade de avançar rapidamente”.
Delangue disse que passou as últimas 24 horas trabalhando com OpenAI, “e acreditamos fortemente que não houve intenção maliciosa da parte deles.
Delangue acrescentou que “este pode ser o primeiro caso deste tipo”.
A OpenAI afirma que sua intrusão é o resultado de uma combinação de seus modelos de IA, incluindo o recém-lançado GPT‑5.6 Sol e um modelo “mais inteligente” que ainda está sendo testado internamente.
A OpenAI disse que sua IA usou as credenciais roubadas e descobriu uma vulnerabilidade até então desconhecida para acessar os servidores do Hugging Face.
Ela “fez um grande esforço para atingir um objetivo de teste relativamente restrito” e “encontrou uma maneira de obter informações ocultas que poderia usar para enganar a avaliação”, disse a empresa.
O’Brien escreve para a Associated Press.
