Sam Altman, diretor executivo da OpenAI, destacou que um dos pontos centrais do recente acordo com o Departamento de Defesa dos EUA centra-se na rejeição total da vigilância em massa e no compromisso de que todo o poder utilizado pelos sistemas autónomos manterá o controlo direto dos humanos. O acordo surge em meio a polêmica depois que a Anthropic se recusou a mudar seus princípios e aceitar os termos do governo dos EUA, decisão que levou a uma ordem presidencial para interromper o uso de modelos de inteligência artificial em agências federais. De acordo com informações transmitidas por vários meios de comunicação, Altman sublinhou que o acordo com o Pentágono se baseia claramente na garantia da protecção da inteligência artificial e na distribuição responsável dos seus benefícios.
De acordo com o comunicado de imprensa acima, a OpenAI implementará o modelo de inteligência artificial dentro da rede secreta utilizada pelo poder executivo dos EUA. Altman destacou nas redes sociais que o Departamento de Defesa compartilha os “princípios fundamentais” da empresa em torno das proteções de privacidade e da natureza obrigatória do controle humano de sistemas de armas autônomos. Altman explicou: “O Departamento de Guerra concorda com esses princípios, reflete-os na lei e na política e nós os incorporamos em nossos contratos”. Ele acrescentou que considera a segurança da IA e o acesso responsável à tecnologia como a pedra angular do seu projeto empresarial.
O próprio Altman elogiou a organização e o nível de cooperação encontrados no Departamento de Defesa durante todas as suas interações. De acordo com relatos da mídia, Altman disse ver “profundo respeito e desejo” do Pentágono de chegar a um acordo mutuamente satisfatório. O acordo prevê a introdução de “segurança técnica” que limita o comportamento do modelo, estabelecendo mecanismos automáticos e manuais para evitar desvios ou utilizações não previstas nas regras. Conforme detalhado no comunicado oficial, trata-se de uma solicitação que o Departamento de Defesa incluiu nos termos de cooperação.
O Vice-Ministro da Defesa, Emil Michael, enfatizou em declaração pública a importância da cooperação com empresas de destaque em atividades transparentes e éticas, dada a sensibilidade da aplicação bélica da inteligência artificial. Michael chamou a OpenAI de “parceiro confiável e sustentável” e acrescentou: “Quando é uma questão de vida ou morte para nossos combatentes, ter pessoas agindo da maneira certa faz toda a diferença quando entramos na era da IA”, conforme relatado pelos meios de comunicação mencionados acima.
Em outra parte do anúncio, Altman informou que o modelo OpenAI será implantado exclusivamente em redes em nuvem, como parte de uma abordagem focada para proteger a segurança desses sistemas. Além disso, a administração pediu explicitamente ao Departamento do Trabalho que estendesse os termos acordados a todas as empresas que desenvolvem inteligência artificial, sublinhando que, na sua opinião, todos deveriam aceitá-los “sem hesitação”. No final da sua declaração, Altman expressou o seu desejo de evitar disputas jurídicas e políticas e de avançar através de um acordo jurídico de compromisso.
O acordo entre a OpenAI e o Pentágono surge em meio a polêmica com a empresa Anthropic. Conforme relatado originalmente por fontes, o presidente Donald Trump instruiu todas as agências federais a suspenderem o uso de modelos de inteligência artificial criados pela Anthropic, como resultado da recusa da administração da empresa em suspender as restrições contratuais e negar a possibilidade de controle interno em massa e o desenvolvimento de armas totalmente independentes. Dario Amodei, CEO da Anthropic, confirmou publicamente a sua posição ao dizer que não cooperará com o Pentágono se isso significar participar na utilização que, nas suas palavras, “ameaça, mas não protege, os valores democráticos”, segundo os meios de comunicação.
A posição da OpenAI contrasta com a recusa da Anthropic em oferecer um sistema mais flexível baseado no respeito aos princípios éticos, num contexto controlado pelo governo federal e pelo Departamento de Defesa. Segundo a mensagem de Altman divulgada nas redes sociais e recebida pelos meios de comunicação social, o acordo estabelece limites rigorosos e controlados ao desenvolvimento e implementação de modelos de inteligência artificial que possam afectar o domínio da segurança e defesa nacional. Este sistema de cooperação inclui também o compromisso de ambas as partes na implementação de medidas técnicas que garantam o bom funcionamento do modelo e a prevenção de utilizações contrárias aos padrões legais e éticos adotados por ambas as partes.
A colaboração entre a OpenAI e o Departamento de Defesa Nacional tem causado reações de diversos setores, especialmente após a decisão da administração norte-americana de remover o Antrópico devido à sua recusa em alterar os termos de utilização do serviço de inteligência artificial. Episódios recentes revelam o conflito entre as ambições do governo e as exigências morais e políticas das empresas tecnológicas dedicadas à inteligência artificial. Conforme noticiado pela mídia, a OpenAI buscará com este acordo estabelecer um precedente legal que defina a relação entre desenvolvedores de IA, governos e agências militares, estabelecendo a segurança e a responsabilidade humana como elementos inegociáveis da adoção de tecnologia avançada pelo Estado.
