A OpenAI fez parceria com duas empresas de tecnologia de defesa selecionadas pelo Pentágono para competir no desenvolvimento de software de controle de drones para militares, de acordo com várias pessoas familiarizadas com o assunto.
A tecnologia OpenAI será usada para traduzir comandos de voz de comandantes de combate em instruções digitais para drones, segundo duas pessoas. Não será usado para operar o comboio, introduzir armas ou atingir autoridades, disseram as duas pessoas. Todas as pessoas pediram anonimato para discutir assuntos delicados que não são públicos.
O esforço faz parte de um desafio de 100 milhões de dólares do Pentágono anunciado em Janeiro, que se destina a entregar protótipos de tecnologia que possam comandar uma frota capaz de tomar decisões e executar missões sem intervenção humana. A competição progredirá gradualmente ao longo de seis meses, dependendo do sucesso e do interesse dos participantes, disseram as pessoas.
O logotipo da OpenAI aparece em pelo menos duas das inscrições bem-sucedidas da competição, segundo alguns. A participação da OpenAI não foi informada anteriormente e as empresas selecionadas não foram nomeadas publicamente.
O Comando de Operações Especiais, que dirige o Grupo de Guerra de Defesa, ou DAWG, não quis comentar. O Grupo de Reforma da Defesa não respondeu a um pedido de comentário. DAWG e DIU fizeram parceria no desafio da tecnologia de enxame de drones.
A empresa ainda não decidiu até onde irá ou reforçará os seus contratos com as empresas de segurança envolvidas, segundo algumas fontes. É fornecida apenas a versão open source do OpenAI, e não o modelo mais avançado da empresa, segundo uma das pessoas, que acrescentou que a empresa também poderá fornecer suporte de instalação.
A OpenAI não apresentou a sua própria candidatura ao prémio e a sua participação no desafio será puramente aleatória, disse o seu porta-voz. Dois parceiros da OpenAI optaram por incluir o modelo de código aberto da empresa em suas propostas, disse uma porta-voz. Se um dos parceiros for selecionado, a OpenAI garantirá que suas ferramentas sejam utilizadas de acordo com nossa política de uso, disse o porta-voz.
Outras empresas de IA apresentaram diretamente suas próprias propostas para participar da competição de enxames de drones, disse um porta-voz.
Uma das submissões bem-sucedidas envolvendo OpenAI foi liderada pela Applied Intuition Inc., uma contratada de segurança e parceira estratégica da OpenAI, e duas outras empresas também foram registradas: Sierra Nevada Corporation e Noda AI, de acordo com um documento de 25 de janeiro revisado pela Bloomberg.
A Intuição Aplicada fornecerá a interface do enxame e alguns comandos digitais, a Sierra Nevada Corporation fornecerá a entrada e a Noda AI, apoiada por capital de risco, fornecerá a chamada “orquestra” de software que controla o drone, de acordo com o documento.
A OpenAI fornecerá comando e controle para “Controle de Missão”, conforme ilustrado no documento, que mostra o software OpenAI em uma seção intitulada “Orquestrador”, entre operadores humanos e máquinas.
Applied Intuition, SNC e Noda AI não responderam imediatamente aos pedidos de comentários.
O envolvimento da empresa no desafio do enxame de drones sinaliza que a operação de defesa foi projetada para expandir o uso militar de seu equipamento atual.
Esta semana, o Pentágono anunciou uma parceria com a OpenAI que fornecerá ChatGPT a 3 milhões de funcionários do Departamento de Defesa. O presidente-executivo, Sam Altman, minimizou no ano passado a perspectiva de o Pentágono ajudar a desenvolver uma plataforma de armas habilitada para IA.
“Não creio que a maior parte do mundo queira que a IA tome decisões sobre armas”, disse ele em Abril, numa conferência dedicada aos conflitos modernos, acrescentando que não esperava que as empresas o fizessem “num futuro próximo”.
Mas ele ainda deixou Altman em aberto. “Nunca direi, porque o mundo pode ser estranho”, disse ele.
Embora já seja possível pilotar vários drones ao mesmo tempo, desenvolver o software para gerenciar vários drones no mar e no espaço como um enxame – capaz de se mover de forma independente em busca de um alvo – continua a ser um desafio.
Os selecionados para a competição do Pentágono devem demonstrar que a sua tecnologia pode traduzir as ordens dos comandantes combatentes em ação, permitindo que os drones realizem operações em massa durante o combate.
Um oficial de defesa citado no comunicado explicou que o esforço visava fins ofensivos, dizendo que as interações homem-máquina “afetarão diretamente a letalidade e a eficácia desses sistemas”.
A ordem poderia incluir instruções como “Mova todas as cápsulas de USV 5 quilómetros para leste”, de acordo com um exemplo fornecido pelo Pentágono, referindo-se a embarcações não tripuladas.
A perspectiva de integração de chatbots e comandos de voz para texto nas forças armadas alarmou até alguns responsáveis da defesa, apesar da vontade do Pentágono de acelerar a adopção da IA e da autonomia, segundo várias pessoas. Eles dizem que é importante limitar a IA generativa à interpretação e não permitir que ela controle o comportamento dos drones.
Muitas pessoas familiarizadas com o assunto expressaram preocupação com os perigos do uso de IA generativa para traduzir voz em decisões de carreira sem ninguém por dentro.
A mudança ocorre no momento em que trabalhadores de grandes laboratórios abandonam o trabalho após levantarem outras preocupações éticas sobre a indústria de IA, ao mesmo tempo em que grandes empresas de IA pressionam por receitas para apoiar a pesquisa e o desenvolvimento em andamento. Eles incluem um pesquisador da OpenAI que disse estar preocupado com os anúncios no ChatGPT, e um pesquisador da Anthropic que renunciou publicamente, levantando mais preocupações sobre o desenvolvimento da IA.
Os principais modelos de linguagem, que suportam chatbots como o ChatGPT da OpenAI, são propensos a preconceitos e às chamadas alucinações – o que significa que podem produzir resultados que não aderem à realidade, mas que podem ser demonstrados pela IA como fiáveis.
A nova Estratégia de Aceleração de IA do Pentágono, lançada em Janeiro, procura “libertar” agentes de IA para a guerra, desde o planeamento de campanhas militares até ao direccionamento de ataques potencialmente letais.
Os contratos de defesa têm sido historicamente controversos em empresas de tecnologia de consumo, incluindo grandes protestos no Google em 2018 sobre um esforço do Pentágono chamado Project Maven, que planeava usar IA para analisar imagens de drones.
Recentemente, a indústria de IA tem mostrado mais abertura a tais negócios. A OpenAI mudou sua política de segurança nacional em 2024 e depois anunciou uma parceria estratégica com a empresa de tecnologia de defesa Anduril Industries Inc. Na época, um porta-voz da OpenAI disse que a parceria da empresa com a Anduril visava especificamente o uso de sua tecnologia na defesa de drones não tripulados.
A explicação do Pentágono sobre a sua competição de drones controlados por voz indica vários estágios competitivos nos quais as empresas participarão se tiverem sucesso nos testes anteriores.
A primeira fase se concentrará apenas no desenvolvimento de software, antes de utilizar posteriormente uma plataforma ativa. O software foi projetado para coordenar operações de drones em vários domínios, como aéreo e marítimo, de acordo com a descrição do trabalho do Pentágono. A fase posterior requer o desenvolvimento da “consciência e partilha do objetivo” e, finalmente, do “início ao fim”.
Manson escreveu para Bloomberg.
