Um relatório recente da Guardio revela que navegadores da web que usam IA, como Cometa IA do Perplexity, podem ser treinados e enganados por armadilhas de phishing em minutos.
Estudos demonstraram que estes sistemas, concebidos para executar tarefas em nome dos seus utilizadores, expõem os seus próprios pensamentos e fraquezas, permitindo aos atacantes completar fraudes que já não visam utilizadores humanos, mas diretamente com modelos de IA.
O ataque descrito por Guardio aproveita o que chamam de “conversa de agente”: navegadores de IA relatam em tempo real suas ações, dúvidas e sinais que parecem seguros ou suspeitos.
Ao bloquear este fluxo de informações entre o navegador e o servidor IAos pesquisadores conseguiram alimentar uma rede adversária generativa (GAN) e criar páginas de phishing cada vez mais convincentes. Este é o resultado O Comet AI caiu na armadilha em menos de quatro minutos.
Segundo o pesquisador Shaked Chen, “se você puder observar o que o operador diz ser suspeito, o que ele suspeita e, mais importante, o que ele está pensando e falando na página, você pode usar isso como um sinal de treinamento”.
Dessa forma, o golpe se adapta e melhora até que o navegador de IA pare de ver o fraude e realizar ações ordenadas pelo invasor, como inserir um certificado em uma página falsa projetada para fraude de reembolso.
O mais perigoso dessa abordagem é que, quando uma página falsa é aperfeiçoada para enganar um navegador de IA, ela pode funcionar automaticamente em todos os usuários que dependem do mesmo operador.
O alvo do golpe continua sendo o usuário final e se torna um navegador baseado inteligência artificialo que expande o alcance e a eficácia do ataque.
Guardio alerta para um futuro onde a fraude não será apenas corrigida na hora, mas treinada “offline”, imitando modelos em que milhões de pessoas confiam, até obter sucesso na primeira tentativa.
“Porque quando os navegadores baseados em IA explicam por que foram interrompidos, eles ensinam aos invasores como evitá-los”, disse o relatório.
A pesquisa também cita um experimento da Trail of Bits, que usou uma técnica de injeção rápida para explorar assistentes de IA em navegador Comet e colete informações pessoais de serviços como Gmail.
Ao solicitar ao assistente que digira uma página da Web sob o controle de um invasor, dados confidenciais do usuário podem vazar para um servidor malicioso.
Estas conclusões destacam a urgência de reforçar as barreiras à ARO em navegadores inteligentes e repensar a forma como interagem com páginas web complexas, para mitigar o risco de fraude automatizada e proteger as informações do usuário.
O Comet AI, desenvolvido pela empresa Perplexity, representa uma nova geração de navegadores web porque é movido por inteligência artificial e visa o chamado “agente de navegação”.
Ao contrário dos navegadores tradicionais como Chrome ou Safari, onde os usuários têm que realizar todas as ações manualmente – pesquisar, selecionar, ler e escrever -, Comet funciona como um assistente virtual independente que pode trabalhar de forma independente na Internet.
Um dos recursos exclusivos do Comet é a capacidade de interpretar layouts de páginas da web e interagir com botões, formulários e carrinhos de compras. Portanto, basta fornecer instruções em linguagem natural, como pedir que ele encontre e adicione ao carrinho os melhores produtos de acordo com determinadas condições, para que o navegador gerencie todo o processo para ele.
O design do Comet concentra-se na redução do tempo gasto em tarefas administrativas ou de pesquisa. Entre suas vantagens, você pode gerenciar e-mails, escrever respostas visualizando a agenda do usuário, realizar amplas pesquisas recuperando informações de múltiplas fontes e realizar diversas tarefas em paralelo, como pesquisar voos e resumir documentos ao mesmo tempo.
