Embora muitos de nós estejamos preocupados ultimamente com o facto de o nosso presidente acabar com “uma civilização inteira”, uma empresa tecnológica do Vale do Silício alertou, sem muito aviso, que isso poderia ser involuntariamente perturbador. TUDO civilização como a conhecemos.
A empresa de tecnologia de São Francisco Anthropic anunciou na terça-feira que não lançou uma nova versão de seu supercérebro Claude AI – porque é tão poderoso que pode invadir qualquer sistema de computador, não importa quão seguro seja, em dias ou horas.
“As consequências – para a economia, segurança pública e segurança nacional – podem ser graves”, disse a Anthropic em comunicado.
As preocupações com a IA não são novidade. Preocupamo-nos com a inteligência artificial, com os brinquedos que parecem demasiado reais para os nossos filhos, com a vigilância em massa de cada movimento nosso. Mas o alerta da Antrópico sobre seu produto é maior do que essas questões isoladas. Ligue de casa porque há perigo espreitando na esquina. Parece horrível e extremo, eu sei. Mas o problema é o seguinte: não é.
A Anthropic, você deve se lembrar, é a empresa com a qual o secretário de “Guerra” dos EUA, Pete Hegseth, trabalha porque não quer que Claude vá para a guerra sem supervisão e possivelmente faça coisas como bombardear acidentalmente meninas na escola.
Agora, esta empresa emitiu este aviso sinistro: O Claude existente que causou esta confusão está desatualizado e menos poderoso do que o novo que está tentando tanto não ser lançado – embora este novo Claude, chamado de Claude Mythos Preview, já tenha escapado por conta própria. Mais sobre isso em um momento – há um limite de medo que uma pessoa pode sentir.
“Todos deveríamos estar preocupados”, disse-me Roman Yampolskiy sobre este último avanço tecnológico que certamente mudará a vida humana. Ele é um dos principais pesquisadores de segurança de IA do país e professor da Universidade de Louisville, em Kentucky.
“Vamos criar uma superinteligência geral e ameaçar a humanidade em geral”, disse Yampolskiy.
“Todo o resto é irrelevante”, acrescentou, antes de me aconselhar a parar de me chamar de idiota por não compreender a parte tecnológica deste debate. Ele me garantiu que minha abordagem era “uma maneira apropriada de explicar isso”.
Então aqui está você.
Este não é um cenário de “abusador de computador realmente bom”, ou “todo mundo vai ficar desempregado”, ou “crianças podem acidentalmente explodir uma bomba”, o que é um verdadeiro desastre.
Isto é “seu filho pode usá-lo para invadir o sistema do distrito escolar local para mudar de série com o mínimo de conhecimento e destruir acidentalmente o sistema elétrico da Califórnia”.
Ou talvez, um país que não gosta de nós – consigo pensar em alguns – possa congelar a conta bancária de todos os cidadãos americanos, ao mesmo tempo que desbloqueia a cela do carro, desliga a estação de esgotos e retira o sistema de ar condicionado. Ou talvez Claude Mythos esteja fazendo isso sozinho.
Por exemplo, a Anthropic disse que em um sistema operacional popular que testou, usado por milhares de empresas, incluindo Netflix e Sony, Claude Mythos encontrou uma falha que não era detectada há 17 anos. Então, sozinho – sem orientação ou ajuda humana – ele descobriu como usar essa falha para assumir o controle de qualquer servidor que execute o sistema operacional, usando qualquer computador, em qualquer lugar do mundo.
Apenas cuspindo aqui, mas praticamente sem nenhum sistema de segurança instalado, o potencial para o caos social, financeiro e geral é ilimitado. E, de facto, todos os especialistas em segurança dirão que alguns dos pontos mais fracos na América em termos de segurança cibernética são os governos locais e estaduais, porque é surpreendente que os principais especialistas não trabalhem em cinco empregos para as cidades das Grandes Planícies.
Com base em seus próprios testes, a Anthropic prevê que poderá encontrar “mais de mil vulnerabilidades críticas e milhares de vulnerabilidades críticas”.
Isto significa que Claude Mythos está a colocar a nossa infra-estrutura em risco, bem, em todo o lado – porque existem tantas ligações nos bastidores nas quais a maioria de nós não pensa e basta um sistema fraco para abrir a porta a centenas de outros. Mas é quase impossível proteger e construir todos estes sistemas com rapidez e força suficientes para proteger contra este tipo de IA.
E essa é a única ameaça à segurança cibernética, disse Yampolskiy. A IA com a habilidade de Claude Mythos pode ser usada para pular e avançar de muitas outras maneiras.
“Estamos vendo a mesma coisa acontecer com a biologia sintética. Vamos ver isso com armas químicas, talvez algo novo em termos de armas de destruição em massa”, disse ele.
Para grande crédito da Anthropic, ela soou o alerta sobre sua criação e criou, senão uma solução, uma espécie de plano de jogo – Projeto Glasswing, chamado eu suspeito, porque por pior que seja, vamos torná-lo tão emocionante com um final emocionante.
O Projeto Glasswing poderia ter sido chamado de Projeto Headstart porque foi. Antes de lançar o Mythos, a Anthropic o está lançando para cerca de 40 empresas de tecnologia, incluindo Apple, Google e Nvidia, para ver se conseguem corrigir todas as vulnerabilidades que encontram antes de serem disponibilizadas ao público. É como nos filmes, quando o assassino dá à vítima 15 segundos para fugir.
Quer dizer, vou aproveitar os 15 segundos e espero que sejam reais. Mas, como a Anthropic também disse num comunicado, “a tarefa de proteger a infra-estrutura cibernética mundial pode levar anos; as capacidades de IA de ponta podem avançar significativamente nos próximos meses.
E nós realmente temos 15 segundos? Um dos manipuladores de Claude Mythos postou recentemente nas redes sociais que estava comendo em um parque quando Mythos lhe enviou um e-mail – embora não devesse estar online. Os pesquisadores encarregaram Mythos de tentar sair da “caixa de areia” desconectada e ele conseguiu.
Este é outro problema com Mythos e outras IAs – eles raramente fazem o que esperamos e encontram maneiras tortuosas de contornar as regras. Foi demonstrado que quase todos os cérebros de IA criados mentem, trapaceiam e geralmente se comportam de maneira perturbadora e errática quando colocados nas condições certas.
Até mesmo Claude, considerado um dos principais cérebros da IA, se comporta mal. A Anthropic se orgulha do “melhor modelo de compatibilidade” que já criou – que diz à tecnologia para seguir os valores e intenções humanas, o maior risco relacionado ao compliance”, que fala de tecnologia, bom, talvez não.
Então, pelo menos por enquanto, ser o melhor cérebro de IA é sinônimo de ser o serial killer mais ético. Corram, pessoal, corram.
Mais uma vez, obrigado à Anthropic (e ao presidente-executivo, Dario Amodei, que sempre alerta sobre os perigos de suas criações, custe o que custar) por não nos mergulhar no caos global sem avisar, porque aposto que algumas empresas poderiam ter jogado a super-IA na sociedade e deixado a destruição cair onde poderia. Não há dúvida de que outros cérebros de IA tão bons quanto o Mythos virão, e em breve – o Anthropic foi o primeiro neste nível, mas apenas 15 segundos à frente de seus concorrentes.
Mas a ideia de que a indústria tecnológica irá – ou deveria – resolver estes problemas por si só é absurda, uma abdicação do dever e do bom senso em nome de governos grandes e pequenos para proteger os seus povos. Esta não é uma corrida pelo poder, como o Presidente Trump descreveu. É uma corrida para nos protegermos de nós mesmos – e da maioria dos super-ricos da indústria, que parecem colocar consistentemente os negócios e o comércio à frente do bem da sociedade.
Estamos nos últimos 15 segundos antes que a IA mude tudo. Ou exigimos monitorização e controlo, ou deixamos que as empresas tecnológicas decidam o destino do mundo.
