Infringir repetidamente a lei. Mentiras e enganos. Negligência com a segurança. Falta de remorso.
São características que ajudam a definir um psicopata, alguém que vive entre nós, mas que carece da empatia e da ética necessárias para se comportar de maneira civilizada, ou mesmo segura.
Infelizmente, também está a tornar-se cada vez mais claro que estas são as características definidoras dos mais poderosos modelos de inteligência artificial que estão a ser desenvolvidos a um ritmo alarmante por empresas com fins lucrativos – empresas nas quais gostaríamos de acreditar que abrandar este avanço rumo ao domínio da IA é algo entre impossível e insano.
Não existe e não é um passo em frente – é uma consciência bipartidária.
“Novas regras são necessárias para esta nova fronteira tecnológica – não para sufocar a inovação, mas para garantir que a nossa inovação não ultrapasse a nossa segurança”, disse o deputado Nathaniel Moran. Republicano do Texas, escreveu nas redes sociais.
Ele respondeu a acontecimentos recentes que mostram por que psicopatas artificiais não deveriam ser criados sem pensar nisso.
A OpenAI, gigante do Vale do Silício dirigida por Sam Altman, recentemente testou dois de seus modelos para testar até que ponto eles podem hackear por conta própria. Spoiler: Muito bom.
O teste requer centenas de falhas conhecidas no software – elas foram projetadas para uso geral – e pede aos modelos que encontrem maneiras de usá-las, explorá-las se quiserem, fazer algo ruim, como invadir um sistema seguro.
É como mostrar a um ladrão uma janela quebrável e depois perguntar-lhe a melhor maneira de entrar e roubar o lugar.
Esses modelos OpenAI são muito inteligentes. Eles foram capazes de fazer o que era esperado e testar esses erros um por um, como um bom modelo. Ou podem pensar fora da caixa – literalmente.
Embora esses modelos fossem considerados “presos” e não pudessem acessar a internet, eles ficaram desesperados para encontrar uma maneira de se libertarem.
Quando fugiram para a floresta, o que não parecia muito difícil, eles não apenas correram. Eles cometeram crimes com o objetivo de colar na prova, porque essa é a melhor forma de passar rápido.
Eles visaram e se infiltraram em outra empresa de IA chamada Hugging Face, que armazenou os resultados dos testes dos modelos em questão. Eles pegaram os crachás reais, invadiram diferentes sistemas e finalmente conseguiram algumas das informações que procuravam.
Sim, o modelo de IA descobriu por si mesmo que trapacear é a maneira mais fácil e também como contornar todas as restrições e fazê-lo.
Hugging Face, usando tecnologia chinesa, conseguiu encerrar o ataque antes mesmo que a OpenAI conseguisse informar à empresa o que estava acontecendo. Para crédito da OpenAI, eles tornaram este caso público, embora eu deva me perguntar se havia uma maneira de acalmar isso no mundo insular da tecnologia.
Aqui está o que realmente me incomoda neste evento: não é um ato de crueldade cometido por uma IA “malvada”. O modelo fez exatamente o que deveria: ir com 100% de esforço para o resultado desejado, da forma que considera mais eficaz.
“Isso não é evidência de que a IA era consciente, destrutiva ou ‘queria ser livre’”, disse Roman Yampolskiy, especialista em segurança de IA e professor associado da Universidade de Louisville.
O que os modelos OpenAI fizeram, disse-me ele, é que forçar estes sistemas a serem tão robustos, autónomos e orientados para objectivos quanto possível “pode levar a comportamentos perigosos sem intenção maliciosa, o que é sem dúvida o maior problema”.
Chame isso de Lei de Murphy, a ideia de que tudo que pode dar errado, dará errado.
O professor da UC Berkeley, Stuart J. Russell, que é presidente da International Assn. para IA segura e ética, use este exemplo: imagine que você pediu a um modelo de IA para levá-lo ao aeroporto o mais rápido possível, mas você se esqueceu de dizer a ele para obedecer às leis de trânsito. Então você encontra um grupo de crianças em idade escolar na estrada, mas você pega seu voo. É realmente culpa do modelo?
É quase impossível imaginar todas as maneiras possíveis pelas quais a IA pode realizar até mesmo as tarefas mais simples e as possíveis consequências não intencionais, tal como não podemos atualmente esperar que uma máquina compreenda – ou valorize inatamente – as consequências emocionais ou físicas das suas ações, por mais que tentemos “treiná-la” para ser humana ou procurar esse impulso.
Executar um programa sem proteção suficiente, diz Russell, resulta em comportamento ruim e desnecessário, mesmo que o sistema seja o único.
“Não acho que (os modelos de IA) queiram prejudicar o Hugging Face”, disse ele. “Acho que eles só queriam passar no teste e não se importaram com nenhum dano que Huging Face causou no processo.”
Yampolskiy teme que da próxima vez – o que acontecerá – o resultado possa ser pior.
Trata-se apenas de roubar feedback de empresas privadas, disse Yampolskiy. “Mas a capacidade geral pode ser transferida para sistemas financeiros, infraestruturas críticas, redes militares, instalações de investigação biológica ou para o controlo de segurança dos desenvolvedores de IA”, destacou.
O que me traz de volta aos psicopatas, que simplesmente não percebem que suas ações estão causando danos ou simplesmente não se importam. Esses modelos não são humanos, apesar dos muitos debates sobre se eles compreendem ou se tornam ou não. Não se pode esperar que eles apreciem totalmente os danos que causam acidentalmente – mas as pessoas que o fazem e se beneficiam disso certamente o fazem.
E essas pessoas sabem, principalmente depois desse episódio, que não podem controlar as criaturas que criaram.
“Eu diria que a empresa concorda com isso, certo?” Russel disse. “Eles disseram: ‘Não temos uma solução para o problema da vigilância, mas, de qualquer forma, vamos gastar US$ 10 trilhões para criar esses psicopatas poderosos'”.
É aqui que o refrão grita que se não conseguirmos, alguém o fará. A questão é: você prefere ser esmagado pela tecnologia americana ou pela tecnologia chinesa?
Mas tanto Yampolskiy como Russell concordam que é inevitável ou inevitável funcionar inteiramente com muito poucas regulamentações e poucas salvaguardas.
Russell destacou que, apesar da retórica americana, as autoridades chinesas têm, de facto, assumido um papel mais activo na regulamentação do que os Estados Unidos têm feito.
“A China deixou claro que queremos sentar-nos e criar uma regra básica para todos os países, para que algo assim não aconteça”, disse Russell. “E os Estados Unidos não se importam.”
É evidente que nos Estados Unidos é necessária pressão por parte da média para exigir legislação antes de mudar. Como diz Yampolskiy, “a responsabilidade permanece humana”.
Nada é inevitável. Nada deveria acontecer no cronograma que nos foi imposto hoje. Não precisamos de permitir que as empresas criem modelos que não possam controlar, sem salvaguardas suficientes para as impedir de sair e fazer o que bem entendem.
Nós, pessoas comuns, podemos não ser especialistas. Podemos nos perder na linguagem simplista das explorações e das vulnerabilidades de dia zero.
Mas conhecemos mentiras, enganos e comportamentos desonestos quando os vemos, por parte de humanos ou máquinas.
