O Antrópico PBC apelou à criação de um sistema onde os governos e os criadores de inteligência possam decidir conjuntamente quando abrandar o trabalho na tecnologia para evitar riscos potenciais.
“É bom para o mundo ter a opção de mostrar ou suspender temporariamente” o trabalho de IA que pode ser perigoso, disse a empresa em uma longa postagem no blog publicada pelo cofundador Jack Clark e pela diretora do Instituto Antrópico, Marina Favaro. A IA está avançando ao ponto em que a tecnologia pode realizar milhares de vezes mais tarefas ou substituí-las, criando novos riscos, dizem.
A Anthropic admite que é difícil conseguir que uma empresa, muito menos um país inteiro que está há anos preso na corrida para desenvolver a sua própria tecnologia, concorde com todas as paragens colectivas. A empresa apelou ao governo e aos oponentes para que estabeleçam o limite.
Em 2023, a startup estabeleceu seus próprios limites e prometeu interromper operações potencialmente perigosas. Mas a empresa voltou atrás nessa promessa no início deste ano, dizendo que não iria parar até ter uma vantagem significativa sobre os concorrentes.
Ao reiterar esse compromisso, a Anthropic disse que o ambiente político mudou para dar prioridade à competição da IA e ao crescimento económico em detrimento da segurança. Na quinta-feira, a empresa disse que se reuniria com políticos e outras empresas de IA no próximo mês para discutir uma melhor coordenação e compartilhar os resultados das discussões.
O protocolo para decidir sobre uma parada conjunta está se tornando mais sofisticado porque a IA pode ser capaz de se aprimorar e construir um sucessor, reduzindo o papel dos humanos, disseram Clark e Favaro. “Esta convergência, na qual a inteligência iterativa pode atender mais rapidamente ao mundo humano, e à gestão, é outra parte deste futuro que não podemos prever”, escreveram.
A postagem do blog comparou a ideia às regras internacionais sobre armas nucleares. Qualquer mecanismo de hiato também precisaria garantir que laboratórios de IA menos obscuros não estivessem trabalhando secretamente para fazer avançar a tecnologia durante o hiato, presumivelmente através de inspeções do mesmo laboratório.
Pesquisadores de IA instaram o governo a suspender temporariamente o trabalho. Em 2023, por exemplo, o Future of Life Institute, sem fins lucrativos, apelou a uma moratória de pelo menos seis meses para implementar a IA, alertando para potenciais consequências negativas. O bilionário Elon Musk assinou junto com mais de 1.000 pesquisadores e executivos. Os críticos da altura argumentaram que travar o desenvolvimento reduziria a inovação e traria benefícios a outros que não parassem de trabalhar.
É um desafio que a própria Anthropic reconheceu num post no blog: “As corridas de treino são mais fáceis de esconder do que os silos de mísseis, a sua inclusão é de propósito geral, e o incentivo para estragar silenciosamente é enorme, porque quem continuar a conter-se pode herdar a liderança”.
A Anthropic continua a lançar modelos e ferramentas avançadas, como seu popular assistente Claude e o novo modelo Mythos, que afirma ser capaz de detectar e explorar falhas de segurança cibernética a uma velocidade impressionante. A empresa também se prepara para uma oferta pública inicial.
Thomson escreve para Bloomberg.
