Pode vir à sua mente que estamos inundados com inovações tecnológicas. Carros autônomos, robôs semelhantes a humanos e chatbots de IA têm sido vítimas de previsões e, às vezes, excessivamente promissores.
Portanto, deveríamos estar gratos a Rodney Brooks, um tecnólogo australiano que assumiu como missão da sua vida desmascarar a hipérbole sobre estas e outras tecnologias supostamente revolucionárias, promovidas por promotores, profissionais de marketing e verdadeiros crentes.
Como já escrevi antes, Brooks não se parece em nada com um ludita. Pelo contrário: ele foi cofundador da IRobot, fabricante do aspirador robótico Roomba, embora tenha deixado o cargo de diretor de tecnologia da empresa em 2008 e deixado o conselho em 2011. Ele foi cofundador e diretor de tecnologia da RobustAI, que fabrica robôs para fábricas e armazéns de tecnologia em Massachusetts, e foi anteriormente diretor de ciência da computação.
É fácil ter uma opinião. É difícil transformá-los em realidade. É mais difícil convertê-los para serem colocados em uma balança.
—Rodney Brooks
Em 2018, Brooks publicou um artigo sobre suas previsões sobre as principais tendências tecnológicas e prometeu revisá-las todos os anos durante 32 anos, após completar 95 anos.
“É fácil ter uma opinião”, escreveu ele naquele ensaio introdutório. “É difícil transformá-los em realidade. É ainda mais difícil transformá-los em escala.”
Brooks classificou suas previsões em três categorias: NIML, para “não durante minha vida”, NET, para “não antes” de uma determinada data e “em alguma data (especificada)”.
Em 1º de janeiro, ele divulgou seu oitavo cartão de previsão do ano. Ele descobriu que ao longo dos anos “minhas previsões têm sido bastante precisas, embora eu geralmente fosse um pouco otimista demais”.
Por exemplo, em 2018 previu que “um robô capaz de prestar assistência física aos idosos em muitas tarefas (por exemplo, entrar e sair da cama, lavar-se, usar a casa de banho, etc.)” não aparecerá antes de 2028; no Ano Novo, escreveu ele, “não há nenhuma resolução de propósito geral à vista”.
A primeira colônia humana “permanente” em Marte chegará antes de 2036, escreveu ele na época, o que agora chama de “muito otimista”. Ele agora prevê humanos vivendo em Marte não antes de 2040, e habitação humana não antes de 2050.
Um robô que parece “inteligente, observador e fiel, como um cachorro” – não antes de 2048, disse ele em 2018. “É muito mais difícil do que a maioria das pessoas pensa”, escreve ele agora. “Muitos pensam que estamos lá; eu digo que não estamos lá.” Seu veredicto sobre um robô que tem “uma ideia verdadeira de sua própria existência, ou da existência humana da maneira como uma criança de 6 anos entende os humanos” – “Não durante minha vida”.
Brooks observa que uma das maneiras pelas quais os promotores de alta tecnologia respaldam suas promessas extravagantes é por meio de inovações sutis. Foi o que aconteceu com o “carro autônomo”, escreveu ele. Originalmente, o termo referia-se a “qualquer tipo de veículo que possa circular sem motorista a bordo e sem motorista remoto fornecendo controle… que ninguém precisa dirigir, mas apenas transmite ao veículo o que ele deveria dirigir.”
A Waymo, maior fornecedora de transporte autônomo, afirma em seu site que seus robotáxis são “uma forma de tecnologia totalmente autônoma que está sempre sob controle, desde a coleta até o destino”. “Os passageiros podem sentar-se no banco de trás, relaxar e aproveitar o passeio com o Waymo Driver, levando-os com segurança ao seu destino.”
Brooks contesta esta afirmação. Um buraco na autonomia total, observa ele, ficou claro em 20 de dezembro, quando um blecaute cobriu São Francisco, tirando das ruas a maior parte da frota de robotáxis da Waymo. Waymos, que pode ler semáforos, fecha cruzamentos porque os semáforos estão escuros.
A empresa admitiu mais tarde que seus carros “exigem validação” das pessoas quando encontram sinais de trânsito pretos ou outras situações confusas. A interrupção de 20 de dezembro, disse Waymo, “causou um aumento concentrado nessas solicitações”, causando “backups que, em alguns casos, levaram a atrasos na resposta que criaram congestionamento em ruas já congestionadas”.
Também se sabe que Waymo paga pessoas para lidar fisicamente com carros que não se movem – por exemplo – a falha de um passageiro em fechar totalmente a porta do carro ao sair. Eles podem ser chamados por meio do aplicativo de terceiros Honk, que os operadores de guinchos usam para encontrar clientes retidos.
“Waymos precisa de muita ajuda humana agora para operar da maneira que funciona, desde pessoas em centros de operações remotos para intervir e fornecer aconselhamento humano quando as coisas dão errado, até trabalhadores de Honk viajando pela cidade”, observou Brooks.
Waymo me disse que sua reivindicação de operação “totalmente autônoma” se baseia no fato de que sua tecnologia de bordo está sempre no controle de seus veículos. Em situações confusas, o carro ligará para a equipe humana de “resposta da aeronave” da Waymo, pedindo-lhes que escolham a melhor rota possível. “O controle do carro vem com o Waymo Driver” – isto é, a tecnologia de bordo, disse-me o porta-voz Mark Lewis. “Os humanos não podem usar o telefone do carro do Waymo.”
Como designer pioneiro de robôs, Brooks é particularmente cético quanto ao interesse da indústria tecnológica em robôs humanóides. Ele escreve com base na experiência: Em 1998, ele construiu um robô humanóide com estudantes de pós-graduação no MIT. Na época, ele afirmou que as pessoas se sentiriam confortáveis com “robôs humanóides que agem como humanos; a conexão está embutida em nossos cérebros” e que “humanos e robôs podem trabalhar juntos de maneiras que só podem ser imaginadas na ficção científica”.
Desde então, ficou claro que os robôs de uso geral que se parecem e agem como humanos são quiméricos. Na verdade, em muitos casos são perigosos. Entre os problemas não resolvidos no design de robôs está o fato de ninguém ter criado um robô com “habilidades semelhantes às humanas”, escreveu ele. As empresas de robótica que promovem seus projetos não demonstraram que seus produtos possuem “destreza com vários dedos que permite aos humanos agarrar e agarrar objetos invisíveis e agarrar e manipular vários objetos pequenos com uma mão”.
O robô bípede tem tendência a cair e “precisa de intervenção humana para se levantar”, como uma tartaruga caindo de costas. Por serem pesados e instáveis, “não são seguros para as pessoas que estão perto deles agora quando viajam.
(Brooks não menciona isso, mas mesmo na década de 1960 os criadores de “Os Jetsons” entenderam que os robôs domésticos não dependeriam de pernas – Rosie, a empregada robô, era uma presença constante em sua casa. sobre rodas(um sentimento que era uma segunda natureza para os animadores há 60 anos, mas parece ter sido esquecido pelos engenheiros hoje).
Como observa Brooks, “mesmo crianças de 3 ou 4 anos podem navegar em casas bagunçadas sem prejudicá-las… Aos 4 anos, elas podem abrir portas com maçanetas e ferragens que nunca viram antes e fechá-las com segurança.
“Mas espere, você diz: ‘Eu os vi dançar e pular, e até pular da parede.’ Sim, você viu um teatro de robôs humanóides. “
A experiência de Brooks em inteligência artificial dá-lhe informações valiosas sobre as deficiências dos produtos atuais de grandes modelos de linguagem – é a tecnologia central dos chatbots de hoje – o que eles podem ou não fazer e por quê.
“A estrutura subjacente para grandes modelos de linguagem não responde diretamente às perguntas”, escreveu ele. “Em vez disso, dá algo que parece uma resposta a uma pergunta. Isso é muito diferente de dizer algo verdadeiro. O que eles aprendem não é um fato sobre o mundo, mas sim uma distribuição de palavras possíveis que podem vir a seguir, dada a pergunta e as palavras produzidas em resposta a ela. Portanto, o resultado de seu uso, descontrolado, é muito conflito, seja real ou não.”
A solução não é “treinar” os bots LLM com mais dados, na esperança de que eventualmente eles tenham dados suficientes para torná-los redundantes. Brooks acha que esse é o caminho errado a seguir. A melhor opção é construir objetivos de LLM para atender a necessidades específicas em um campo específico. Bots especificamente para código de software, por exemplo, ou design de hardware.
“Precisamos de um círculo em torno do LLM para seu benefício, e é aí que ocorrerá grande parte da ação nos próximos 10 anos”, escreveu ele. “Eles não podem simplesmente ser soltos na natureza após o treinamento. … Mais treinamento não melhora as coisas.
O tema geral de Brooks é que tendemos a superestimar o que as novas tecnologias podem fazer e a subestimar quanto tempo levará para que qualquer nova tecnologia alcance utilidade. Os problemas mais difíceis costumam ser os últimos a serem resolvidos; as pessoas tendem a pensar que as novas tecnologias continuarão a desenvolver-se à mesma velocidade que o fizeram nas fases iniciais.
Isso levou à marcha em direção a carros totalmente autônomos. Uma coisa é equipar um carro com aviso de saída de faixa ou controle de cruzeiro que pode ser ajustado para veículos mais lentos à frente; o caminho para o nível 5 de autonomia, conforme definido pela Sociedade de Engenheiros Automotivos – onde os carros podem dirigir-se sozinhos em qualquer situação sem que seja necessário que um ser humano assuma o volante – pode demorar pelo menos uma década. Não há veículos de nível 5 em uso geral hoje.
Acreditar nas afirmações dos promotores da tecnologia de que um ou outro nirvana é iminente é uma brincadeira de mau gosto. “Demora mais do que você pensa”, escreveu Brooks em sua postagem original de previsão. “Só estou fazendo isso.”
