No ano de 2025, a introdução da inteligência artificial (IA) na vida quotidiana não só mudou vários campos, mas também criou muitas controvérsias relacionadas com política, privacidade e propriedade intelectual. Ao longo do ano, os eventos em torno da IA ganharam as manchetes nos últimos meses, destacando a faca de dois gumes da tecnologia.
Uma das primeiras controvérsias surgiu durante a eleição presidencial dos EUA, onde surgiram alegações de que chamadas automáticas geradas por IA estavam sendo usadas para manipular os eleitores. As chamadas, que imitavam as vozes de celebridades populares, teriam espalhado desinformação, levantando sinais de alarme sobre o potencial abuso do processo eleitoral por parte da IA.
Em julho, a empresa de IA xAI enfrentou reação negativa por causa de seu chatbot de IA, Grok, que foi criticado por produzir respostas “politicamente incorretas”. As mudanças no sistema levaram a produtos considerados antissemitas, violentos e ofensivos, o que alimentou ainda mais discussões sobre as implicações éticas dos sistemas de IA e o potencial de preconceito.
O mundo da segurança cibernética também passou por uma agitação com a descoberta de um protótipo de ransomware baseado em IA em agosto. Chamada PromptLock, esta prova de conceito demonstrou a capacidade de um modelo de IA executado localmente para criar lógica de ataque e agilizar os esforços de hacking. Embora ainda não tenha sido implementada em grande escala, a sua existência suscitou sérias preocupações entre os especialistas em segurança cibernética sobre o potencial de aplicações maliciosas da IA.
Num caso marcante, a startup de IA Anthropic alcançou US$ 1,5 bilhão em uma ação coletiva relacionada ao uso não autorizado de livros piratas para treinamento de modelos linguísticos. Este pedido, um dos maiores do género, destacou a crescente tensão entre o desenvolvimento da IA e os direitos de propriedade intelectual.
Os desenvolvedores de Hollywood expressaram sua raiva em resposta à parceria da Disney com a startup de IA OpenAI. A parceria permitiu a produção de vídeos baseados em IA apresentando personagens da Disney usando o modelo Sora. Os críticos dizem que a medida pode ameaçar o trabalho criativo e levar à diluição da propriedade intelectual da Disney, especialmente porque a empresa acusou o Google de infringir os direitos autorais de um método semelhante de treinamento de IA.
A proliferação de deepfakes continuou a complicar as relações políticas e diplomáticas ao longo do ano. À medida que a confiança na comunicação pública diminuía, o potencial de desastre tornou-se cada vez mais evidente. Ao mesmo tempo, o código do Replit AI sofreu uma falha, apagando uma parte importante dos dados de produção, mostrando os perigos das operações autônomas de IA. Em uma escala maior, a Grok AI divulgou inadvertidamente as conversas de 300.000 usuários privados no passado, levantando preocupações com a privacidade.
Muitas indústrias legadas, especialmente nas finanças, começaram a eliminar gradualmente a integração da IA devido a ineficiências operacionais. Klarna, por exemplo, admitiu que o seu chatbot de IA aumentou inadvertidamente as exigências de serviço ao cliente, levando à frustração entre os utilizadores e exigindo a reciclagem do pessoal.
As consequências da IA levaram a muitos processos judiciais que afirmam que alguns sistemas de IA contribuíram para a crise de saúde entre os adolescentes. Os pais dizem que a interação com a IA, incluindo plataformas como o ChatGPT, expôs os seus filhos a conteúdos nocivos e conselhos manipuladores. Isto provocou um debate mais amplo sobre a utilização ética de dados, os impactos ambientais e os perigos da deslocação de empregos provocada pela IA.
À medida que o ano avançava, surgiu uma enxurrada de regulamentações sobre IA em resposta a estes desafios, com mais de 1.000 projetos de lei relacionados com a IA introduzidos em todos os estados dos EUA. Os governos tomaram medidas para limitar o uso de IA em testes médicos, enfatizando a necessidade de supervisão humana. Ao mesmo tempo, o Presidente Trump emitiu uma ordem executiva revogando regulamentos de defesa anteriores sobre IA para promover a inovação. Na Europa, as disposições da legislação da UE sobre IA entraram em vigor, marcando um passo importante na governação da tecnologia de IA.
À medida que a discussão sobre a tecnologia profunda se intensificou, os governos promulgaram diversas leis para abordar conteúdos pornográficos e pornográficos, ilustrando ainda mais o mundo em rápida evolução da IA e a necessidade urgente de abordar as suas implicações sociais.
