A Flórida processou a OpenAI e seu presidente-executivo, Sam Altman, na segunda-feira, dizendo que a empresa de tecnologia de São Francisco não informou as pessoas sobre os perigos do popular chatbot de inteligência artificial.
A OpenAI desenvolveu o ChatGPT, um chatbot usado por mais de 900 milhões de pessoas todas as semanas para responder perguntas, criar artigos e realizar outras tarefas. Mas as pessoas também usaram o ChatGPT para planejar tiroteios em massa, obter informações autodestrutivas e se envolver em outras atividades nefastas, de acordo com o processo de 83 páginas.
A ação, movida no 10º Circuito Judicial da Flórida, ocorre no momento em que a OpenAI enfrenta preocupações crescentes de que a IA prejudica as pessoas, incluindo crianças e adolescentes, e carece de salvaguardas adequadas. A Flórida é o primeiro estado a processar a OpenAI por riscos de segurança, preparando o terreno para outros.
“As pessoas ficaram feridas, os pais foram enganados e precisam pagar”, disse Florida Atty. General James Uthmeier disse durante uma conferência de imprensa na segunda-feira. “Eles precisam pagar por isso abrindo seus livros e mudando o programa para garantir que o controle dos pais esteja em vigor e que não coloquemos nossos filhos em risco”.
OpenAI não respondeu a um pedido de comentário. A empresa afirma em seu site que está focando na segurança e lançou novos controles parentais no ChatGPT.
Prevenção de suicídio e recursos de crise
Se você ou alguém que você conhece está lutando contra pensamentos suicidas, procure ajuda profissional ou ligue para 988. Uma linha direta nacional de três números conectará os chamadores a conselheiros de saúde mental treinados. Ou envie uma mensagem de texto “HOME” para 741741 nos EUA e Canadá para acessar a Linha de Texto de Crise.
Durante anos, as empresas tecnológicas enfrentaram processos judiciais sobre se deveriam ser responsabilizadas por danos causados pela concepção e utilização dos seus produtos. Mas a crescente popularidade dos chatbots alimentados por IA levanta mais preocupações de segurança, especialmente à medida que os jovens levam os dispositivos para a escola e para casa.
As preocupações sobre os perigos da IA aumentaram na Califórnia. Em 2025, a família de um adolescente da Califórnia que morreu por suicídio após conversar com o ChatGPT processou a OpenAI, alegando que o chatbot encorajou o jovem de 16 anos a cometer suicídio. O caso é citado em um processo na Flórida.
Outras empresas de tecnologia, incluindo o Google, enfrentaram ações judiciais sobre o suposto papel dos chatbots no incentivo à fraude ou à automutilação.
Os legisladores da Califórnia aprovaram uma nova lei que visa tornar a IA mais segura, mas as empresas de tecnologia dizem que a nova lei pode impedir a inovação. Os procuradores-gerais da Califórnia e de Delaware expressaram preocupação no ano passado com as alegações de que os chatbots de IA estão prejudicando crianças.
Em uma coletiva de imprensa sobre o último processo, Uthmeier acusou a OpenAI e a Altman de priorizar os lucros em detrimento da segurança pública à medida que as empresas de IA avançam. Este ano, o gabinete do procurador-geral da Flórida também anunciou que está investigando a OpenAI pelo papel do ChatGPT no tiroteio de 2025 na Florida State University, que deixou duas pessoas mortas.
OpenAI e Altman enganaram os pais fazendo-os pensar que o ChatGPT era seguro quando não era, violando a lei da Flórida, de acordo com o processo.
Uthmeier trouxe vários casos em vários estados, destacando o uso do ChatGPT em tiroteios, suicídios e outros tipos de mortes, incluindo uma envolvendo overdose de drogas. O ChatGPT, disse ele, pode ser “viciante” porque imita a empatia humana, enganando os usuários para que forneçam mais informações ao chatbot de IA.
“Hoje estamos enviando uma mensagem à OpenAI: prepare-se para a guerra, e não há nada mais importante do que isso neste momento”, disse Uthmeier.
