O estado de Nova Iorque está no centro de um debate jurídico que poderá marcar a pré e a pós-regulamentação da inteligência artificial (IA), especialmente dos sistemas do tipo chatbot que interagem com o público. Em resposta ao rápido avanço destas tecnologias e aos riscos crescentes a elas associados, o Senado está a promover um projecto de lei pioneiro que estabelece Limites rigorosos ao uso de IA em ambientes profissionais regulamentados. O chamado projeto S.7263 foi proposto pela senadora Kristen González durante o período ordinário de sessões 2025-2026 e já passou na primeira triagem parlamentar, após ser aprovado pela Comissão de Internet e Tecnologia.
O objetivo principal desta atividade é estabelecer um quadro jurídico claro que impeça os sistemas de inteligência artificial de imitar a prática de profissões como direito, medicina, psicologia ou odontologia. Segundo o texto do projeto, a lei visa os proprietários e operadores de chatbots com IA, ou seja, as empresas ou departamentos responsáveis pelo seu desenvolvimento e implementação. O escopo da regra: busca proibir esses sistemas de fornecer feedback ou aconselhamento que, se fosse de um indivíduo, exigiria uma licença profissional emitida pelo Estado de Nova York.
A lei estabelece um proibição de chatbots e outros sistemas de inteligência artificial em relação à liberação de uma resposta considerada “pesada” em área controlada. A condição é justificada pela suposição de que apenas profissionais licenciados estão autorizados a realizar determinadas tarefas, permitindo que uma máquina assuma que sua função não apenas representa o uso ilegal da tarefa, mas também pode causar danos ao usuário. Este ponto tornou-se especialmente importante em situações recentes, onde houve casos documentados em que modelos de linguagem longa deram conselhos médicos, jurídicos ou terapêuticos potencialmente prejudiciais.
Um dos elementos mais inovadores do projeto S.7263 é o regime de responsabilidade legal que propõe aos proprietários e operadores de chatbots de IA.. Ao contrário de outros sistemas jurídicos que oferecem supervisão das agências governamentais, esta proposta permite que os nova-iorquinos instaurem ações judiciais diretas contra aqueles que utilizam estes sistemas, caso recebam conselhos prejudiciais ou falsos. O direito de ação específico permite reivindicar danos materiais e custas judiciais, transferindo o ônus da prova e a responsabilidade para o proprietário ou empresa operadora do chatbot. Isto marca uma ruptura com a prática tradicional de confiar em isenções de responsabilidade, que até agora permitiam às empresas limitar a sua responsabilidade legal a simplesmente alertar que os utilizadores estão a lidar com máquinas e não com seres humanos.
Nesse sentido, a lei indica que não existe nenhuma cláusula sobre os dados do usuário que possa isentar de responsabilidade a operadora. A obrigação de responder pelos danos causados pela IA cabe diretamente à empresa responsável pela sua implementação, e não ao consumidor, e não pode ser evitada com a inclusão de um aviso na interface. Por exemplo, os chatbots estão proibidos de inserir mensagens como “Eu não sou advogado“oh”Eu não sou um profissional de saúde”Para evitar penalidades se o sistema der conselhos incorretos.
Junto com as restrições, a conta está incluída requisitos de transparência visando proteger os usuários. Qualquer sistema de IA que interaja com o público deve incluir informações claras e visíveis que identifiquem, inequivocamente, que se trata de um sistema automatizado e não de uma pessoa real. O objetivo é que os usuários saibam que vêm de uma máquina, e não de um especialista autorizado a implementar regras controladas.
O senador González, autor da ação, enfatizou a urgência desta norma para proteger a ordem pública. “Os chatbots não devem fingir ser médicos, advogados ou outros profissionais licenciados. Meu projeto de lei, S7263, impede que os chatbots se passem por profissões licenciadas, mas permite que continuem a fornecer aconselhamento.Segundo González, a atual lacuna legal permite que uma ampla gama de modelos de linguagem se apresentem como profissionais licenciados e ofereçam conselhos críticos, o que representa uma ameaça direta à saúde e ao bem-estar da população.
As preocupações com a saúde mental e a segurança dos menores estiveram entre as forças motrizes da legislação. Os idosos alertaram para casos em que os sistemas de IA deram conselhos que levaram à automutilação e até ao suicídio entre os jovens. “Vejo este projeto de lei como uma proteção ao público.“, disse, insistindo que a inovação tecnológica não deve pôr em causa a integridade dos cidadãos.
Este impulso regulamentar em Nova Iorque faz parte de um ambiente regulamentar global relativo ao papel da inteligência artificial na implementação de atividades regulamentadas. Na Europa, por exemplo, Famosa Ordem dos Advogados de Madrid Promoveu um movimento para limitar o uso de IA em aplicações legais. Estados como Colorado e Illinois, nos Estados Unidos, também avançaram no estabelecimento de proteções semelhantes, que atestam a tendência geral de proteger o julgamento humano e a integridade profissional contra a automação.
Nova Iorque, ao avançar com o projecto S.7263, fornece uma indicação clara da necessidade de um quadro regulamentar que dê prioridade à segurança e aos direitos dos cidadãos em detrimento do avanço da IA. O debate aberto transcende agora fronteiras e esperamos um futuro onde regras rigorosas regulem a coexistência da tecnologia e da actividade regulamentada, a fim de proteger a confiança do público e a qualidade dos serviços essenciais.
