No mês passado, um grupo de pesquisadores conseguiu manipular Departamento farmacêutico alimentado por IA aumentando a dosagem de três opioides e rotulando a metanfetamina como segura. Dias depois, os legisladores de Nova York lançaram um sorteio lei que equipara a IA clínica a médicos que praticam medicina sem licença – tornando ilegal que a IA forneça orientação médica básica. A Califórnia construiu uma localização central, fazer leis no início deste ano, que exige a divulgação do paciente quando a IA está envolvida.
Embora os governos continuem a enviar sinais contraditórios sobre a melhor forma de regular a IA nos cuidados de saúde, milhões de americanos não estão à espera de um consenso. A EXPLICAÇÃO mostra que um em cada três americanos está agora recorrendo a chatbots de IA para diagnosticar sintomas e direcionar cuidados, um número que dobrou em apenas um ano. Em suma, a IA já está a fazer medicina.
Trabalhei como médico de emergência em um centro médico acadêmico, um hospital com rede de segurança e um pronto-socorro comunitário. O que define a minha experiência, em todas as instituições, é o peso das necessidades médicas não satisfeitas: pacientes que ficam sem medicamentos essenciais e não conseguem reabastecê-los. Um diabético que há meses não vai ao endocrinologista porque raramente tem tempo. Uma ITU que progride para doença renal sem tratamento imediato. Todos os dias, o nosso sistema transforma condições controláveis em grandes crises e transforma o pronto-socorro numa alternativa a todos os cuidados aos quais os americanos não têm acesso. O custo humano é atrair.
A inteligência artificial pode mudar esta realidade, e a possibilidade não é limitada ou experimental. As mulheres devem poder abastecer seus anticoncepcionais sem horário. Pacientes com herpes labial ou infecções fúngicas não devem esperar vários dias para ligar; em muitas partes do mundoque o cuidado é acessível sem receita. A IA pode trazer igualdade de acesso aos pacientes americanos, com padrões de segurança correspondentes.
Na verdade, o modelo mais ambicioso desta visão está mais adiantado do que a maioria das pessoas imagina: o atual governo federal pedindo recomendações do setor privado para desenvolver uma IA que irá gerir de forma independente a insuficiência cardíaca, uma doença em que apenas 1% dos pacientes recebe o tratamento recomendado e a taxa de mortalidade em cinco anos é agora superior a 50%.
O potencial da IA para expandir drasticamente o acesso aos cuidados de saúde é uma coisa boa, talvez até revolucionária. A maioria dos americanos não precisa escolher entre a IA e o seu médico de família de confiança. Obstáculos como o custo e a escassez de médicos significam que os americanos estão escolhendo entre IA e qualquer que seja. Estes pacientes merecem coisa melhor, e a IA é o primeiro desenvolvimento em décadas que promete ajuda tangível em grande escala.
É por isso que, juntamente com a minha prática clínica e investigação, juntei-me recentemente a uma empresa que utiliza IA para melhorar o acesso aos cuidados de saúde. Não tomei essa decisão levianamente. Existem razões legítimas para ter cuidado com tecnologias poderosas como a IA que atingem pacientes vulneráveis sem proteção adequada. Mas a resposta não é a opinião de Nova Iorque. Nem os médicos nem os políticos podem ficar à margem enquanto os pacientes preenchem as muitas lacunas do nosso sistema de saúde com IA. Precisamos de regulamentações sérias, práticas e personalizadas para a velocidade desta tecnologia.
O governo federal já começou a influenciar este campo em rápida mudança. Em Janeiro, a Food and Drug Administration reformou guia de software permitindo que as ferramentas de IA operem com menos controle ao auxiliar os médicos. De acordo com a nova rubrica, o software que permite aos médicos rever de forma independente a base das recomendações de IA não é regulamentado pela Agência de Dispositivos Médicos. Um exemplo clássico é o software que pode alertar os médicos sobre interações medicamentosas perigosas antes de assinarem uma receita.
Mas este esboço cobre apenas uma IA com um médico informado. Não há exceção que se compare à IA que fala diretamente com o paciente sem médico na sala, ou dá sugestões em situações difíceis. Esta tecnologia provavelmente ainda está sob total supervisão da FDA, embora o governo ainda não tenha participado. Construir uma federação em torno de uma tecnologia em rápida evolução é difícil, e a cautela da FDA é compreensível. Mas a resposta é contra-intuitiva: a IA clínica mais autónoma é, ironicamente, a menos controlada.
Neste vácuo, o Estado moveu-se rapidamente e em diferentes direcções. Alguns, incluindo Utah, Arizona SI Texasestá construindo um sistema para acelerar a implantação. Outros, incluindo Nova Iorque e Califórnia, estão a tomar medidas para limitar a IA na medicina. Em muitos aspectos, este é o laboratório de um modelo democrático que funciona como pretendido, permitindo que a política federal encontre o seu lugar através da experimentação estatal e da recolha de provas. Mas, como resultado, 50 normas concorrentes não podem ser a resposta para uma tecnologia. Os pacientes merecem segurança básica quando utilizam IA clínica onde quer que estejam, e as empresas que desenvolvem estas ferramentas devem obedecer a padrões uniformes que priorizem a segurança dos pacientes.
A estrutura de que necessitamos é uma extensão daquilo que a FDA já sabe: exigir provas independentes de terceiros sobre a segurança e eficácia de um sistema clínico de IA; exigir testes de segurança de adversários como parte do processo de aprovação; e estabelecer um padrão federal uniforme, com espaço para os estados irem mais longe, mas não abaixo dele. Finalmente, quando a IA prejudica os pacientes, deve haver um caminho claro para a responsabilização. A negligência médica dominou o papel dos médicos durante décadas. Adaptável aqui.
Muitos acreditam que a regulamentação abranda o ritmo da mudança tecnológica, mas a história sugere o contrário. O seguro federal de depósitos fez com que as pessoas confiassem nos bancos o suficiente para usá-los. Os padrões federais de segurança tornaram a aviação comercial o meio de transporte público mais seguro.
A IA clínica precisa da mesma base e a ação é urgente agora – está nas mãos dos pacientes, movendo-se mais rapidamente do que qualquer tecnologia que tentamos gerir. Os pacientes que mais têm a ganhar são os mesmos que mais têm a perder se não acertarmos.
Hashem Zikry é professor assistente na UCLA e diretor médico de pesquisa e política do Counsel Health.
