Em 2024, a Kaiser Permanente anunciou o lançamento do Abridge. Descrito em um comunicado à imprensa como “tecnologia de escuta ambiente”, o escriba com tecnologia de IA foi projetado para ajudar os médicos, incluindo prestadores de cuidados de saúde, a garantir que anotações clínicas sejam feitas durante as visitas aos pacientes.
Mas o que a definição não mostra é a preservação de toda a consulta médica, inclusive das sessões psiquiátricas privadas.
Durante estas sessões, os profissionais de saúde devem obter o consentimento do paciente antes de utilizar o dispositivo. No entanto, tal como partilhado por muitos prestadores de serviços, este processo de consentimento não inclui informações sobre como gerir as informações. Também não diz por quanto tempo e onde os arquivos de áudio são armazenados ou quem tem acesso aos dados.
Isto acontece em parte porque essa informação não está a ser partilhada com os fornecedores, apesar dos seus esforços para a obter.
‘Sempre Seguro’
Ilana Marcucci-Morris optou por não utilizar a plataforma com seus pacientes. Ela é assistente social clínica licenciada na Kaiser Psychiatry em Oakland. Ele também é membro do comitê de negociação. Nessa função, ele se reúne regularmente com vários representantes da Kaiser, incluindo o diretor de saúde mental do norte da Califórnia.
Marcucci-Morris descreve como levantou questões sobre a proteção da privacidade do paciente, a conformidade com a HIPAA e as medidas de segurança implementadas para usar essas tecnologias durante essas reuniões.
Segundo ele, a resposta do líder é sempre uma garantia: “Nós concordamos. É isso que vocês precisam saber. Nós monitoramos a tecnologia, médicos. Não se preocupem. Não é o seu trabalho. Temos especialistas em tecnologia. Esse é o trabalho deles”, disse Marcucci-Morris em entrevista à American Community Media.
“Eles não vão nos mostrar, vão? E meu sentimento é que, se você não tem nada a esconder e está fazendo isso completamente… moralmente, você nos mostra, prova. Eles não podem, e não vão, e recusaram quando pedimos.”
Ligia Pacheco é uma assistente social psiquiátrica que presta serviços de telemedicina a pacientes da Kaiser no sul da Califórnia. Ele disse que Kaiser recusou seu pedido de mais informações.
Numa entrevista à American Community Media, Pacheco relembrou como um colega expôs as suas preocupações a um supervisor. A resposta: “Não é profissional da sua parte incluir suas crenças pessoais sobre IA em nosso campo de trabalho.”
Para Pacheco, “isto leva a uma atitude baixa, não há lugar para defender o paciente. Devíamos ser a voz dos pacientes que chegam em situação de maior vulnerabilidade.
‘Doente após doente após doente’
Os provedores têm exigido atender mais pacientes nos últimos anos. Isso cria muita pressão para acompanhar a papelada e a carga de trabalho, destacou Marcucci-Morris.
“É como se você visse uma variedade de pacientes que não têm tempo suficiente para ir ao banheiro, fazer uma refeição leve (…) tomar um pouco de ar fresco”, disse ele.
Segundo Marcucci-Morris, recusar-se a administrar o volume de pacientes pode ser considerado um fracasso no trabalho. Isso também pode levar a ações disciplinares.
Como administrador sindical, ele disse que frequentemente representa colegas de trabalho durante investigações no local de trabalho relacionadas a atrasos na documentação ou dificuldade em lidar com casos onerosos. Nessas situações, disse ele, a administração recomenda frequentemente o uso do Abridge para economizar tempo e evitar regulamentações adicionais.
Na sua opinião, os fornecedores que conhece não fazem isso, mas utilizam a tecnologia porque os apoiam ou confiam neles. Pelo contrário, é porque se sentem pressionados a proteger os seus empregos e a cumprir as exigências do local de trabalho.
“Eu vejo isso como pressão porque você está demitindo alguém do emprego ou usando software. É outra opção que está sob pressão”, explicou ele.
Doadores, preocupações dos pacientes
Brian Hoberman é diretor de informações do The Permanente Medical Group. No comunicado de imprensa de Kaiser, ele disse: “A tecnologia avançada da Abridge apoia a saúde do médico, reduzindo a carga de papelada”.
“Implementamos esta nova tecnologia após consideração cuidadosa e testes rigorosos e descobrimos que ela foi bem recebida por pacientes e médicos”, acrescentou.
Para pelo menos um paciente entrevistado para esta história, tal garantia não foi suficiente.
“Temo que esse tipo de informação registrada possa cair em mãos erradas”, disse o paciente, que pediu para não ser identificado por motivos pessoais. “Talvez eu não goste do meu empregador, talvez não queira que minha família, talvez não queira que as pessoas conheçam alguns dos tipos de conversas íntimas que tenho com meu médico (e) com meu psiquiatra”.
Adriana Webb é assistente social na Kaiser Panorama City, em Los Angeles. “Eu trabalho com pacientes com condições médicas complexas, como… HIV e AIDS, e muitas vezes os pacientes não querem isso em seus prontuários.”
Um porta-voz da Kaiser Permanente insistiu em resposta à American Community Media que os médicos devem obter o consentimento do paciente antes de usar o Abridge. “Ninguém é gravado sem o seu conhecimento e consentimento”, afirmou o comunicado.
Ele acrescentou que os registros não são mantidos por mais de 14 dias e atendem a todos os requisitos da HIPAA e aos padrões de privacidade e segurança da Kaiser Permanente.
“Abridge ajuda os médicos a dedicar mais tempo aos pacientes e menos tempo às tarefas administrativas”, disse ele.
O banco de dados de saúde mental
De acordo com Nicole Alvarez, analista sênior de política tecnológica do Center for American Progress, “registrar o menor tempo de alguém pode ser usado contra essa pessoa de uma forma que, você sabe,… uma leitura de pressão alta não pode”.
Ela disse que os dados de saúde mental podem ser particularmente sensíveis devido ao estigma que envolve as condições de saúde mental. Para os pacientes, este estigma tem consequências universais em áreas como o emprego, a guarda dos filhos, a imigração e o acesso à protecção. Ele enfatizou que, como outras formas de dados pessoais, as informações de saúde mental podem ser usadas contra indivíduos.
Os acordos entre sistemas de saúde e fornecedores de IA podem variar amplamente, disse ele. Isto inclui termos relacionados com a possibilidade de utilização de gravações ou transcrições para treinar modelos de IA, se os dados dos pacientes são anonimizados, por quanto tempo são mantidos, se podem ser partilhados com outros clientes e o que acontece às informações após o término do contrato.
Kaiser insiste que os dados coletados não são usados para treinar modelos de IA.
Contudo, na experiência de Alvarez, os pacientes muitas vezes perdem estes programas. Ele argumentou que os sistemas de saúde têm a responsabilidade de divulgar claramente como as informações dos pacientes são geridas e utilizadas.
Alvarez destacou ainda que, na maioria dos casos, os pacientes têm o direito de recusar a gravação. Mas, disse ele, o processo de retirada nem sempre está claramente definido. Segundo ele, as opções de consentimento podem variar desde perguntas diretas na admissão até linguagem oculta nas prescrições, por isso é importante que os pacientes considerem cuidadosamente o formulário e as informações.
Ele disse que o consentimento significativo exige que os pacientes não apenas saibam que estão sendo gravados e que podem cancelar, mas também que entendam como suas informações serão armazenadas, compartilhadas ou usadas posteriormente.
consentimento forçado
Pacheco vivenciou isso durante seu estágio na Kaiser. Seu médico não pediu permissão para usar o aplicativo, mas informou que ele seria usado. Depois de um tempo, ele decidiu recusar o uso da plataforma. Embora o médico tenha interrompido a fita, ela se sentiu desconfortável depois.
Mais tarde, ele decidiu mudar de médico.
Tais situações preocupam Marcucci-Morris, que afirma que a abordagem da empresa para obter permissão para usar o Abridge durante as consultas pode parecer intrusiva e coercitiva. Na sua opinião, os fornecedores são treinados para fornecer o dispositivo de uma forma que coloque as necessidades dos pacientes e dos médicos umas contra as outras.
Ele explicou que muitas vezes os pacientes são informados de que o sistema ajudará os médicos com a documentação, reduzirá o envelhecimento e permitirá que passem mais tempo com suas famílias. Como resultado, os pacientes podem se sentir culpados por se recusarem a usar o dispositivo porque não querem complicar o trabalho do fornecedor.
Ele acredita que esta formulação força os pacientes a aceitarem que ela não lhes permite tomar decisões verdadeiramente confortáveis e independentes.
De acordo com Kaiser, o Abridge está disponível em “40 hospitais e mais de 600 consultórios médicos em oito estados e no Distrito de Columbia”, parte da maior adoção da tecnologia de IA no setor de saúde. Abridge funciona em mais de 14 idiomas.
A American Community Media abordou repetidamente a Abridge AI Inc. para comentar, mas não recebeu resposta. Segundo o site da empresa, a Abridge se descreve como “parceira de negócios” de fornecedores. Os pacientes são aconselhados a revisar a política de privacidade do fornecedor de informações em relação à proteção de dados.
“A terapia é mais eficaz na privacidade e quando a confiança é conquistada através de dois seres humanos”, disse Marcucci-Morris. Para ele, “a cura ocorre quando a empatia humana é oferecida sinceramente como parte de algum tipo de relacionamento psicologicamente saudável”.
“Acredito que gravar sessões médicas muda o comportamento das pessoas. Muda o comportamento dos pacientes”, acrescentou.
Roxsy Lin é uma Bolsista de notícias locais da Califórnia com a Escola de Pós-Graduação em Jornalismo da UC Berkeley.
