Um em cada quatro diagnóstico médico produzido pela IA foi criado, mas não parece impedir os usuários, que continuam confiando nesse tipo de dispositivo mesmo com problemas de saúde. Apesar dos avisos de muitos profissionais médicos, plataformas como o ChatGPT continuam a crescer em popularidade para consultas médicas, refletindo uma tendência preocupante na relação entre tecnologia e confiança pública.
De acordo com um estudo recente realizado por pesquisadores da no e publicado no The New England Journal of Medicine, as pessoas tendem a valorizar os resultados do tratamento causado por inteligência artificial mais confiáveis e abrangentes do que aqueles fornecidos por médicos reais ou plataformas digitais privadas.
A pesquisa contou com trezentas pessoas com e sem conhecimento médico, que avaliaram três tipos de respostas a questões clínicas: uma de um profissional de saúde, uma de uma plataforma digital e uma terceira de um sistema de IA.
Os resultados foram surpreendentes: os participantes manifestaram a sua preferência pelas respostas da IA, marcando-as como as mais completas e fiáveis, mesmo que soubessem apenas uma em cada quatro. diagnóstico os produtos destes dispositivos não são adequados.
Apesar das frequentes evidências de erros, muitos usuários manifestaram a disposição de seguir as recomendações geradas pela inteligência artificial.
O estudo também destaca a dificuldade dos usuários – e até dos médicos – em determinar quando um diagnóstico foi feito pela IA e quando veio de um especialista humano.
A apresentação persuasiva da resposta publicada por modelo de linguagem A artificialidade faz com que a diferença, na prática, seja quase invisível. Esta dificuldade em distinguir as duas fontes aumenta a possibilidade de erros ou invenções não detectadas e é considerada válida pelo autor. doente.
A facilidade de acesso, a precisão dos resultados e a aparência de completude da inteligência artificial levam muitos usuários a confiar nela, apesar das questões complexas como SAÚDE.
Contudo, os especialistas alertam que esta confiança pode ser perigosa, porque o IA falta de preparação clínica e julgamento profissional necessários para tomar decisões clínicas. O próprio estudo cita a frase de um especialista: “Inteligência artificial é fazer medicina sem ter preparo suficiente para isso”.
Numa situação em que a maior parte do conteúdo digital já foi gerado pela IA, a fiabilidade da informação médica encontrada na Internet tornou-se mais questionável do que nunca. O investigador insiste que é necessário ter uma atitude crítica e não permitir decisões que possam ter um impacto significativo na vida. saúde das pessoas.
O avanço da inteligência artificial (IA) em pesquisa científica resultou num aumento significativo no número de artigos publicados, embora este aumento tenha sido acompanhado por uma diminuição percebida na qualidade.
Isto foi demonstrado por um estudo realizado pela Cornell University Pesquisadores que usam IA publicam até 50% mais publicações do que seus colegas que não usam essas ferramentasum fenómeno particularmente observado em países onde o inglês não é a língua principal.
Porém, esses trabalhos apresentam menor taxa de aceitação em periódicos especializados, indicando que sua contribuição ou relevância para a ciência pode ser mais limitada. Diante desta situação, os autores do estudo destacam a necessidade de estabelecer novas regras e padrões que acompanhem a velocidade que está mudando o mundo acadêmico da IA.
