Com a proliferação recente de ferramentas de inteligência artificial como o ChatGPT, surgiram também aquelas de nichos específicos do conhecimento. Na área da saúde, o destaque é o OpenEvidence, ferramenta IA destinada ao uso de profissionais médicos do mundo todo. Nele, perguntas geram textos com citações de grandes jornais médicos com termos técnicos e explicações sucintas.
Mas, estando as mais diversas ferramentas de inteligência artificial propensas a falso senso de certeza e alucinações, podemos hoje confiar a elas condutas médicas? Fato é que os próprios criadores do programa recomendam que ele seja utilizado ativamente, ou seja, com análise crítica do material e dentro de contexto clínico relevante1. De acordo com um dos criadores, a ideia é liberar parte do tempo que seria utilizado para pesquisa para a leitura crítica da fonte do material1.
Isso porque esse material, que é apresentado de forma resumida, dificilmente engloba o detalhamento necessário para o consumo crítico de um material científico e a consequente tomada de decisão médica. É necessário que a informação seja verificada no artigo-fonte citado, pois há diversas situações em que o conteúdo e as conclusões do artigo diferem da citação. Além disso, a leitura de qualquer artigo científico inclui crítica sobre a metodologia e limitações do estudo, crítica que não está presente nos resultados sucintos do programa. Finalmente, pode também ser criado um viés em que apenas os jornais médicos de prestígio passam a ter relevância acadêmica, já que a ferramenta se restringe a dados de grandes jornais.
No estado atual, vale considerar as ferramentas como instrumentos de pesquisa e não como detentores de fatos e verdades - especialmente no meio médico, já que isso pode criar consequências catastróficas para a saúde de indivíduos e populações. Usado corretamente, pode ser valioso para auxílio na diagnose diferencial ou listagem de orientações para pacientes, mas não deve ser tratado como uma substituição aos livros-texto tradicionais ou à leitura minuciosa e crítica de artigos científicos.
REFERÊNCIA
R/medicine on reddit: We are the physician scientist team at OpenEvidence- let’s talk about the next two years of AI in Healthcare! Ama! (n.d.). https://www.reddit.com/r/medicine/comments/1qpdmzm/we_are_the_physician_scientist_team_at/