Pacientes têm o direito de recusar gravação ou pedir pausa durante momentos sensíveis da consulta; Estudo mostra que anotações geradas por IA têm erros potencialmente graves
Na sua próxima consulta, seu médico pode ter um novo tipo de assistente ouvindo a conversa: inteligência artificial. Programas de IA estão silenciosamente gravando essas conversas e transformando-as em rascunhos de prontuários médicos. Essas ferramentas, conhecidas como escribas de IA, estão se tornando mais populares, e cerca de 30% dos médicos dos EUA afirmam que as usam para documentar atendimentos a pacientes.
Para esses profissionais, o apelo é óbvio, e estudos já mostram que escribas de IA podem aliviar a carga dos médicos, reduzindo estresse e esgotamento.
Mas o que os escribas de IA significam para os pacientes? A esperança é que a ferramenta possa ajudar o médico a prestar mais atenção às consultas. Também devem produzir anotações mais completas, diz Paul Lukac, diretor de IA da UCLA Health (Universidade da California em Los Angeles). Mas há pouca pesquisa sobre como os escribas de IA estão afetando o atendimento ao paciente.
A popularidade dessas ferramentas também levantou preocupações sobre privacidade, consentimento e precisão. Então perguntamos a especialistas o que os pacientes devem saber.
O que realmente é armazenado?
Cada organização de saúde e empresa de IA tem suas regras, mas, em geral, o áudio e a transcrição da consulta são armazenados apenas temporariamente pela empresa, que normalmente os deleta em algumas semanas ou meses. Na UCLA Health, o sistema mantém o conteúdo por 14 dias, diz Lukac. Já a Microsoft afirma que sua ferramenta Dragon Copilot, um escriba de IA popular, armazena arquivos por até 90 dias.
Apenas o rascunho da anotação permanece no prontuário eletrônico do paciente, com quaisquer edições que o médico possa ter feito, diz Majid Afshar, pneumologista e intensivista da Universidade de Wisconsin-Madison. Em outras palavras, os sistemas de saúde não devem manter nenhuma anotação bruta de IA, transcrição ou gravação, por longos períodos.
Os pacientes têm o direito de acessar seus prontuários e ver todas as anotações, mas normalmente não têm acesso à gravação de áudio e à transcrição, acrescenta Afshar.
Você sempre pode perguntar ao médico se pode você mesmo gravar a consulta. Isso já é uma prática comum em especialidades como oncologia, onde frequentemente há muita informação complexa trocada rapidamente, afirma Michael Turken, médico de clínica geral da Universidade da California em San Francisco.
O médico vai pedir minha permissão?
Na maioria dos estados dos EUA, apenas uma das partes precisa consentir com uma gravação, então os médicos podem não estar legalmente obrigados a informar que estão usando um escriba de IA. Mas, na prática, o médico costuma pedir consentimento antecipadamente, diz Sharona Hoffman, professora de direito e bioética na Case Western Reserve University, dada a importância da confiança e da transparência na medicina.
Devido a restrições de tempo, contudo, esse processo pode ser simplificado. Os médicos podem perguntar apenas se você se importa de eles usarem uma ferramenta para fazer anotações, diz Turken, em vez de divulgar claramente que estão criando uma gravação de áudio da consulta.
Você sempre pode dizer não ou pedir para pausar a gravação durante partes sensíveis de uma consulta. Os médicos sabem que alguns pacientes vão se conter se souberem que estão sendo gravados, e não é isso que eles querem.
“Se você tiver qualquer sensação de que não vai se sentir confortável dizendo tudo o que precisa dizer, diga ao médico para não gravar”, aconselha Turken.
Devo me preocupar com a privacidade?
Embora as empresas de escribas de IA tenham acesso à gravação da consulta, essas empresas estão normalmente vinculadas a leis de privacidade.
Informações de saúde costumam ser alvo de hackers porque são sensíveis e difíceis de substituir. O risco de privacidade é maior se o médico usar escribas de IA sem um contrato formal —por exemplo, escolhendo uma ferramenta fora do sistema aprovado de um hospital.
Se você está preocupado com a privacidade, Lukac recomenda perguntar aos seus médicos se eles têm um contrato com a empresa de escribas de IA antes de autorizar uma gravação.
Devo verificar as anotação geradas por IA?
A anotação do escriba de IA não deve entrar no seu prontuário médico sem que o médico a revise; o médico tem que revisar e aprovar, assumindo a responsabilidade pela sua precisão, afirma Hoffman.
Isso importa porque erros acontecem. Ao transcrever, essas ferramentas podem perder detalhes ou confundir quem disse o quê, diz Turken, especialmente se várias pessoas estiverem falando.
E mesmo quando a transcrição está precisa, a ferramenta de IA pode omitir informações relevantes e introduzir imprecisões ao redigir a anotação. Em um teste com cinco escribas de IA diferentes durante consultas simuladas, pesquisadores descobriram que, em média, cada anotação tinha três erros potencialmente graves.
Para os pacientes, o ideal seria verificar todas as anotações do prontuário médico, porque anotações escritas por humanos também podem conter erros, diz Turken.
Essa salvaguarda pode se tornar mais importante à medida que os escribas de IA se tornam mais usados. As empresas também estão desenvolvendo ferramentas para ajudar com faturamento, preparar pedidos de medicamentos e orientar a tomada de decisões clínicas, tornando crucial que os médicos continuem a examinar o que o software produz.
