Discussões sobre inteligência artificial tendem a gerar esperança, entusiasmo e até medo.
Geeta Nayyar, MD, diz que a IA não pode substituir a necessidade de médicos e humanidade na área da saúde.
Muitos líderes da área da saúde esperam IA para oferecer novas oportunidades no atendimento ao paciente e simplificando as operações. Mas mesmo os fervorosos defensores da IA também reconhecem que o desenvolvimento de novas ferramentas de IA deve ser gerenciado com cuidado, até mesmo com cautela.
Geeta Nayyar, MD, autora e líder em tecnologia de saúde, e Vinitha Ramnathan, diretora de produtos da NRC Health, conversaram com o Chief Healthcare Executive® sobre IA na saúde. Em uma discussão conjunta, eles ofereceram suas perspectivas sobre o potencial da IA, a necessidade de salvaguardas éticas e a construção de confiança na IA.
Nayyar, conhecida como “Dra. G”, diz que o potencial da IA na área da saúde parece ser “ilimitado”. Ela também observa que houve projeções igualmente otimistas para tudo, desde registros eletrônicos de saúde até mídias sociais.
“Temos que estar cientes de que as lições que aprendemos com tecnologias passadas precisam ser aplicadas à IA, não importa o quão 'nova' ela pareça ser”, diz Nayyar.
Em uma discussão recente de 40 minutos com o Diretor Executivo de Saúde, eles enfatizaram que a apreciação pelas possibilidades da IA não entra em conflito com a necessidade de desenvolvimento e uso cuidadosos de tecnologias de IA.
A IA não é uma “solução milagrosa”
As organizações de saúde reconhecem algumas das preocupações em torno da IA, incluindo o fato de que muitos consumidores estão desconfiados A IA está sendo usada em áreas como diagnóstico de pacientesdiz Ramnathan.
“A IA ética veio para ficar na área da saúde”, diz Ramnathan.
E ela acrescenta: “Há muito burburinho sobre isso, mas definitivamente está aqui, e agora cabe a nós dizer como podemos garantir que ele esteja sendo usado da maneira certa e o que podemos fazer para tornar isso ético?”
Nayyar concorda com essa avaliação, mas diz: “Eu também acrescentaria que acho que a IA antiética também veio para ficar, se não formos conscientes como indústria”.
O autor de “Dead Wrong: Diagnosing and Treating Healthcare's Misinformation Illness”, Nayyar aponta a existência de alucinações de IA como um conto de advertência sobre o exagero versus a realidade da IA.
Um exemplo de desinformação ocorreu quando a ferramenta AI Overview do Google foi questionada sobre como evitar que o queijo escorregasse da pizza, e a resposta foi aplicar um pouco de colacomo relatou a Forbes (a resposta da IA refletiu um comentário antigo que ganhou popularidade no Reddit).
Nayyar diz que é importante reconhecer que a IA não é “a solução mágica”.
“Todos os maus hábitos que temos na área da saúde, a falta de interoperabilidade, a falta de diversidade em nossos ensaios clínicos, a falta de comunicação, compreensão e dados sobre diferentes tipos de populações, particularmente os negros e pardos carentes, comunidades rurais de saúde, etc., todos os nossos maus hábitos na área da saúde ainda precisam ser corrigidos. A IA só vai amplificar nossos bons hábitos ou nossos maus hábitos”, ela diz.
Escolhendo os casos de uso corretos
Quando se trata de promover confiança, Ramnathan diz que as organizações de saúde podem escolher os casos de uso certos para IA para demonstrar como a IA pode ter impacto na equipe.
Vinitha Ramnathan, diretora de produtos da NRC Health, diz que a IA pode melhorar a equidade na saúde, se usada corretamente.
Em vez de pular para usos diagnósticos, Ramnathan sugere usar IA generativa para ajudar pacientes com agendamento de consultas. Da mesma forma, ferramentas de IA podem fornecer uma visão mais holística de pacientes que aparecem em hospitais e práticas clínicas.
“Essas são áreas e casos de uso em que isso pode ter um grande impacto na experiência do paciente e do clínico”, diz Ramnathan.
Ela observa que a IA pode ajudar a melhorar a experiência dos pacientes ao oferecer mais da personalização que os consumidores desfrutam em outros setores. A NRC Health trabalha com sistemas de saúde para obter insights dos pacientes, e a empresa está usando ferramentas alimentadas por IA para coletar mais dados dos pacientes.
“Em uma época em que meu barista sabe exatamente como eu gosto do meu café, é meio triste que essa mesma quantidade de personalização não esteja disponível na área da saúde”, diz ela.
Apontando para registros eletrônicos de saúde e algumas das dores de cabeça administrativas que eles criaram para médicos e enfermeiros, Nayyar também observa que é importante envolver a liderança clínica no desenvolvimento de ferramentas de IA para ajudar a dar suporte à força de trabalho e permitir que os cuidadores façam seu melhor trabalho. Registros eletrônicos de saúde foram adotados sem uma compreensão dos fluxos de trabalho das equipes de atendimento, ela diz.
“Embora possamos ter resolvido três problemas, criamos cinco novos para a força de trabalho e efetivamente os esgotamos”, diz Nayyar. “E agora também desligamos a força de trabalho da tecnologia.”
Ela diz que pensar em usar IA para substituir médicos não é realista e “não é o problema certo a ser resolvido.
“Estamos realmente em um ponto de inflexão na indústria, onde temos que estar cientes de que estamos no negócio da humanidade. A assistência médica nada mais é do que o negócio da humanidade”, diz Nayyar.
Ela diz que é fundamental pensar na IA como uma forma de apoiar o trabalho dos médicos, principalmente em um momento em que a confiança do público no setor de saúde diminuiu.
“Em vez disso, temos que reconhecer que nenhuma pessoa pode saber tudo”, diz Nayyar. “Como podemos tornar nossa equipe mais rápida, melhor, mais veloz, mais eficiente na cabeceira do paciente?”
IA e equidade
Numa altura em que muitos sistemas de saúde e hospitais se concentraram em melhorar a equidade na saúde, alguns líderes da área da saúde temem que A IA pode agravar as disparidades se a tecnologia não estiver amplamente disponível em algumas comunidades.
Ramanthan diz que essa é uma preocupação realista.
“Ouvimos isso inúmeras vezes de sistemas de saúde com os quais trabalhamos”, ela diz. “Eles lidam com isso diariamente, e é uma alta prioridade para eles.”
E ela diz que as organizações de saúde precisam pensar em usar IA tendo em mente a equidade na saúde.
“Tudo o que fazemos na área da saúde, em termos de garantir que estamos fornecendo o melhor atendimento possível aos consumidores, precisa levar em conta os determinantes sociais da saúde”, diz Ramnathan.
Nayyar diz que as organizações de saúde precisam obter melhores dados para ferramentas de IA.
“Sabemos que não temos bons dados”, diz Nayyar. “Temos que estar cientes de que a IA só pode trabalhar com os dados. Nós os fornecemos. E então todas as coisas que precisamos corrigir em torno das equidades em saúde, na verdade, são provavelmente ainda mais importantes agora.”
Nayyar observa que a desinformação e a informação falsa da IA “tendem a vitimar mais as populações carentes.
“Estar muito, muito atento, mais uma vez, aos usos éticos e como essas disparidades podem realmente piorar com o tempo, é incrivelmente importante”, diz Nayyar.
No entanto, Ramnathan diz que criar modelos de IA para refletir os determinantes sociais da saúde e as disparidades pode ser uma promessa para um melhor tratamento de grupos carentes.
“A IA bem feita pode realmente ajudar”, ela diz.
Motivos para excitação
Ao mesmo tempo em que defendem abordagens ponderadas e bem pensadas para o desenvolvimento de IA, Ramnathan e Nayyar apreciam o potencial de melhorar a experiência do paciente e ajudar a elaborar melhores tratamentos.
“Se eu for um consumidor, ter um assistente de IA personalizado que me ajude a orientar como preciso navegar no meu tratamento seria incrível”, diz Ramnathan. “Se eu for um clínico, ter um assistente de IA que me oriente durante o meu dia, desde entender melhor o paciente, ter uma melhor interação com o paciente até, finalmente, fornecer um melhor tratamento seria super emocionante.”
Ela também destaca soluções de IA que podem simplificar e melhorar o faturamento, muitas vezes uma área complicada para os pacientes.
Para Nayyar, ela diz que está entusiasmada com o potencial da IA no espaço diagnóstico e terapêutico “e com a capacidade de realmente fazer medicina personalizada”.
“Acho que é isso que entusiasma qualquer médico, qualquer tecnólogo, qualquer pessoa na indústria da saúde”, diz Nayyar. “Então, essa ideia de que seremos capazes de produzir melhor, mais rápido, dispositivos médicos, terapêuticas médicas, é incrivelmente emocionante.”
Como clínica, ela diz que está ansiosa pelo momento em que poderá tratar um homem negro de 35 anos com uma doença autoimune rara com uma rotina de cuidados personalizada, em vez de depender de estudos em que os participantes eram homens jovens e brancos.
“Em vez de simplesmente jogar coisas na parede, que é o que parece às vezes na medicina, particularmente em campos esotéricos, será tão fantástico poder realmente obter os dados pessoalmente, realmente elaborar um plano terapêutico que seja específico para o indivíduo na minha frente ao lado do leito”, diz Nayyar. “É isso que é emocionante, porque é isso que realmente impulsiona os resultados.”
E ela observa que não existe uma abordagem única para a assistência médica, mesmo quando a IA está envolvida.
“Então, quanto mais formos capazes de entender sobre as populações de pacientes e então aplicar essas informações em jornadas de cuidados personalizados, esse será realmente o Santo Graal da medicina em todos os aspectos”, ela diz.
