Inteligência Artificial na Prática Clínica: Desafios Éticos e Caminhos para uma Implementação Responsável

A incorporação acelerada da inteligência artificial (IA) na prática clínica tem impulsionado avanços promissores na acurácia diagnóstica e na personalização do cuidado. Contudo, o artigo de opinião publicado na PLOS Digital Health por Weiner et al. (2025) alerta para os dilemas éticos emergentes e persistentes nessa transição, propondo uma estrutura crítica baseada em cinco dimensões: justiça e equidade, confiança e transparência, consentimento e confidencialidade, responsabilização e cuidado centrado no paciente. 

Justiça e equidade: Os autores destacam que algoritmos treinados em dados historicamente enviesados podem ampliar desigualdades já existentes. Um exemplo emblemático foi a subestimação de risco clínico para pacientes negros por um algoritmo amplamente utilizado, por empregar custos de saúde como proxy de necessidade clínica. Como solução, recomenda-se o uso de dados representativos, incorporação dos determinantes sociais da saúde no treinamento dos modelos e abertura para iniciativas open source que democratizem o acesso à IA. 

Confiança e transparência: A confiabilidade dos sistemas depende da explicabilidade e representatividade dos dados. Entretanto, modelos de deep learning operam como “caixas-pretas”, dificultando a interpretação por médicos e pacientes. A proposta é investir em “transparência multiescalar” (dados, algoritmo, processo e resultado) e garantir que os profissionais consigam explicar limitações e racionalidades dos sistemas de IA aos pacientes. 

Consentimento e privacidade: Embora a anonimização seja mandatória, o artigo chama atenção para a tensão entre o uso contínuo dos dados para atualização dos modelos e o direito do paciente à revogação do consentimento. Estudos mostraram que pacientes exigem mais explicações quando a decisão médica é baseada em IA do que em especialistas humanos, indicando a necessidade de abordagens individualizadas. 

Responsabilização e viés da automação: O risco de atribuir decisões equivocadas à “máquina” sem responsabilização clara é elevado. Médicos, desenvolvedores e instituições devem compartilhar responsabilidade por resultados adversos. A tendência ao “viés de automação” — aceitar cegamente a decisão do algoritmo — reforça a urgência por protocolos de supervisão humana contínua. 

Cuidado centrado no paciente e empatia algorítmica: Apesar da eficiência, a resistência ao uso de IA por pacientes revela preocupações com a desumanização do cuidado. A recomendação é que a IA atue como ferramenta de apoio, preservando o julgamento clínico humano e adaptando suas recomendações ao contexto individual, com linguagem empática e acessível. 

Entre os caminhos propostos, destaca-se o framework SHIFT (Sustentabilidade, Humanização, Inclusividade, Equidade e Transparência) e o conceito de “algoritmovigilância”, que reforça a necessidade de monitoramento contínuo dos algoritmos, inspirado na farmacovigilância. 

O texto também evidencia lacunas nas regulações atuais: muitas são pós-implementação, o que atrasa a mitigação de vieses. Somente 34% dos algoritmos aprovados pelo FDA foram validados por múltiplas instituições, e apenas 4% reportaram dados demográficos. Os autores defendem que frameworks como o GDPR e as recentes políticas da FDA e do FTC são avanços, mas insuficientes. A ética em IA não pode ser estática, devendo envolver engenheiros, clínicos, pacientes e bioeticistas em um ciclo contínuo de escuta e revisão. 

Nota editorial: Este conteúdo foi desenvolvido com o apoio de tecnologias de inteligência artificial para otimização da redação e estruturação da informação. Todo o material foi cuidadosamente revisado, validado e complementado por especialistas humanos antes de sua publicação, garantindo a acurácia científica e a adequação às boas práticas editoriais.