DESAFIOS E ÉTICA NO USO DA INTELIGÊNCIA ARTIFICIAL NA MEDICINA

Ciências da Saúde, Volume 29 - Edição 144/MAR 2025 / 13/03/2025

REGISTRO DOI: 10.69849/revistaft/cl10202503131341

Abrahão, Thayz Regina Portes1 / Aguiar, Joise Patrícia Gonçalves de2 / Colares, Jefferson Morais3 / da Silva, Fernanda Karina Oliveira4 / da Silva, Luiz Gustavo da Mata Rodrigues5 / de Oliveira, Tania Rodrigues6 / Júnior, Paulo Sérgio Soares7 / Krichak, Bruna Aparecida8
Marques, João Miguel9 / Moret, Livia Cavalcanti10 / Santos, Renata Rana Nunes11 / Silva, Karen Brigitte Fraenkel12 / Silva, Thayki Luiz de Morais13 / Telles, Clarear Figueiredo14 / Varanis, Ana Lúcia Pereira Santos15

RESUMO

Introdução: A inteligência artificial (IA) tem revolucionado a prática médica, com aplicações que vão desde o diagnóstico até o suporte à decisão clínica. No entanto, o uso da IA na saúde levanta desafios éticos e jurídicos significativos, relacionados à privacidade de dados, viés algorítmico e responsabilidade profissional. Objetivo: Este estudo tem como objetivo revisar a literatura atual sobre os desafios éticos e regulamentares do uso da IA na medicina, destacando as principais preocupações e possíveis soluções. Métodos: Foi realizada uma revisão narrativa da literatura com a seleção de artigos publicados entre 2019 e 2024 nas bases de dados PubMed, SciELO e Google Acadêmico. Foram incluídos estudos que abordam os aspectos éticos, bioéticos e regulatórios da IA na medicina. Resultados: Os estudos analisados destacam a necessidade de regulamentações claras para garantir a segurança dos dados dos pacientes e a transparência dos algoritmos. O viés algorítmico pode comprometer a equidade no atendimento, e a indefinição sobre a responsabilidade médica no uso da IA permanece uma preocupação central. Além disso, há um debate crescente sobre o impacto da IA na relação médico-paciente e na autonomia dos profissionais de saúde. Conclusão: O avanço da IA na medicina exige um equilíbrio entre inovação tecnológica e princípios éticos. O desenvolvimento de diretrizes e regulamentações específicas é essencial para mitigar riscos e garantir que a IA seja utilizada de forma segura e equitativa na prática clínica.

Palavras-chave: Inteligência artificial; Bioética; Ética médica; Medicina digital.

ABSTRACT

Introduction: Artificial intelligence (AI) has revolutionized medical practice, with applications ranging from diagnosis to clinical decision support. However, the use of AI in healthcare raises significant ethical and legal challenges, particularly concerning data privacy, algorithmic bias, and professional responsibility. Objective: This study aims to review the current literature on the ethical and regulatory challenges of AI in medicine, highlighting key concerns and potential solutions. Methods: A narrative literature review was conducted by selecting articles published between 2019 and 2024 from PubMed, SciELO, and Google Scholar databases. Studies addressing ethical, bioethical, and regulatory aspects of AI in medicine were included. Results: The analyzed studies emphasize the need for clear regulations to ensure patient data security and algorithm transparency. Algorithmic bias may compromise healthcare equity, and the lack of clarity regarding medical liability in AI use remains a central concern. Furthermore, there is an increasing debate about AI’s impact on the doctor-patient relationship and healthcare professionals’ autonomy. Conclusion: The advancement of AI in medicine requires a balance between technological innovation and ethical principles. Developing specific guidelines and regulations is essential to mitigate risks and ensure AI is used safely and equitably in clinical practice.

Keywords: Artificial intelligence; Bioethics; Medical ethics; Digital medicine.

INTRODUÇÃO 

A inteligência artificial (IA) tem emergido como uma ferramenta revolucionária na medicina, impulsionando avanços significativos em diversas áreas, como diagnóstico, monitoramento de pacientes, personalização de tratamentos e suporte à decisão clínica. Algoritmos de aprendizado de máquina e redes neurais vêm sendo amplamente utilizados para analisar grandes volumes de dados médicos, permitindo diagnósticos mais precisos e identificação precoce de doenças. Além disso, a IA tem sido aplicada na automação de processos administrativos e na otimização da gestão hospitalar, contribuindo para maior eficiência no atendimento aos pacientes1.

No entanto, apesar de seu enorme potencial, a implementação da IA na medicina levanta importantes questões éticas e jurídicas que precisam ser cuidadosamente consideradas. A privacidade e segurança dos dados dos pacientes, o viés algorítmico que pode comprometer a equidade no atendimento, e a indefinição sobre a responsabilidade médica no uso dessas tecnologias são alguns dos desafios mais discutidos na literatura2,3. Além disso, há preocupações quanto ao impacto da IA na relação médico-paciente e na autonomia dos profissionais de saúde, uma vez que a dependência excessiva dessas ferramentas pode influenciar a tomada de decisões clínicas4.

Diante desse cenário, é fundamental estabelecer diretrizes e regulamentações que garantam o uso ético e seguro da IA na prática médica. Este artigo tem como objetivo revisar a literatura atual sobre os desafios éticos e regulatórios do uso da inteligência artificial na medicina, destacando as principais preocupações e possíveis soluções para mitigar seus riscos e maximizar seus benefícios.

METODOLOGIA

Este estudo trata-se de uma revisão narrativa da literatura, cujo objetivo é analisar os desafios éticos e regulatórios do uso da inteligência artificial (IA) na medicina. Para a seleção dos artigos, foram utilizadas as bases de dados PubMed, SciELO e Google Acadêmico, considerando publicações entre 2019 e 2024. Os critérios de inclusão adotados foram:

  • Artigos publicados em português, inglês ou espanhol;
  • Estudos que abordassem aspectos éticos, bioéticos e regulatórios da IA aplicada à medicina;
  • Trabalhos que discutissem os impactos da IA na relação médico-paciente e na responsabilidade profissional.

Foram excluídos artigos que não apresentavam relação direta com os desafios éticos e regulatórios, bem como estudos duplicados ou que não possuíam acesso ao texto completo.

A análise dos dados foi realizada de forma descritiva, sintetizando as principais preocupações levantadas na literatura, bem como as soluções e diretrizes propostas para um uso seguro e equitativo da IA na prática clínica.

RESULTADOS E DISCUSSÃO

1. Aplicações da Inteligência Artificial na Medicina

A inteligência artificial (IA) tem se consolidado como uma ferramenta fundamental na medicina contemporânea, promovendo avanços significativos no diagnóstico, tratamento e gestão de pacientes. Seu uso abrange desde sistemas de suporte à decisão clínica até algoritmos avançados para interpretação de exames de imagem. A crescente implementação dessas tecnologias visa aumentar a precisão dos diagnósticos, otimizar recursos médicos e melhorar a experiência do paciente1,2.

Uma das áreas mais beneficiadas pela IA é a radiologia, onde algoritmos de aprendizado profundo são utilizados para interpretar exames como tomografias computadorizadas, ressonâncias magnéticas e radiografias com alta precisão. Estudos demonstram que sistemas baseados em IA podem detectar anomalias com sensibilidade comparável ou superior à de radiologistas experientes, reduzindo o tempo necessário para análises e possibilitando diagnósticos precoces3,4. Além disso, a IA auxilia na priorização de casos urgentes, permitindo intervenções mais rápidas em condições críticas, como acidentes vasculares cerebrais e tumores malignos5.

Outra aplicação relevante está na cirurgia assistida por robôs, onde plataformas baseadas em IA, como o sistema Da Vinci, oferecem maior precisão e controle durante procedimentos minimamente invasivos. A utilização dessas tecnologias reduz complicações operatórias, melhora a recuperação dos pacientes e permite a realização de cirurgias complexas com menor trauma tecidual6. Além disso, modelos preditivos baseados em IA auxiliam cirurgiões na tomada de decisões intraoperatórias, melhorando os desfechos cirúrgicos e reduzindo o risco de complicações7.

No campo da medicina personalizada, a IA tem sido empregada na análise de dados genômicos e biomarcadores para desenvolver terapias direcionadas a pacientes específicos. Algoritmos sofisticados são utilizados para prever respostas individuais a determinados tratamentos, otimizando a escolha de medicamentos e doses ideais. Essa abordagem tem sido particularmente promissora no tratamento de doenças oncológicas, onde a IA permite identificar mutações genéticas e sugerir terapias-alvo personalizadas, aumentando a eficácia do tratamento e minimizando efeitos adversos8,9.

Além disso, a IA tem se mostrado valiosa na gestão hospitalar e na melhoria do atendimento ao paciente. Sistemas inteligentes são utilizados para prever a demanda por leitos, otimizar fluxos de trabalho e reduzir tempos de espera em emergências. Chatbots e assistentes virtuais baseados em IA também desempenham um papel crescente na triagem de sintomas, fornecendo orientações iniciais aos pacientes e facilitando a comunicação entre profissionais de saúde e usuários do sistema10,11. Com a evolução contínua dessas tecnologias, a IA se consolida como uma aliada indispensável na prática médica moderna, promovendo maior eficiência e qualidade no atendimento.

2. Desafios Éticos no Uso da Inteligência Artificial na Medicina 

O avanço IA na medicina levanta importantes questões éticas que precisam ser cuidadosamente analisadas. Embora a IA ofereça benefícios substanciais, como maior precisão diagnóstica e otimização do atendimento, seu uso também apresenta desafios relacionados à privacidade, transparência, responsabilidade e viés algorítmico. A incorporação dessas tecnologias no cuidado médico exige a formulação de diretrizes que garantam sua aplicação de forma justa, segura e alinhada aos princípios da bioética1,8.

Um dos principais desafios éticos da IA na medicina é a privacidade e segurança dos dados dos pacientes. O treinamento de algoritmos requer grandes volumes de informações sensíveis, como registros médicos eletrônicos, imagens diagnósticas e dados genômicos. A proteção dessas informações contra acessos indevidos e violações de segurança é fundamental para preservar a confidencialidade do paciente e evitar possíveis usos inadequados dos dados. Além disso, é necessário garantir que os pacientes tenham controle sobre suas informações, com políticas claras de consentimento informado e anonimização dos dados utilizados para treinamento dos modelos de IA4,5.

Outro aspecto crítico é a transparência e a interpretabilidade das decisões tomadas pela IA. Muitos sistemas utilizam redes neurais profundas e aprendizado de máquina, cujas operações internas são frequentemente descritas como “caixas-pretas”, dificultando a compreensão dos critérios utilizados para gerar um diagnóstico ou recomendar um tratamento. Essa falta de explicabilidade pode comprometer a confiança dos médicos e pacientes, além de dificultar a responsabilização em casos de erros. Para mitigar esse problema, pesquisadores propõem o desenvolvimento de algoritmos interpretáveis, que forneçam justificativas compreensíveis para suas decisões, promovendo maior transparência na prática médica6,7.

A questão da responsabilidade jurídica também representa um desafio significativo. Em situações em que um erro clínico ocorre devido a uma decisão baseada em IA, surge a dúvida sobre quem deve ser responsabilizado: o desenvolvedor do software, a instituição médica ou o profissional de saúde que utilizou a tecnologia? Atualmente, muitos países ainda não possuem regulamentações claras sobre a responsabilidade legal em casos envolvendo IA na medicina. A definição de diretrizes que esclareçam essas questões é essencial para garantir a segurança dos pacientes e a integridade dos profissionais da saúde11,12.

Por fim, o viés algorítmico é uma preocupação ética fundamental na implementação da IA na medicina. Algoritmos treinados com dados não representativos podem perpetuar desigualdades e prejudicar determinados grupos populacionais. Estudos mostram que sistemas de IA desenvolvidos com base em bancos de dados predominantemente europeus ou norte-americanos podem ter menor precisão ao avaliar pacientes de outras etnias, aumentando o risco de erros diagnósticos e tratamentos inadequados. Para minimizar esse problema, é essencial que os conjuntos de dados utilizados sejam diversificados e representativos da população atendida, garantindo que a IA promova equidade no acesso e na qualidade dos serviços médicos3,10.

Diante desses desafios, torna-se imprescindível que o desenvolvimento e a aplicação da inteligência artificial na medicina sejam acompanhados de uma abordagem ética e regulatória robusta. A criação de normas claras, o monitoramento contínuo da tecnologia e a capacitação dos profissionais de saúde para o uso seguro e responsável da IA são medidas essenciais para que essa inovação traga benefícios à prática médica sem comprometer os princípios fundamentais da bioética1,3.

3. Regulamentação e Diretrizes para o Uso da Inteligência Artificial na Medicina 

A rápida expansão da IA na medicina exige regulamentações e diretrizes que garantam seu uso seguro, ético e eficaz. O desenvolvimento de normas específicas é fundamental para orientar profissionais de saúde, pesquisadores e empresas na implementação responsável dessas tecnologias. Diversos países têm avançado na criação de marcos regulatórios para IA na área médica, mas ainda existem desafios significativos na padronização global dessas diretrizes2,8.

Um dos principais aspectos da regulamentação da IA na medicina é a certificação e validação de algoritmos utilizados no diagnóstico e tratamento de doenças. Agências reguladoras, como a Food and Drug Administration (FDA) nos Estados Unidos e a Agência Nacional de Vigilância Sanitária (ANVISA) no Brasil, têm desenvolvido protocolos para avaliar a eficácia e segurança dos sistemas baseados em IA. No entanto, a rápida evolução da tecnologia desafia a capacidade das regulamentações de acompanhar novas aplicações, tornando necessário um processo dinâmico de atualização e revisão dessas normas4,5.

Outro ponto essencial na regulamentação da IA na medicina é a proteção de dados e a privacidade dos pacientes. Leis como o Regulamento Geral sobre a Proteção de Dados (GDPR) na União Europeia e a Lei Geral de Proteção de Dados (LGPD) no Brasil estabelecem diretrizes rigorosas para o armazenamento, processamento e compartilhamento de informações médicas. O cumprimento dessas normativas é essencial para evitar vazamentos de dados e garantir que os pacientes tenham controle sobre suas informações pessoais. Além disso, é necessário definir regras claras para a anonimização de dados utilizados no treinamento de algoritmos, reduzindo riscos de reidentificação e uso indevido dessas informações6,7.

A responsabilização em casos de erros médicos decorrentes da utilização de IA também é um desafio na construção de diretrizes regulatórias. Diferente de erros causados exclusivamente por humanos, as falhas em sistemas de IA podem ser resultado de problemas no treinamento do algoritmo, viés nos dados ou falhas operacionais. Assim, a definição de responsabilidade legal nesses casos precisa envolver desenvolvedores, instituições de saúde e profissionais médicos, garantindo que os pacientes tenham acesso a mecanismos de reparação quando houver danos causados pelo uso inadequado da IA11,12.

A regulamentação da IA na medicina deve incluir diretrizes éticas que assegurem o uso equitativo da tecnologia. É essencial evitar que sistemas de IA ampliem desigualdades no acesso à saúde ou reforcem vieses discriminatórios. Para isso, órgãos reguladores devem exigir que os algoritmos passem por auditorias periódicas que avaliem sua imparcialidade e impacto na equidade do atendimento médico. Além disso, a capacitação de profissionais da saúde no uso da IA deve ser incorporada às regulamentações, garantindo que a tecnologia seja aplicada de forma responsável e eficiente9,10.

Diante desses desafios, o desenvolvimento de regulamentações robustas e atualizadas é essencial para garantir que a inteligência artificial contribua positivamente para a medicina. O equilíbrio entre inovação e segurança deve ser a base para a formulação de diretrizes eficazes, permitindo que a IA seja um recurso valioso para aprimorar diagnósticos, tratamentos e a qualidade do atendimento médico sem comprometer a ética e a segurança dos pacientes1,3.

CONSIDERAÇÕES FINAIS 

A crescente adoção da inteligência artificial na medicina oferece inúmeras oportunidades para melhorar a precisão diagnóstica, a personalização dos tratamentos e a eficiência dos serviços de saúde. No entanto, sua implementação também traz desafios éticos e regulatórios que não podem ser ignorados. Questões como a privacidade dos dados, o viés algorítmico e a responsabilidade legal precisam ser abordadas de maneira clara para garantir que a IA seja utilizada de forma segura e equitativa.

O desenvolvimento de regulamentações específicas, a transparência dos algoritmos e a definição de diretrizes éticas são passos essenciais para mitigar riscos e garantir que a IA contribua positivamente para a prática médica. Além disso, a educação continuada dos profissionais de saúde sobre o uso dessas tecnologias é fundamental para que possam utilizá-las de maneira crítica e responsável. Dessa forma, a inteligência artificial pode se tornar uma aliada valiosa, promovendo avanços significativos na medicina sem comprometer os princípios éticos fundamentais da profissão.

REFERÊNCIAS

  1. de Moraes JJ, de Almeida Barbosa MC, Vieira PH, de Souza Ferreira AC, Romeiro ET, Terebinto DV, do Vale MD, de Almeida MO, Pinto SP, de Lima Zbierski M. Impacto da tecnologia de inteligência artificial na medicina diagnóstica. Revista Ibero-Americana de Humanidades, Ciências e Educação. 2023 Aug 21;9(7):1303-214.
  2. Cuadros C, Erasmo J. Desafíos bioéticos en la formación médica en la era de la inteligencia artificial. Revista San Gregorio. 2024 May;1(57):186-98.
  3. Franco GM. Inteligência Artificial na Medicina: Avanços e Desafios. Revista Multidisciplinar do Nordeste Mineiro. 2024 Jun 17;5(1).
  4. Galdames IS. Inteligencia artificial en medicina humana. International Journal of Medical and Surgical Sciences. 2023 Mar 29;10(1):1-4.
  5. González Arencibia M, Mar Cornelio O, González Fortuna I. Aspectos éticos de la aplicación de la informática a la medicina. Serie Científica de la Universidad de las Ciencias Informáticas. 2024 Aug;17(8):1-8.
  6. Zucolotto TE, Gerônimo RM, Silva PI, da Costa LC. A inteligência artificial na medicina: aplicações atuais e potenciais. Brazilian Journal of Health Review. 2023 Dec 12;6(6):31237-47.
  7. García-López A, Girón-Luque F, Rosselli D. La integración de la inteligencia artificial en la atención médica: desafíos éticos y de implementación. Universitas Médica. 2023 Aug 28;64(3).
  8. Galiana LI, Gudino LC, González PM. Ética e inteligencia artificial. Revista Clínica Española. 2024 Feb 23.
  9. Cantú-Martínez PC. Inteligencia artificial y sus connotaciones éticas. Revista Iberoamericana de Bioética. 2024 Jul 15(25):01-11.
  10. Gameiro GR, Arasaki AM, Lira CC, Neto SK, Stachuk MR. Inteligência Artificial a Serviço da Medicina Brasileira. Revista de Medicina. 2019 Apr 22;98(1):i-ii.
  11. Lucas LB, dos Santos DO. Considerações sobre os desafios jurídicos do uso da inteligência artificial na medicina. Revista de Direito. 2021 May 28;13(01):01-25.
  12. Nunes HD, Guimarães RM, Dadalto L. Desafíos bioéticos del uso de la inteligencia artificial en los hospitales. Revista bioética. 2022 May 9;30:82-93.